语言生成能力、上下文理解能力和世界知识能力的关键前提，但也可能因此在信息处理数量、频率、类型等方面违背信息处理最小化要求。例如，在生成式人工智能应用实践中，由于其数据处理方式的复杂性和不确定性，往往难以确定个人信息的处理期限。当生成式人工智能的应用场景发生变化或数据集需更新时，信息处理者可能需要重新处理之前收集的个人信息。这种情况可能会导致信息主体只同意了一次处理，却面临自己的个人信息被无期限处理的情形，这与个人信息处理的最小必要原则不相符。其次，根据《个人信息保护法》第6条第1款，最小必要原则中的相关性要求必须是直接相关，即实现处理目的与个人信息处理之间具有必然的、紧密的联系。在语料库构建过程中，生成式人工智能有时会收集与处理目的无关的个人信息，例如用户的搜索记录、设备信息、通信信息，用户的时区、地点、国家、日期和具体接触时间等。这些信息的收集与最终的文本生成服务之间缺乏必要联系，违背最小必要原则中的相关性要求。最后，最小必要原则中信息处理合比例性要求个人信息处理所带来的风险与特定目的实现所带来的利益相比须符合一定比例。然而，生成式人工智能语料库数据中包含大量敏感的用户个人身份信息，如姓名、电子邮件地址、电话号码等，而这些信息并非实现优化模型目的必不可少，一旦这些敏感个人信息泄露或被不当利用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害。因此，处理敏感个人信息所带来的风险与实现特定目的所带来的利益（优化语言模型）相比显着不合比例，不符合最小必要原则中最小化、合比例性两个子原则的要求。
（三）虚假信息生成与累积的风险
生成式人工智能强大的泛化和生成能力也为个人信息保护带来一系列负面影响，尤其是大量虚假信息生成与累积。根据《个人信息保护法》第8条，处理个人信息应当保证个人信息的质量，避免因个人信息不准确、不完整对个人权益造成不利影响。然而，据美国新闻可信度评估与研究机构NewsGuard测试，ChatGPT模型能够在极短时间内改变信息，生成大量令人信服但缺乏信源的内容。究其原因，生成式人工智能生成的内容是基于对语料库的学习和预测，是一种经验的再现，并非从语义和逻辑角度进行推理和判断的产物，对于生成内容本身的真实性和准确性，生成式人工智能无法进行判断。这一特点可能导致生成式人工智能产生大量虚假信息，从而侵害个人信息权益，甚至造成对公共利益和国家利益的危害。
这章没有结束，请点击下一页！
事实上，虚假信息生成与累积、乃至泛滥已开始对社会和个人产生严重影响。近期，一起由信息来源不实引发的ChatGPT编造法学教授性骚扰丑闻事件，再次凸显生成式人工智能所带来的信息可信度和可靠性方面的潜在风险。这种看似中立可信的技术能力实则对判断能力不足的用户产生极大了误导性，同时也对相关信息主体的个人信息权益、名誉权、隐私权以及其他人格权造成损害。可以设想，如果虚假信息被误用于学术研究，将会严重影响科学研究的严谨性，并导致相关政策制定缺乏合理性。更为严重的是，恶意用户行为者或团体可能会利用该技术故意制造和传播虚假的新闻和信息，甚至生成不端或仇视性的信息，以操纵舆论。这将严重影响政治稳定，破坏公众对政治体系和社会价值观的信任。
在当今全球各种思潮、文化和价值观念相互碰撞的背景下，人工智能技术面临着被政治操纵、用作意识形态宣传的风险，我国在生成式人工智能开发与应用中应当重点关注防范。西方发达国家掌握大数据和人工智能核心技术，按照其自身价值观制定全球政治秩序和规则，裁剪符合自身意识形态标准的数据