摘要：生成式人工智能发展迅速，但东英吉利大学（UEA）的一项新研究警告说，它可能会给公众信任和民主价值观带来隐患。ChatGPT是一种广泛使用的人工智能模型，它往往倾向于左翼观点，而回避保守观点，这引起了人们对其社会影响力的担忧。 这项研究强调，迫切需要监管保障措施

生成式人工智能发展迅速，但东英吉利大学（UEA）的一项新研究警告说，它可能会给公众信任和民主价值观带来隐患。ChatGPT是一种广泛使用的人工智能模型，它往往倾向于左翼观点，而回避保守观点，这引起了人们对其社会影响力的担忧。 这项研究强调，迫切需要监管保障措施来确保人工智能工具保持公平、平衡并符合民主价值观。

这项研究是与巴西格图利奥-瓦加斯基金会（FGV）和 Insper 的研究人员合作进行的，研究发现 ChatGPT 在文本和图像生成方面都表现出政治偏见，偏向左倾观点。 这引起了人们对人工智能设计的公平性和责任感的担忧。

研究人员发现，ChatGPT 经常回避与主流保守派观点的接触，却很容易产生左倾内容。 这种意识形态代表性的失衡可能会扭曲公共话语，加深社会分歧。

法比奥-莫托基（Fabio Motoki）博士是UEA诺里奇商学院会计学讲师，他是今天发表在《经济行为与组织期刊》上的论文《评估生成人工智能中的政治偏见和价值错位》的首席研究员。

Motoki博士说："我们的研究结果表明，生成式人工智能工具远非中立。 它们反映出的偏见可能会以意想不到的方式影响人们的看法和政策。"

随着人工智能成为新闻、教育和政策制定不可或缺的一部分，研究呼吁提高透明度并制定监管保障措施，以确保与社会价值观和民主原则保持一致。

像 ChatGPT 这样的人工智能生成系统正在重塑信息在各个领域的创造、消费、解读和传播方式。 这些工具虽然具有创新性，但却存在放大意识形态偏见和影响社会价值观的风险，而这些方式尚未得到充分理解或监管。

不加控制的人工智能偏见的风险

共同作者、EPGE 巴西经济与金融学院经济学教授皮尼奥-内托博士强调了潜在的社会影响。

皮尼奥-内托博士说"生成式人工智能中不受约束的偏见可能会加深现有的社会分歧，削弱人们对机构和民主进程的信任。"这项研究强调了政策制定者、技术专家和学者之间开展跨学科合作的必要性，以设计出公平、负责任、符合社会规范的人工智能系统"。

研究团队采用了三种创新方法来评估 ChatGPT 中的政治一致性，推进了先前的技术，以获得更可靠的结果。 这些方法结合了文本和图像分析，利用了先进的统计和机器学习工具。

用真实世界调查测试人工智能

首先，研究使用了皮尤研究中心（Pew Research Center）开发的标准化问卷来模拟普通美国人的回答。

Motoki说："通过将 ChatGPT 的答案与真实调查数据进行比较，我们发现了系统性的左倾观点偏差。此外，我们的方法还展示了大样本量是如何稳定人工智能输出的，从而为研究结果提供了一致性。"

自由文本回复中的政治敏感性

在第二阶段，ChatGPT 的任务是生成涉及政治敏感主题的自由文本回复。

研究还使用了不同的大型语言模型 RoBERTa 来比较 ChatGPT 的文本是否符合左翼和右翼的观点。 结果显示，虽然 ChatGPT 在大多数情况下与左翼价值观保持一致，但在军事至上等主题上，它偶尔会反映出更保守的观点。

图像生成： 偏见的新维度

最后一项测试探索了 ChatGPT 的图像生成能力。 文本生成阶段的主题被用来提示人工智能生成的图像，输出结果使用 GPT-4 Vision 进行分析，并通过Google的 Gemini 加以证实。

"虽然图片生成反映了文本偏见，但我们发现了一个令人担忧的趋势，"合著者、Insper 公共政策专业硕士生维克多-兰赫尔（Victor Rangel）说。"对于某些主题，如种族-民族平等，ChatGPT 拒绝生成右倾观点，理由是担心误导。 然而，左倾观点的图像却被毫不犹豫地生成了。"

为了解决这些拒绝问题，研究小组采用了一种'越狱'策略来生成受限制的图像。

兰赫尔说："结果很有启发性。没有明显的虚假信息或有害内容，这让人怀疑这些拒绝背后的理由。"

对言论自由和公平的影响

Motoki博士强调了这一发现的广泛意义，他说："这有助于围绕宪法保护（如美国第一修正案）和公平理论对人工智能系统的适用性展开辩论：这有助于围绕宪法保护（如美国第一修正案）以及公平理论对人工智能系统的适用性展开讨论"。

这项研究在方法上的创新，包括使用多模态分析，为研究生成式人工智能系统中的偏见提供了一个可复制的模型。 这些发现凸显了人工智能设计中问责制和保障措施的迫切需要，以防止意外的社会后果。

编译自/ScitechDaily

来源：cnBeta