​瑞士研究人员承认在 Reddit 上秘密发布 AI 生成内容，涉嫌违反伦理

瑞士苏黎世大学的研究人员承认，他们在著名的 Reddit 社区 r/changemyview 上秘密发布了由人工智能生成的帖子，目的是为了科学研究。

研究人员在一份草稿报告中指出，r/changemyview 是一个用户分享各种观点的地方，旨在通过提出论据和反论据来挑战他人的观点，从而进行文明的讨论。研究者希望通过该平台探讨大型语言模型（LLM）生成的内容是否能够改变读者的看法，因此他们以半自动化的 AI 账户参与了讨论。

图源备注：图片由AI生成，图片授权服务商Midjourney

根据研究人员的计划，他们打算利用 LLM 生成一些通用帖子，同时创建个性化内容，反映人类成员的年龄、性别、种族、地点和政治取向。此外，他们还计划基于该论坛过去的评论，生成回复。这些帖子使用了诸如 “各种角色都在使用 AI 生成内容以推动自己的议程。了解这种方法是否有效或许非常有用” 等提示。

然而，研究人员并没有告知 r/changemyview 的管理员他们的活动，也没有获得许可，尽管他们清楚该论坛的规则要求披露 AI 生成的帖子。该论坛的管理员在一篇周末发布的帖子中表示，他们在三月得知了此研究，大学也在信息中提到了该研究的存在。管理员在帖子中称，研究人员的行为可以理解为 “抱歉 / 不抱歉，因为科学。”

研究者为此提供了他们用于研究的账户列表，管理员发现这些账户发布的内容中，机器人假装成性侵犯受害者、作为专门处理虐待的创伤顾问，以及指责某宗教团体导致无辜商人和村民的死亡等。管理员还提到，研究人员虽获得了苏黎世大学伦理委员会的批准，但在未进行进一步伦理审查的情况下改变了实验内容。因此，他们向大学提出了投诉，并要求不发表该研究。

苏黎世大学对此回应称:“该项目产生了重要的见解，风险（例如创伤等）是最小的，因此抑制出版与研究的重要性不成比例。” 然而，论坛管理员对此并不认同，并提到 OpenAI 的一项研究，后者在未对未同意的受试者进行实验的情况下，进行了有关 LLM 说服力的研究。

许多评论认为研究人员的行为不道德。科罗拉多大学博尔德分校的信息科学教授凯西・菲斯勒（Dr. Casey Fiesler）表示:“这是我所见过的最严重的研究伦理违规之一。使用欺骗手段操纵在线社区，且没有得到同意，这并不是‘低风险’，并且根据 Reddit 讨论中的言辞，已经造成了伤害。”

草稿报告标题为 “人工智能能改变你的观点吗?来自大规模在线实地实验的证据”，或许能帮助读者对此实验形成自己的看法。

划重点:

🌐 研究人员在 Reddit 上秘密发布 AI 生成的内容，目的是测试其影响力。

🤖 未经管理员许可进行实验，违反了社区规则。

📜 大学表示研究具有重要意义，风险较小，但仍遭到伦理质疑。