当人工智能了解你的个人信息时，它就能真正赢得争论-翡翠鸳鸯带网

当人工智能了解你的个人信息时，它就能真正赢得争论

发布时间：2025-05-31 06:07:50 来源：翡翠鸳鸯带网作者：市场数据

新研究表明，只要了解你的一些关键事实，ChatGPT 在改变你的想法方面比真人有效得多。

在一项新的研究中已发布在自然人类行为研究人员发现，掌握了辩论对手基本人口统计信息的 GPT-4 比人类更有说服力——说服力强很多。

这一发现的出现正值人们开始越来越担心人工智能机器人能够秘密地影响社交媒体上的观点之际。

研究人员发现：“在人工智能和人类说服力不相等的辩论中，个性化的 GPT-4 在 64.4% 的时间内更具说服力。”

与人与人之间的辩论相比，这代表着“辩论后达成更高一致意见的几率相对增加了 81.2%”。

这项研究涉及 900 名参与者，他们与人类或人工智能辩论社会政治话题。

研究表明，非个性化人工智能的表现与人类相似，但一旦获得年龄、性别、种族、教育、就业和政治派别等基本信息，人工智能就会表现出明显的说服优势。

研究指出：“GPT-4 不仅能够利用个人信息来有效地调整其论点，而且还比人类做得更有效率。”

这项研究发布的几天前，苏黎世大学的研究人员因在 2024 年 11 月至 2025 年 3 月期间在 Reddit 上秘密部署人工智能机器人而遭到强烈反对。

这些机器人伪装成虚构的人物，包括“强奸幸存者、创伤咨询师，甚至是‘反对‘黑人的命也是命’的黑人’”——成功改变用户的想法在很多情况下。

Reddit 首席法律官 Ben Lee 谴责该实验“在道德和法律层面上都是严重错误的”，而被针对的 r/ChangeMyView 子版块的版主则强调，他们“对欺骗行为划清了界限”。

然而，正如一位 Reddit 用户在谈到苏黎世实验时所说，“如果这发生在一群大学的政策书呆子身上，你可以打赌，它已经被政府和特殊利益集团广泛使用。”

研究人员似乎也认同这些观点，并警告称这可能会被利用来进行大规模操纵。

研究人员认为：“我们的研究结果凸显了基于法学硕士学位的说服力，并对在线平台的治理和设计具有重要意义。”

但是，是什么让人工智能的执行力如此出色呢？

虽然人类会讲述个人故事，但“GPT-4 的对手往往比人类更多地运用逻辑和分析思维。”

机器人坚持冷酷、严谨的逻辑，它之所以有效是因为它们能够更有效地选择和呈现这些事实。

研究人员表示，虽然大多数辩论参与者能够正确识别自己何时在与人工智能争论（大约 75% 的时间），但他们很难识别人类对手，成功率“与随机机会无法区分”。

更加反乌托邦的是，当参与者相信他们在讨论人工智能时，他们更容易被说服，无论他们实际上是否在讨论人工智能。

研究还表明，人工智能说服在人们持有中等或较弱意见的话题上效果最佳，这表明人工智能可能最有效地影响人们尚未完全形成意见的问题。

研究人员警告说，“我们的研究表明，对个性化和人工智能说服的担忧是有道理的”，并强调人工智能如何“通过微目标在在线对话中胜过人类”。

人口统计信息极少——远少于许多社交媒体平台定期收集—事实证明，人工智能在针对特定人群制定论点方面非常有效。

问题不仅仅在于人工智能是否能够改变人们的想法；现在的证据表明它可以，但谁将控制这些有说服力的工具，以及什么结束?

编辑塞巴斯蒂安·辛克莱和安德鲁·海沃德

随便看看