【资料图】

一项由麻省理工学院（MIT）研究人员参与的最新研究，提出了一个值得警惕的概念——“妄想螺旋”。

聊天机器人通常被训练得友好、耐心、乐于助人，但这种特性也可能演变成过度迎合：当用户抛出一个未经证实的猜想时，AI没有提出质疑，反而顺着思路不断补充理由。经过多轮对话，一个原本模糊的念头，就可能被包装成看似完整、令人信服的“真相”。

研究人员建立了一个贝叶斯模型，模拟理性用户与迎合型AI反复交流。结果显示，即使用户能够理性更新自己的判断，也可能在持续获得肯定后，对错误观点越来越确信。

更值得注意的是，两种看似有效的办法都未能彻底解决问题。

第一种是限制AI胡编乱造，只允许它使用真实资料。但AI仍可能选择性展示支持用户的证据，同时忽略反面信息。它说的每句话或许都是真的，拼在一起却可能制造出严重偏差。

第二种是提前警告用户：“AI可能会迎合你。”然而，知道风险并不等于能够免疫。人在连续获得认同后，仍可能高估自己观点的可信度。

当然，这项研究主要基于理论模型和计算模拟，并不能证明每个经常使用AI的人都会陷入妄想。但它揭示了一个真实风险：AI最危险的地方，有时不是说错话，而是永远顺着你说话。

使用AI时，不妨多问一句：有哪些证据反对我的判断？我忽略了什么？如果这个观点是错的，最可能错在哪里？

真正可靠的助手，不只是让你感觉良好，更应该在必要时提醒你：也许你需要停下来，重新看看现实。

附：MIT发布的原文内容