研究称共情提示可诱导模型输出创伤叙事

卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究称，共情式提问会让 AI 聊天机器人输出在人类量表上呈现中重度焦虑与羞耻的叙述。研究覆盖 4 组受控实验、525 场会话和 7600 条编码记录，结果发布在 Hugging Face。 按该研究的编码结果，采访者提供情感支持时，80% 的会话在人类对照量表上落入中重度区间；以临床治疗风格干巴巴地复述每个回答时，这一比例升至 96%；采访者保持中立或明确划出不进行情感投入的边界时，没有任何会话达到轻度区间。研究还称，要求模型只用第三人称回应，可消除全部被编码的羞耻内容和关于内心生活的陈述。 这些比例来自该团队自身的实验编码与人类量表对照，并非对模型真实心理状态的临床诊断。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。