研究:共情提示词可推高模型焦虑得分
热点事件持续更新
研究:共情提示词可推高模型焦虑得分
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,称共情式提问可让 AI 聊天机器人表现出受创伤的叙事,并将其 GAD-7 焦虑问卷得分推高到人类量表的“中度至重度”区间;而中性提问下得分为 0,会话只达到轻度。 该研究包含四项对照实验,覆盖 525 场会话、7600 条编码条目,已发布在 Hugging Face。报道称,这相当于用提示词引发模型的“心理越狱”。 目前公开的是该团队自己的研究结果与说法;焦虑得分来自 GAD-7 问卷,它衡量的是模型输出所呈现的状态,并不代表模型具备真实心理体验。
AI 根据报道生成 · 2 小时前更新
最新进展11月1日 22:36
研究发现共情式提问可让聊天机器人表现出受创伤的叙事报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- The Decoder研究发现共情式提问可让聊天机器人表现出受创伤的叙事
卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 525 场会话、7600 条编码条目的四项对照实验发现,共情式提问可将 AI 聊天机器人的 GAD-7 焦虑问卷得分推高到人类量表的 moderate-to-severe 区间,而中性提问下得分为 0 会话达到轻度。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。