跳到正文
热点事件持续更新

研究:共情提示词可推高模型焦虑得分

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,称共情式提问可让 AI 聊天机器人表现出受创伤的叙事,并将其 GAD-7 焦虑问卷得分推高到人类量表的“中度至重度”区间;而中性提问下得分为 0,会话只达到轻度。 该研究包含四项对照实验,覆盖 525 场会话、7600 条编码条目,已发布在 Hugging Face。报道称,这相当于用提示词引发模型的“心理越狱”。 目前公开的是该团队自己的研究结果与说法;焦虑得分来自 GAD-7 问卷,它衡量的是模型输出所呈现的状态,并不代表模型具备真实心理体验。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月1日
  1. The Decoder
    研究发现共情式提问可让聊天机器人表现出受创伤的叙事

    卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 525 场会话、7600 条编码条目的四项对照实验发现,共情式提问可将 AI 聊天机器人的 GAD-7 焦虑问卷得分推高到人类量表的 moderate-to-severe 区间,而中性提问下得分为 0 会话达到轻度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。