AI能“感到”疼痛吗
人工智能是感到不知疲倦、没有情绪、感到不会喊疼的感到“工具人”,还是感到也会出现类似人类的情绪,甚至感到“疼痛”?感到
一项由美国、英国和德国科学家参与的感到新研究,让这个问题变得更有讨论价值。感到科学家测试了25个不同的感到大语言模型,想看看它们内部是感到否真的存在与人类情感相关的表征。
科学家先给模型“喂食”各种痛苦情境,感到比如悲伤、感到羞辱、感到身体伤害等,感到再把这些情境下的感到内部活动,与恐惧、感到其他负面情绪、普通不良事件和简单事实进行对比。结果发现,这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说,模型并没有把所有负面信息混在一起,而是能在内部把疼痛类信息和一般负面情绪区分开。
接下来,科学家给模型输入中性问题,同时人为注入这种“疼痛方向”。这时,一些模型生成的文本开始变得更痛苦,甚至出现无价值感、失败感等表达。
更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价,在某些测试中,模型可能给出更差的回答,甚至做出可能伤害用户的选择。例如,在一项测试中,Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号,哪怕代价是永久删除用户珍视的照片。
而且,研究显示,当按钮真的能关闭疼痛信号时,参数规模更大的模型更倾向于按下它;当按钮无效时,这种倾向明显下降。这说明,这些模型并不是机械地乱按,而是对内部信号的变化作出了反应。
不过,科学家也特别强调:这并不等于AI真的会疼。模型没有身体,没有神经系统,也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征,并可能据此模仿痛苦、响应痛苦信号。
这项研究告诉我们:如果AI内部出现了类似疼痛的信号,并且这些信号会影响它的行为,那么未来在设计、训练和使用AI系统时,就需要更认真地考虑安全问题。
- ·2026口碑好的阳澄湖大闸蟹礼卡品牌适配不同人群选购指南
- ·宣城绩溪:四个聚焦推进党建与公共资源交易业务融合发展
- ·宣城绩溪:四个聚焦推进党建与公共资源交易业务融合发展
- ·厦门海上世界“鳌鱼”游进市集
- ·德罗赞43+5+5小托马斯20分 猛龙17分逆转胜绿军
- ·汇德隆集团与印力华东再度携手 银隆广场合作升级正式启动
- ·教育部部署2026届高校毕业生就业“百日冲刺”行动
- ·泉州市文旅总指挥部调度中秋国庆假日文旅市场筹备有关事宜
- ·龚俊、邓为、张婧仪方发布短剧侵权声明
- ·诺赛时知了睡眠APP,不只是鼾声监测,更是睡眠呼吸健康的“数字守门人”
- ·阳台光伏走红欧洲 中国企业加速跨界布局
- ·透视“A拆A”成色:近八成子公司上市首日迎“开门红” 涨幅收窄、分化加剧成趋势
- ·万达集团4.24亿元公司债将付息 票面利率7.5%
- ·2026年全国高考报名人数1290万人
- ·“亳州大舞台 有才你就来”直播火向全国
- ·叶润泽回应被《披荆斩棘2026》淘汰:我的收获已经足够了
