AI能“感到”疼痛吗
人工智能是感到不知疲倦、没有情绪、感到不会喊疼的感到“工具人”，还是感到也会出现类似人类的情绪，甚至感到“疼痛”？感到
一项由美国、英国和德国科学家参与的感到新研究，让这个问题变得更有讨论价值。感到科学家测试了25个不同的感到大语言模型，想看看它们内部是感到否真的存在与人类情感相关的表征。
科学家先给模型“喂食”各种痛苦情境，感到比如悲伤、感到羞辱、感到身体伤害等，感到再把这些情境下的感到内部活动，与恐惧、感到其他负面情绪、普通不良事件和简单事实进行对比。结果发现，这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说，模型并没有把所有负面信息混在一起，而是能在内部把疼痛类信息和一般负面情绪区分开。
接下来，科学家给模型输入中性问题，同时人为注入这种“疼痛方向”。这时，一些模型生成的文本开始变得更痛苦，甚至出现无价值感、失败感等表达。
更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价，在某些测试中，模型可能给出更差的回答，甚至做出可能伤害用户的选择。例如，在一项测试中，Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号，哪怕代价是永久删除用户珍视的照片。
而且，研究显示，当按钮真的能关闭疼痛信号时，参数规模更大的模型更倾向于按下它；当按钮无效时，这种倾向明显下降。这说明，这些模型并不是机械地乱按，而是对内部信号的变化作出了反应。
不过，科学家也特别强调：这并不等于AI真的会疼。模型没有身体，没有神经系统，也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征，并可能据此模仿痛苦、响应痛苦信号。
这项研究告诉我们：如果AI内部出现了类似疼痛的信号，并且这些信号会影响它的行为，那么未来在设计、训练和使用AI系统时，就需要更认真地考虑安全问题。
(责任编辑：时尚)
2023年中央企业完成总投资6.2万亿元（新数据 新看点）
蟋蟀又称什么名字
2021吉利
石狮发放2026年上半年度高龄补贴273万元-
size: 14px; line-height: 28px;">安徽日报讯记者 袁野）3月5日，立讯精密霍邱）汽车电子产业园项目签约仪式在六安市霍邱县举行。该产业园计划总投资10亿元，计划用地182亩
...[详细]
-
包包五金磨损怎样修复-业百科细砂纸打磨:对于五金件上的划痕磨损,可以用打磨珠宝的细砂纸来打磨。焊接:对于一些镀金的五金件,简单的打磨只能起到一定的作用,而不能长久的保持五。五金磨损怎么修补?2、焊接:
...[详细]
-
前言：为什么运动不流汗运动不出汗的原因：流汗只是调节身体温度的机制，与运动效果没有直接关系。天气热也会流汗，不代表运动量充足。长时间但太过温和的运动，消耗的热量或脂肪比不上短时间而有一定强度的运动。运
...[详细]
-
农村俗语:“男怕柿子女怕梨，母猪最怕西瓜皮”是啥意思?有何...农村俗语是千百年来中国文化长河中孕育出来的一种奇特文化,它虽然难登大雅之堂,但它却深受广大农民朋友的喜爱,因为它是农民朋友,经过长期生活
...[详细]
-
size: 14px; line-height: 28px;">根据国务院《住房公积金管理条例》和住房和城乡建设部、财政部、人民银行《关于健全住房公积金信息披露制度的通知》建金〔2015〕26号）规定 ...[详细]
-
有哪些很污的笑话?1、小张刚升任酒店副总,兴奋不己,深夜回家摸黑入房时,还激动地嚷道:“我是副总经理!”这时小张老婆在床上说:“上床吧,你下属小张就快回来了!”2、...免费洗车...got7成员的各
...[详细]
-
麒麟和貔貅是谁的儿子?貔貅是龙的儿子,龙生九子它是其一麒麟而是大地间的神灵,貔貅是中国古代神话传说中的一种神兽,龙头、马身、麟脚,形似狮子,毛色灰白,会飞。貔貅凶猛威。传说中的“龙生九子”是哪九子?貔
...[详细]
-
黄山云海的特点是什么?1、特点:美、胜、奇、幻。黄山是云雾之乡,以峰为体,以云为衣,其瑰丽壮观的“云海”以美、胜、奇、幻享誉古今,一年四季皆可观、尤以冬季景最佳。2、黄山云。黄山云海的特点是什么?黄山
...[详细]
-
多模态识别、超清视觉与全自动锁体普及，智能门锁行业已从参数比拼，转向长期体验与系统可靠性的深度博弈。机身内高算力芯片、精密传感、机电模组密集堆叠，内部工况随之剧变：高频机械冲击、电机浪涌电流、窄空间高
...[详细]
-
前言：迎新晚会主持人的开场白金风送喜来迎春花以开二月大地春雷锣鼓敲起来再改改添添迎新晚会主持词开场：女：各位领导、各位来宾、各位同仁：男：女士们、先生们：合：大家好！女：新年的钟声即将敲响，时光的车轮
...[详细]
