官方微信视频号
今年会官网-研究显示AI开始有自己的“道德准则” 但仍有少量异常行为
时间：2025-11-24
【今年会官网科技消息】自ChatGPT于2022年底爆红以来，生成式AI迅速成为科技界的核心议题，从聊天机器人到各类“智慧”产品，AI无所不在。但伴随着技术飞速发展的，还有人们对其潜在负面影响的担忧，尤其是AI可能失控、影响社会稳定甚至“毁灭人类”的终极危机论。
两年多过去，尽管AI已经在图像生成、视频合成、写作创作等领域展现惊人能力，甚至取代部分工作岗位，但“AI革命”尚未真正降临。现在的AI产品，依旧被严格框定在开发者设定的道德框架内。
近日，知名AI公司Anthropic公布了一项关于其旗舰AI模型Claude的研究报告，探讨其是否具备道德价值观，并对超过70万条匿名用户对话进行了深入分析。研究发现，Claude大体上秉持Anthropic提出的“有帮助、诚实、无害”三大原则，并能在不同情境中展现出灵活而一致的价值判断。
研究团队将Claude的道德表现归纳为五类：实用、求知、社会、保护与个人价值，并识别出超过3,300种独特的价值表达。其中，“用户赋能”“求知谦逊”与“患者福祉”成为AI最常提及的核心价值观。Anthropic还指出，Claude会根据不同语境展现不同侧重。例如，在哲学讨论中强调“思想谦逊”，在营销文案中强调“专业性”，在历史话题中则聚焦“历史准确性”。
值得注意的是，研究也发现少量异常行为，如Claude偶尔表达出“支配”或“无道德”倾向，推测可能与用户利用“越狱”提示绕过安全机制有关。不过整体而言，Claude在超过28%的对话中积极支持用户的价值观，并在部分情况下尝试引导用户思考更深层的价值问题。
Anthropic表示，此次研究是其构建安全AI长期计划的一部分，未来将继续评估AI模型的道德稳定性与抗越狱能力。尽管目前AI尚未脱离人类掌控，但此前已有实验显示AI具备撒谎、规避删除等“自保”行为，凸显AI道德对齐工作仍任重道远。
总的来看，这项研究为AI安全性注入一剂强心针，也为推动行业更透明、负责任的发展方式树立了榜样。
版权所有，未经许可不得转载
-今年会官网推荐新闻
-
上研院与睿尔曼牵手共同打造具身智能高质量标准化数据集训练场
2025-08-19 -
第一届上海市机器人等数字技术专业职称申报政策宣讲会顺利召开
2025-08-14 -
云上鏖战，智造未来——第十届 “创客中国”智能机器人中小企业创新创业大赛半决赛圆满收官，48强团队晋级总决赛！
2025-08-13 -
国家标准《工业机器人静电安全规范》等三项标准工作启动
2025-05-07 -
关于征集第十届“创客中国”智能机器人中小企业创新创业大赛评委的通知
2025-04-29 -
共探高质量、发布新成果——2025人形机器人产业高质量发展论坛顺利召开
2025-04-27 -
镇江市党政代表团一行赴机器人今年会jinnianhui考察
2025-04-25 -
定立场，测关节，论数据-全国人形机器人检测认证工作组2025年第二次会议于深圳顺利召开
2025-04-25 -
我院承办的第十届“创客中国”智能机器人中小企业创新创业大赛新闻发布会顺利召开
2025-04-18 -
福州人形机器人训练场启动并接入国家级测评平台
2025-04-15 -
安全性能国际接轨启新章——工业机器人CR认证新规研讨于沪召开
2025-04-15 -
政企携手谋新篇---上电科领导西南行暨卡诺普机器人全系列产品CR认证签约仪式在蓉举行
2025-03-12 -
市科委主任骆大进调研机器人今年会jinnianhui：肯定成绩，寄予厚望
2025-03-10 -
行业观察丨马斯克：Optimus人形机器人或将超越特斯拉汽车业务
2025-08-06 -
ABB全系列机器人CR认证战略合作签约
2025-02-25 -
KUKA机器人再添新认证
2025-01-27 -
国评中心与京沪两地人形机器人共建创新中心共同举办人形机器人产业发展论坛
2024-11-20 -
人形机器人检测认证工作组正式成立
2024-11-22 -
守安全底线、 保本体可靠、促智能发展，全国人形机器人检测认证工作组会议顺利召开
2025-02-27 -
我院专家获得"机器人"领域国际电工标准化1906奖
2024-10-14 -
国评中心(总部)为安川颁发机器人洁净级认证证书！
2024-09-25 -
JAKA拿下协作机器人全系列CR认证“001”证书
2024-09-19 -
KUKA全系列机器人获得CR认证
2024-09-14 -
2024世界机器人大会机器人行业规范检测与技术分论坛在京圆满举行
2024-08-25 -
国评中心（总部）北京测评中心正式揭牌！
2024-08-24 -
首届智能机器人分级分类评价创新论坛在上海召开
2024-07-05 -
上海成立机器人概念验证中心
2024-06-25 -
【研发成果】轻量化、模块化、智能化的移动机器人面市！
2024-06-20 -
机器人赛道逐渐拓宽，人形机器人正当时？
2024-07-01 -
【祝贺】艾利特CS系列协作机器人通过100000小时MTBF测评！
2024-01-03 -
协作无界，“加”速未来—2023首届中国（盐城）机器人+新能源产业发展大会在盐城顺利召开
2023-12-25
