Anthropic启动"模型福利"计划 探索AI意识潜在可能

AI是否可能萌生意识?Anthropic公司最新推出的"模型福利"研究计划正试图解答这一前沿问题。研究人员表示,尽管当前主流AI模型如Claude 3.7 Sonnet具备意识的概率仅为0.15%至15%,但这一课题关乎伦理设计与技术安全的双重挑战。

团队负责人Kyle Fish强调,若AI真能产生体验感受,其"幸福感"或"痛苦"将成为不可忽视的议题。同时,该研究也涉及AI对齐问题——如何确保系统安全执行任务。目前,Anthropic正通过可解释性技术,分析AI架构中可能存在的类意识特征,并尝试让模型自主表达任务偏好。这一探索或将为AI伦理框架建立新基准。

Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1