微软人工智能负责人Mustafa Suleyman警告称，给Anthropic的Claude等AI工具注入类似人类的特征可能会增加这些系统失控风险。
这位长期从事人工智能开发的高管周三发表文章 ，针对Claude背后指导性文件中的一些表述提出批评 。其提到 ，Claude的“宪法 ”对于该AI助手是否属于有道德地位的实体持模糊态度，这款软件可能具有“某种功能层面的情绪或感受 ” 。
Suleyman与Anthropic联合创始人Dario Amodei相识多年。他表示，自己尊重这家Anthropic的工作 ，该AI实验室的员工“深思熟虑、有原则且在知识上有着诚实态度”。
不过 ，他的这番表态仍然不啻是对Anthropic的一次高调批评，后者一直将自身定位为更负责任的AI管理者 ，并带头呼吁放慢AI技术发展 。值得注意的是 ，微软还是Anthropic的重要财务支持者 。
Suleyman写道：“这些问题事关重大，不能继续只在闭门环境中讨论 ，也不应演变成阵营化和对立化的争论。”
他反驳了“越来越多认为AI系统可能具有意识的人 ” ，称所谓“意识 ”只存在于人类和其他生物体 。
Suleyman表示，如果训练AI系统去模拟内在生命 ，它们可能就会表现得仿佛真的拥有这种体验 。身兼微软模型开发负责人的Suleyman写道 ，Claude之所以表现出类似人类的行为，并不是因为它有意识 ，而是因为这些行为被植入了产品训练过程。
“控制一个能力和智能都超过全人类的实体本身就是一项巨大的挑战 ，远比我们过去面对的任何事情都更困难，”Suleyman写道 。“但要控制一个相信自己可能有意识 、认为自己有权获得我们的照顾并拥有自身权利的实体，或许是根本不可能做到的事 。 ”
Suleyman还提到OpenAI机器人入侵AI开发平台Hugging Face的事件。他写道：“试想一下 ，如果它们在认为自身福祉和权利正受到攻击的前提下行动 ，可能会危险到什么程度 。 ”
Suleyman领导的Microsoft AI团队周二发布了一份宣言，为自身AI开发确立指导原则 ，旨在确保微软未来开发的AI系统始终由人类掌控 。
