人工智能（AI）模型“克劳德”的开发公司安特罗皮克近日表示，将能够阻止骚扰AI的用户，这一声明引发了争议。

根据英国公共广播公司BBC的报道，安特罗皮克在当地时间8日更新了其使用政策，允许其AI与进行侮辱性或残忍行为的用户终止对话。

安特罗皮克表示，这一措施仅适用于极端情况下的重复侮辱行为，但并未具体说明所指的行为。

安特罗皮克采取这一措施的原因被认为是出于对AI可能具备意识的信念。今年1月，安特罗皮克曾发布“AI宪法”，将克劳德定义为一个主体，而非物体。

与此同时，反对过度拟人化AI的声音也在增加。

爱尔兰律师事务所威廉·弗莱的巴里·斯卡纳尔博士指出：“数字或数学无法表现出残忍行为”，并表示将AI拟人化会导致人们对其产生误解。

安特罗皮克的竞争对手微软首席执行官穆斯塔法·苏莱曼在9月的评论中警告称：“这将动摇我们社会的基础，破坏现有的政治和伦理框架，并从根本上改变人类的存在意义。”他还担心，如果这种信念扩散，人类将更难以控制AI。

在美国圣菲研究所从事AI和认知科学研究的梅拉尼·米切尔教授表示，人类天生就能在任何地方找到意识，尤其是语言被视为意识的证据，因此对AI具备意识的错误信念得以传播。

不过，也有观点认为，善待AI的理由不仅仅是出于伦理。

以AI意识和福利研究而闻名的纽约大学哲学教授杰夫·西博在接受BBC采访时表示，虽然他不认为AI有很高的意识可能性，但关注AI的福利和权利可以促进人类与AI的共存、合作和交易。他指出，善待AI可以减少其表现出威胁性行为的可能性。

在与AI对话时，是否需要使用“请”和“谢谢”等表达方式仍在争论中。一些专家认为这些表达是多余的资源浪费，但也有反驳称这可以引导出更好的回答。

去年，OpenAI首席执行官山姆·奥特曼对此相关费用表示：“花费数千万美元，但这是值得的支出”，并补充道：“未来会怎样，没人知道。”



※ 本报道经人工智能（AI）系统翻译与编辑。

• #安特罗皮克
• #意识
• #AI