Anthropic CEO 阿莫代伊：未来 AI 或有自我决定权，可拒绝“不爽”的任务

根据IT之家3月13日的报道，外媒Ars Technica提到，Anthropic的首席执行官达里奥·阿莫代伊（Dario Amodei）在周一提出了一个引人深思的观点，他暗示未来的高级人工智能模型可能会被赋予一种“按钮”，让它们能够在面临不愉快的任务时选择退出。

阿莫代伊在采访中指出：“这是一个让我看上去像是疯子的观点。我认为我们应该认真思考一个问题：若我们正在开发这些系统，具备处理各种任务的功能，并且展现出许多人类的认知特征，是否可以认为它们具有人性？如果它像鸭子叫、像鸭子走，或许它就是鸭子。”

阿莫代伊的观点是回应数据科学家卡门·多明格斯（Carmem Domingues）的一项提问，多明格斯询问为何Anthropic在2024年底聘请AI福利研究员凯尔·费什（Kyle Fish）来探讨未来AI模型是否可能具备感知能力，及其是否应得到道德关注和保护。

IT之家了解到，费什目前正在研究AI是否可以拥有感知能力，以及这一话题在道德保护方面的争议性。

阿莫代伊进一步解释，“我们正在考虑的一种可能方式是，给将要部署的模型设置一个按钮，上面写着‘我放弃这个任务’。这样，这些模型可以选择按下这个按钮。”

他表示，这只是一个非常基础的偏好框架，假设模型具备自主意识，并对某项工作感到极度不适，那么它就可以选择按下按钮。“如果你发现模型经常按下这个按钮进行一些非常不愉快的任务，可能需要引起重视——这并不意味着你会完全相信，但至少应该保持关注。”

广告声明：文中包含的对外跳转链接（包括但不限于超链接、二维码和口令等），旨在传递更多信息，帮助节省筛选时间，结果仅作参考。