未来AI或具有自主权？Anthropic CEO 阿莫代伊称其或可拒绝不合适的任务

AI时代，自主权之争

　　 3月13日的消息显示，据国外科技媒体ArsTechnica报道，Anthropic公司的首席执行官达里奥・阿莫代伊（Dario Amodei）在周一发表了一个引人注目的观点，他提出未来高级AI模型或许会被设置一个“退出机制”，以便在面对不愉快或不适任务时可以选择终止运行。

　　 阿莫代伊在接受采访时提到：“这又是一个可能让人觉得荒诞的话题。我们应该思考这样一个问题：当我们设计出这些系统，它们能够完成各种任务，表现得与人类无异，并展现出许多类似人类的认知能力时，是否应该认真对待？如果一个东西走路的样子像鸭子，叫声也像鸭子，那或许它真的就是一只鸭子。”

　　 阿莫代伊的表态是对数据科学家卡门·多明格斯（Carmem Domingues）提问的回应。多明格斯曾询问Anthropic公司为何在2024年底雇佣了AI福利研究员凯尔·费什（Kyle Fish），并让他专注于探讨未来的人工智能模型是否会具备感知能力，以及这些模型是否应在道德层面得到关注和保护。

　　 据相关报道显示，费什正在探索人工智能是否具备感知能力，并且是否有必要获得道德层面的保护，这同样是一个充满争议的议题。

　　 阿莫代伊提到：“在我们计划的一种潜在方法中，当模型被部署到真实应用场景时，我们可以为其设置一个按钮，上面标注着‘我放弃这项工作’，这样模型就能够通过点击这个按钮来表达终止工作的意愿。”

　　 其表示，这只是一个极其基础的偏好设定示例，假定模型真的拥有自主意识，并且对当前工作感到极度厌倦，那么它可能会选择触发这个按钮。“倘若你观察到模型频繁按下此按钮，做出许多令人不悦的行为时，或许你需要对此加以注意——这并不代表你必须全盘接受，但至少值得引起你的警觉。”