资讯流  宏观  直播  策略  日历  |  原油  黄金  美指  外汇  股指  商品  |  教育  知否  |  经纪商  全能投资账户  期货开户

宏观要闻

​Anthropic提出了一种机制，用以决定何时暂停人工智能开发

　　

 

编辑：严衍  发布时间：2026.6.6 09:26

Anthropic提议建立一个机制，让政府和人工智能(AI)开发者共同决定何时放缓这项技术的研发，以避免其可能带来的风险。

该公司在一篇由联合创始人杰克·克拉克和Anthropic研究所所长玛丽娜·法瓦罗发布的博客文章中表示：“世界拥有选择暂停或暂时中止可能危险的AI工作的选项将是件好事。”他们指出，人工智能正在进步到这样的程度：这项技术可以使人类工作效率提高数千倍甚至取代人类，这带来了一系列新的风险。

Anthropic承认，要让各家公司——更不用说整个多年来一直致力于推进自身技术的国家——达成一致进行集体暂停将非常困难。该公司此前也曾发出类似呼吁，要求政府和竞争对手采纳相关阈值。

2023年，这家初创公司设定了自己的限制，并承诺停止可能危险的工作。但今年早些时候，该公司放松了这一承诺，表示如果相对于竞争对手缺乏显著优势，公司将不再暂停。

在放弃这一承诺时，Anthropic表示，政策环境已转向优先考虑人工智能的竞争力和经济增长，而非安全性。周四，该公司表示将在未来几个月内与政策制定者和其他人工智能公司会面，讨论更好的协调机制，并分享这些讨论的结果。

克拉克和法瓦罗表示，随着人工智能可能很快能够自我改进并构建后继者，从而减少人类的作用，制定一个决定集体暂停的协议变得越来越重要。他们写道：“这种递归智能以越来越快的速度自我构建，与人类、关系和治理的世界发生碰撞，是我们无法预测的未来另一部分。”

这篇博文将这一想法与核武器的国际监管进行了类比。任何暂停机制还必须确保在暂停期间，不那么谨慎的人工智能实验室不会秘密地继续推进技术，可能通过同行实验室的检查来实现。

人工智能研究人员此前曾敦促政府暂时停止相关工作。例如，2023年，非营利组织未来生命研究所呼吁至少暂停六个月以遏制人工智能，警告其可能带来的灾难性后果。亿万富翁马斯克(Elon Musk)与一千多名研究人员和高管共同签署了该呼吁。当时的批评者表示，停止开发会阻碍创新，并将优势让给那些不停止工作的其他方。

这正是一个挑战，Anthropic在博文中也予以承认：“训练竞赛比导弹发射井更容易隐藏，其投入品是通用的，而悄悄退出的动机巨大，因为在其他人暂停时继续前进的人可能会继承领导地位。”

Anthropic继续向市场推出先进的模型和工具，如其广受欢迎的助手Claude，以及据称能够以惊人速度检测和利用网络安全漏洞的新模型Mythos。该公司也正在为首次公开募股做准备。宏观要闻 >>

主题：人工智能监管观察  | 新闻源：Bloomberg

---END---

全能投资账户，一个账户把握全球最佳交易机会