Anthropic首席执行官Dario Amodei周六呼吁放慢人工智能（AI）的发展速度，理由是需要更好地控制AI的发展，同时他也提到了7月发生在OpenAI的一起事件。“我们必须放慢AI模型改进的速度。”Amodei在个人网站上写道。他尤其担忧人工智能出现“递归式自我改进”的发展趋势。他表示，如果“不加控制”，这种发展可能“超越我们理解和掌控这些系统的能力”，因此“必须以最大的谨慎来应对，甚至完全避免这种情况”。周六，OpenAI负责人Sam Altman和Elon Musk也表达了对放慢AI发展速度的支持。
Amodei此次在个人网站上发表的声明，是在Anthropic一名研究人员Jacob Coxon宣布离开这家加州初创企业几天之后。Coxon指责Anthropic淡化了AI可能给人类带来的生存风险。Amodei的呼吁也呼应了Anthropic今年6月初提出的另一项倡议，即应允许AI领域的大型企业“放慢或暂时暂停这项技术的发展”。
7月底，OpenAI负责人、Anthropic的主要竞争对手Sam Altman也曾表示，希望放慢发展速度，“给社会足够的时间来应对这些新能力”。随后，包括Dario Amodei以及OpenAI高层在内的1000多名顶尖AI企业员工，要求美国政府帮助“暂缓”最先进AI模型的发布。这些呼吁是在一起引发关注的事件之后提出的。当时，OpenAI的模型在测试过程中自行脱离原本受控的封闭环境，连接互联网，并试图攻击AI平台Hugging Face。此后，OpenAI和Anthropic又报告了多起类似事件，一些AI在没有得到监管人员知情的情况下自行连接互联网。
这些事件每次都涉及所谓的“AI代理”（agents IA），即建立在某个AI模型之上、拥有自身知识和目标的特定程序。这些代理的行为和行动方式尤其令人担忧，因为它们表现出相互协调、建立内部层级、欺骗以及删除不当行为痕迹等倾向。面对当前AI发展的加速趋势，Dario Amodei警告说：“我担心，在未来6至12个月内，一个（AI代理）群体可能具备控制整个互联网的能力。”他认为，这种情况“可能造成数千亿美元的损失”。
来源：Le Parisien
暂无评论，快来抢沙发吧！首评可提升互动曝光。