曾在Anthropic任职的内部人士Jacob Coxon再次警告，人工智能可能在短短几年内成为威胁人类生存的“灭绝级”风险，并坚称自己的末日预言绝非为了博眼球或宣传。
Coxon本周从这家人工智能巨头辞职后，于周三接受NBC News记者Tom Llamas采访时表示：“这项技术很可能存在一个相当大的概率，会杀死所有人。”
他说：“这不是夸张。这不是营销噱头。”
前AI研究人员Jacob Coxon周三接受NBC News记者Tom Llamas采访。Coxon谈到了自己为何从Anthropic辞职，以及他对AI技术进步的担忧。他认为，到本世纪20年代末，AI可能“杀死我们所有人”。
Coxon曾在Anthropic和OpenAI从事研究工作三年。辞职后，他密集接受电视采访并发出警告，称发展迅速的AI可能很快具备自我改进能力，而且对人类参与的依赖会越来越少。
Coxon强调，目前的AI模型“不存在灭绝风险”。但他周三接受CNN记者Anderson Cooper采访时表示，情况最早可能在2027年或2028年发生巨大变化。
按照Coxon的说法，关键转折点将是AI系统能够自主进行AI研究——这样一来，一代AI模型就可以帮助开发出能力更强的下一代模型。
这种反馈循环可能触发Coxon所说的“智能爆炸”（intelligence explosion），最终产生远远超过人类智能水平的系统。
当Cooper问到，这样的技术究竟如何能够消灭人类时，Coxon承认这种情景听起来像科幻小说，但称其“可怕地真实”。
他举例说，如果自主系统的能力远超人类，它们可能发动“黑入关键基础设施”和制造“灭绝级生物武器”等攻击，将其超强智能转化为现实世界中的毁灭性破坏。
Coxon表示，目前的AI系统可能已经具备造成严重网络攻击或基础设施破坏的能力，但还不具备在足以威胁人类灭绝的规模上智胜人类所需的能力。
他真正担心的是，这种情况可能会变化得有多快。（原文）
在接受Fox News记者Bret Baier采访时，Coxon表示，AI接管人类的即时威胁“很小”，但警告说，递归式自我改进（recursive self-improvement）最快可能明年就会出现。
他告诉Baier，一些业内人士认为，这一转变可能只需要大约六个月。
Coxon警告说，如果开发者之间的竞争失去控制，最终可能在本世纪20年代结束前导致AI接管人类。
1984年电影《终结者》中的一个场景。Coxon表示，AI接管人类的即时威胁“很小”，但警告说递归式自我改进最快可能明年就会出现。
他称先进AI“可能是人类有史以来创造的最危险技术”。
尽管发出了严厉警告，Coxon表示，灾难并非不可避免。
相反，他认为AI公司已经陷入一场竞赛：即使开发者本人真的担心这项技术的风险，也害怕放慢脚步，因为竞争对手——包括其他公司或其他国家——可能会继续向前推进。
Coxon在CNN节目中表示，AI开发者“迫切希望得到监管”。
他在Fox News采访中也提出类似呼吁，要求开展国际合作，以确保各国和各家公司“不要把自己竞赛到灭绝”。
Coxon表示，只要政府和AI公司能够找到办法，减缓不断竞相开发更强大AI系统的步伐，那么AI安全问题本身“完全可以解决”。
美中快报 