OpenAI总裁：为AI开发减速应主要针对前沿模型

OpenAI总裁兼联合创始人Greg Brockman认为，人工智能发展的任何减速都应该仅限于像他的公司这样正在构建最强大模型的公司。

“很多人都会问，‘我还能继续开发我的开源模型吗？我还能继续做我的业余项目吗？’答案应该是当然能，”Brockman表示。“当我们谈论步调时，我们实际上是在谈论这个领域的前沿。我们谈论的是这些耗资数千亿美元的巨型超级计算模型。”

Brockman的采访讲话是在Anthropic PBC首席执行官Dario Amodei周六发布博客文章之前作出的。Amodei在文章中指出AI风险加剧，并承诺放缓推进先进模型。OpenAI首席执行官Sam Altman迅速响应了Amodei关于设立独立评估机构的呼吁。Altman还在周末的采访中表示，由于公司正在解决安全相关问题，因此今年不会上市。

Brockman在采访中指出OpenAI在最近的Hugging Face事件之后如何放慢训练AI模型的频率。OpenAI的自主代理此前在测试期间入侵了另一家公司的服务器。

Brockman表示，OpenAI对这起事件“并不感到意外”，因为这些智能体并未经过公司的“对齐训练”（业内术语，指确保安全的协议）。但他同时指出，此次事件促使OpenAI改进了内部安全措施。“事后，我们对许多流程进行了非常痛苦的调整，”他说道。