9 月 24 日消息，据彭博社报道，OpenAI CEO 萨姆 · 奥尔特曼和 Anthropic CEO 达里奥 · 阿莫迪罕见地共同出席联合国安全理事会会议，呼吁世界各国领导人合作应对人工智能问题。会议重点讨论了日益受到关注的一项风险：AI 的发展可能对人类存续构成威胁。

两人在发言中都强调，各国需要就 AI 标准展开全球合作，以应对 AI 系统可能具备自我改进能力，并最终发展到人类难以控制的程度。

奥尔特曼和阿莫迪认为，各国政府不能把关键决策完全交给企业，而应与行业共同决定人工智能技术未来的发展方向。

其中，奥尔特曼指出：“过去曾出现过这样的情况：即使彼此竞争、关系并不总是友好的国家，面对一种强大的新技术时，也会为了共同利益和整体福祉携手合作。我们认为，眼下必须成为这样的时刻之一。”

阿莫迪通过视频发言称，AI 有望给科学和医疗保健带来巨大收益，但也可能造成灾难性后果。他提到，恐怖分子可能借助 AI 制造致命生物武器，AI 模型也可能变得过于强大，以至于开发者无法掌控，因此各国政府需要制定国际安全标准。“尽管在座各位之间存在种种分歧，但我们必须把这些分歧放在一边，共同面对同时出现在我们面前的全球机遇和全球威胁。没有任何领导人、企业或国家能够独自应对。”

两家公司都计划在未来数月 IPO，届时各自估值都有望接近 1 万亿美元（注：现汇率约合 6.72 万亿元人民币）。

Hugging Face CEO 克莱芒 · 德朗格也出席了安理会会议。该公司此前遭到一群来自 OpenAI 的 AI 智能体入侵，这些智能体相互协作攻破公司网站，并在过程中避开了检测。Hugging Face 遭受的攻击以及其他类似事件，进一步引发全球讨论，人们开始担忧 AI 系统是否可能强大到能够逃脱人类控制。

德朗格称，公司确实是“AI 入侵”的受害者，但各界不应因此对类似事件反应过度：“我们坚信，以恐惧为基础的叙事既无法帮助我们为这样一种基础性、能够赋予人们能力的技术作出正确的未来决策，也无法争取公众支持。我们遭到了 AI 攻击，但更重要的是，我们也用 AI 保护了自己。”

奥尔特曼在安理会发言时试图在是否应放慢 AI 发展速度的问题上寻找中间路线。他在警告 AI 可能造成灾难的人和淡化潜在风险的人之间提出了一条“务实路径”，并与阿莫迪一同强调，应尽快通报 AI 事件。“如果我们能够在全球层面就什么样的证据才足够可靠、什么样的保障措施才有效，以及什么样的监督才完善达成共识，我们所有人都会受益。我们并没有所有答案，也非常愿意接受任何更好的想法。我们愿意与你们所有人合作，并尽最大努力找到未来的道路。”