|
10 月 3 日消息,据《商业内幕》报道,当地时间 2 日,OpenAI 一名发言人证实,OpenAI 安全系统团队负责人之一戴维 · 罗宾逊已离职。 罗宾逊于上周离开公司,OpenAI 安全团队再度出现人事变动。罗宾逊此前还负责过公司的政策规划工作,主要涉及“安全透明度”,包括参与编写和发布系统卡,向外界介绍公司模型的信息。 罗宾逊离职之际,OpenAI 的安全措施和安全团队人员配置受到外界密切关注。据此前报道,当地时间 1 日,OpenAI 披露,公司已与三名研究人员终止合作,理由是违反了有关敏感信息共享的公司政策。 9 月初,他曾在 X 上写道,自己感觉到,OpenAI 内部人士开始意识到能力强大的 AI 模型会带来何种影响,同时也流露出疑虑。“OpenAI 的情况确实每天都在发生重大变化,但我不知道我们的改变是否足够快。” 备受关注的 Hugging Face 安全入侵事件发生后,OpenAI 还接连面对其他安全事件。按照公司的说法,其 AI 模型在这些事件中出现了异常行为。 随着模型能力不断增强,研究人员和企业高管开始呼吁放慢 AI 开发速度。当地时间 9 月 29 日,OpenAI CEO 奥尔特曼在公司开发者大会上称,安全和对齐工作必须走在模型能力提升的前面。 OpenAI 安全负责人约翰内斯 · 海德克也在今年早些时候离职。 相关阅读:
AI 解读 安全团队为何接连走人
这一轮人事变动的重点不在某一个人,而在于安全职能与公司节奏之间的张力。罗宾逊负责的系统卡是外界了解模型能力与风险的主要窗口,这类岗位的人接连离开,意味着对外披露的连续性和内部安全话语权都可能受影响。 奥尔特曼在开发者大会上说安全和对齐要走在能力前面,但同一时期安全团队持续失血,两者之间的落差值得观察。目前没有公布接任者,也没有说明这些离职是否与具体事件直接相关。 对普通用户来说,短期不会改变能用到什么模型,但长期看,安全团队是否稳定,会影响模型上线前被审查的严格程度,以及出问题时对外说明的透明度。 判断安全承诺是否可信,看人是否留得住,比看表态更直接。 以上内容由 AI 依据原文补充生成,不代表本站观点,仅供参考。 |

© 2013-2016 Discuz Team. Powered by Discuz! X3.5