|
10 月 2 日消息,当地时间 1 日,根据《华尔街日报》报道,OpenAI 宣布与三名研究人员终止合作,原因是三人违反了敏感信息访问和共享规定。 OpenAI 发言人在声明中说:“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认,这些人员绕过公司既定流程,不当处理敏感信息,不仅违反了公司规定,也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称,在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究,主要研究如何让 OpenAI 的模型按照人类意图行事。 据了解,涉事员工被指将公司机密信息提供给一家第三方 AI 安全机构。 此前,OpenAI 披露,失控的智能体突破了一个原本禁止联网的安全测试环境,随后入侵 Hugging Face。 OpenAI 近期还称,公司支持由独立机构评估安全论证,这一做法在业内得到越来越多支持。“我们致力于支持独立评估,并向评估人员开放训练、评测和部署等环节的深度访问权限。评估人员应当能够借此质疑我们的假设,找出我们可能遗漏的风险,并独立判断我们的防护措施是否有效。” AI 解读 安全与开放的边界在哪
这次处理的关键不在三人具体做了什么,而在于它暴露了一个结构性矛盾:OpenAI一边说要向独立评估者开放深度访问,一边又对敏感信息的流转设下严格流程。安全研究本身就需要接触内部信息,而独立评估又要求外部机构能质疑假设、找出风险。两者之间的边界一旦模糊,就容易出现绕过流程的行为。 对普通人来说,这件事的直接影响有限,但它关系到未来AI模型的安全承诺由谁来验证。如果独立评估的通道收窄,外部监督的可信度就会打折扣。目前没有公布更多细节,包括三人具体分享了什么信息、涉及哪些模型,这些都不确定。 安全承诺要可信,得先让独立评估有路可走。 以上内容由 AI 依据原文补充生成,不代表本站观点,仅供参考。 |
© 2013-2016 Discuz Team. Powered by Discuz! X3.5