|
北京时间 9 月 18 日,据彭博社报道,AI 领域的先锋吴恩达表示,顶尖模型开发商研究人员发出的有关 AI 生存风险的警告属于“科幻小说”,可能不利于确保这项技术为社会带来最大益处。
吴恩达曾参与创办谷歌大脑和教育平台 Coursera。他说,在 AI 热潮的早期,科技行业曾煽动人们对 AI 潜在灾难性危害的恐惧,显然是为了加大宣传力度并影响监管走向。 “过去两周,我感到相当沮丧,”他在周四接受彭博电视采访时说,“这波公关宣传如今又卷土重来了,可能也是出于类似的目的。” 本月,前 Anthropic 和 OpenAI 研究员雅各布 · 考克森 (Jacob Coxon) 的高调辞职,使得一场酝酿已久的 AI 安全讨论进入主流视野。考克森指责他的两名前雇主都在“拿我们的生命下注”,因为它们“竞相开发超级 AI 智能”。他还表示,那些开发 AI 的人认为,这项技术可能“在本十年结束前杀死我们所有人”。 在这一背景下,包括 Anthropic CEO 达里奥 · 阿莫代伊 (Dario Amodei) 和 OpenAI 的萨姆 · 奥尔特曼 (Sam Altman) 在内的 AI 领袖正呼吁业界放缓前沿模型的开发步伐,并采取更多措施为未来的发展保驾护航。 吴恩达早年曾与阿莫代伊和奥尔特曼共事。他说,AI 确实存在风险,包括网络安全方面的风险。但他认为,有关 AI 导致人类灭绝的担忧“更像是科幻小说,而非科学”。 他还表示,行业可以专注于解决一些“实际的工程问题”,以持续改进和保护这项技术,同时努力确保 AI 能够被用于“许多它能够实现的美好事情”。 AI 解读 AI 灭绝论争的是监管话语权
这场争论表面是安全观之争,实质是谁来定义风险、谁来定规则。把风险说到灭绝级别,监管门槛就会被抬得很高,后来者更难进入,已有优势的开发商反而受益。吴恩达把这层动机点破,等于把话题从技术拉回利益。 对普通人来说,短期内能感知的不是灭绝与否,而是模型能力、价格和可用范围怎么变。原文没有给出任何产品、价格或时间信息,所以现在无法判断这轮争论会怎样落地。 可以确定的是,安全讨论会继续影响前沿模型的开发节奏,而节奏一变,普通用户能用到什么、什么时候用到,也会跟着变。 看这类争论,先分清哪些是可验证的工程风险,哪些是立场表达。 以上内容由 AI 依据原文补充生成,不代表本站观点,仅供参考。 |

© 2013-2016 Discuz Team. Powered by Discuz! X3.5