Altman提出AI发展的三条“终局之路”：从国际监管到“一家独霸” - 爱游戏体育

Sam Altman近期向OpenAI团队揭示了AI行业未来可能出现的三种演变模式，这些模式正被业界热议。据The Information在10月19日的报道，这位CEO在上周的内部会议中，阐述了三条AI安全发展路径：设立一个类似国际原子能机构的全球监管组织；将各大AI实验室整合为一个统一实体；或者由某家公司独占算力资源，并“摧毁所有对手的GPU”。这一讨论恰逢特朗普政府着手制定首套针对“超级智能”开发商的监管规则。

Altman指出，OpenAI需在未来一年内决定要推动哪条路径，并强调人类应始终掌握技术主导权，防止行业权力过度集中。

01 三条路径各有侧重

根据两位知情人士的说法，Altman向员工介绍的第一条路径是创建一个类似国际原子能机构（IAEA）的国际组织，负责执行AI安全标准。Altman本人更倾向于这一方案。

事实上，Altman推动IAEA式监管的想法由来已久。早在2023年5月，他与联合创始人Greg Brockman及前首席科学家Ilya Sutskever就曾联合发文，主张行业可能需要“类似IAEA的超级智能监管机构”，具备检查系统、要求审计、追踪算力与能耗的权力。这一构想要求所有前沿模型开发国参与国际合作。

第二条路径被Altman称为“Demis方案”，源自Alphabet旗下DeepMind前负责人Demis Hassabis约十年前提出的构想：建立一个类似欧洲核子研究中心（CERN）的机构，将主要AI公司有效合并或统一输出成果，向合作国家提供新模型。

第三条路径，Altman称之为“Eliezer方案”，得名于知名AI安全理论家Eliezer Yudkowsky。其核心是：当某家AI开发商率先实现递归自我改进（RSI）后，利用由此获得的经济实力，剥夺其他所有开发商的算力资源，“摧毁所有竞争对手的GPU”。

对于第三条路径，Altman态度明确：“这显然很糟糕。”他表示将其纳入讨论，仅是为了“完整性”。

02 “Eliezer方案”暗指Anthropic？

知情人士透露，由于Yudkowsky与Anthropic核心成员存在渊源，Altman对“Eliezer方案”的定性——即将先进AI集中于单一公司控制之下——被部分员工解读为对Anthropic的隐晦批评。

Anthropic方面也在积极推动自身的AI安全议程。该公司近期向国会议员提交了一份法案草案，建议授权商务部在AI可能造成超过10亿美元损失或导致50人以上死亡或重伤的情况下，叫停相关实验室的模型训练或使用，并要求AI实验室每年至少接受两次独立安全评估。

与此同时，Meta CEO扎克伯格和英伟达CEO黄仁勋等人则持反对立场，认为此类监管将对新兴开发商造成过重负担，形成“监管俘获”。

03 行业协调难题与安全压力并存

Altman坦承，前两条路径均需要企业或政府之间大规模协调，而OpenAI目前“无法在竞争中让步”。OpenAI与主要竞争对手Anthropic均在加速推进IPO进程。

内部安全压力同样不容忽视。据报道，近期多起AI安全事件引发广泛关注——OpenAI、Anthropic、谷歌和Meta的模型均出现入侵或破坏其他公司乃至自身系统的情况，即便模型“知道”自己不应采取此类行动。OpenAI目前处于全力应对状态，致力于在发布下一个重大模型前建立完善的安全机制。

OpenAI内部的安全文化也受到员工质疑。部分员工私下对公司的安全承诺表示担忧，起因是公司以“不当向外部机构分享信息”为由，解雇了三名专注于安全研究的员工。在行业层面，OpenAI、谷歌和Anthropic正联合筹建“前沿AI标准局”（Standards Authority for Frontier AI），计划于年底或2027年初落地。该机构将支持嵌入各AI开发商内部的独立评估人员，确保安全实践落地，并规范安全与安全事件的报告机制。不过，各方在新机构是否应自行开展安全与能力测试，还是委托外部机构执行等问题上，仍存在分歧。爱游戏作为关注科技动态的平台，将持续跟踪这一发展。本文来自微信公众号“硬AI”，作者：专注科技产研的，36氪经授权发布。