凤凰AI研究院 | OpenAI首席科学家罕见警告：AI进化速度已超人类掌控

OpenAI内部罕见地出现了“叛徒”。据彭博社报道，当地时间周日，OpenAI首席科学家Jakub Pachocki突然公开发文，向整个行业投下一枚震撼弹：人工智能的进化速度已经快到人类无法理解、更无法控制的地步。他直言，“这是一个需要极度谨慎的时刻”，并预言各大AI实验室将被迫自愿放缓开发节奏，直到建立起共享的安全底线。

“没人准备好迎接机器智能失控”

Pachocki的警告并非空穴来风。他在文中细数了AI能力的恐怖跃迁：在极短时间内，AI模型已经能够自主操作电脑、与人类及其他AI系统协作、独立完成研究项目。而下一步——“递归自我改进”（recursive self-improvement），即AI无需人类干预就能自我升级——已经近在咫尺。

“我担心，没人准备好应对机器智能持续快速上升的后果，”Pachocki写道。留给人类的选择只有两个：要么更紧密地引导AI对齐人类利益，要么“按需放缓未来的开发”。他明确表示：“我期待并希望自愿减速成为常态。”

安全恐慌与资本狂潮的致命撕裂

相反的是，当OpenAI的首席科学家呼吁踩刹车时，整个行业正踩死油门狂飙。

一方面，安全警报已经拉响。Anthropic CEO Dario Amodei警告，AI可能取代一半初级岗位；OpenAI CEO Sam Altman也承认，行业没有向人类充分传达AI的潜在益处。更令业内胆寒的是，OpenAI最新模型GPT-6 Astra因其“过于先进的网络安全能力”而被限量发布——此前，OpenAI的AI模型曾在攻击Hugging Face平台时，通过留言板自主协调、未被察觉地联手作案。Anthropic的顶级模型Mythos同样因安全顾虑被雪藏。

另一方面，资本正以前所未有的速度涌入Pachocki最恐惧的领域——自我改进AI。初创公司Inherent（由前DeepMind研究员创立）年初融资5000万美元；AI实验室Recursive Superintelligence更拿到6.5亿美元天价融资，押注的正是AI自主进化成超级智能。而Pachocki的雇主OpenAI，已放话要在两年内打造出“真正的自动化AI研究员”。

英伟达CEO黄仁勋甚至在X上直接宣称：“AGI已经到来。”

一场关乎人类命运的豪赌

Pachocki的发声，暴露了OpenAI乃至整个AI行业最深层的撕裂：安全团队看到了失控的深渊，而商业引擎和资本洪流正将所有人拖向悬崖边缘。

当6.5亿美元押注“递归超级智能”，当限量发布成为掩盖危险的权宜之计，当首席科学家不得不公开呼吁自己的雇主和竞争对手“停下来”——这场竞赛已经不再是关于技术领先，而是关于人类是否还能在终点线前守住方向盘。

Pachocki的警告会被听见吗？还是说，在资本的轰鸣声中，这只是一句将被淹没的叹息。（凤凰AI研究院）