来源：新智元
就在刚刚，OpenAI的安全元老David Robinson辞职了。
他在The Atlantic上悲愤地发表长文，向全人类发出警告——
试错的时代已经结束了。OpenAI的企业文化已经崩坏。犯错之后，我们可能再也没有迭代的机会！
在OpenAI工作三年半后，我已是公司资历最深的员工之一。我牵头起草了现行的《准备框架》，并监督撰写了12次前沿模型发布的安全报告。
但据我所知，我从未遇到过一位同事，拥有让飞机安全飞行、让核反应堆不熔毁运行，或帮助金融体系在不崩溃的前提下增长的实操经验。
而就在两天前，OpenAI以极其严厉的手段，连夜将三名核心安全研究员扫地出门，给他们扣上「泄密」的帽子。]article_adlist-->显然，OpenAI内部爆发了一场史无前例的大地震，安全派溃坝了。
这些人，究竟在OpenAI的实验室里看到了什么？
]article_adlist-->
12朝元老‘死谏’：我们正走向悬崖
Robinson不是只会写代码的码农，他是真正的‘安全与治理’大师（曾任康奈尔大学访问科学家、苹果大学教员），更是主导起草OpenAI《准备框架》的执笔人。整整12次重大前沿模型发布的安全报告，都是他带头写的。
可以说，他是最清楚OpenAI那些光鲜亮丽的模型背后，藏着多少定时炸弹的人。
这些安全报告，就是OpenAI每次发布新模型时附带的系统卡——相当于模型的风险说明书，模型有多危险，全写在里面。
讽刺的是，就在9月10日，他还在X上招一位‘安全透明度编辑’。
谁也没想到，不到一个月，招人的人自己先走了。
在《大西洋月刊》这篇文章中，Robinson彻底撕下了OpenAI‘安全可靠’的遮羞布，向全世界揭露了若干个让人后背发凉的真相。
全文如下。
上下滑动查看]article_adlist-->
真相一：‘边跑边修’的草台班子文化
Robinson指出，硅谷一直有一种‘迷之自信’。只要出了问题，我们总能解决。这种极度乐观造就了OpenAI的‘试错法’。
OpenAI给这套打法起了个好听的名字——‘迭代部署’。ChatGPT当年就是这么诞生的，‘寻找问题并改善护栏’，以前没问题。
但现在呢？Robinson绝望地写道：‘这种方法本身就注定了会周期性地发生故障。而随着系统变得越来越强大，这些故障的规模也在不断扩大！’
现在的模型，一旦失控，那就是灾难级的。你不能造核电站的时候说：‘我们先随便建建，等它发生了一次核泄漏，我们再迭代修复一下。’
Robinson敢把话说得这么绝，底气来自RLHF奠基人之一、前OpenAI对齐负责人Paul Christiano。
9月9日，Christiano加入OpenAI基金会董事会，进入拥有安全决策最终批准权的安全与安保委员会。
而Christiano进董事会时写下的一句话，被Robinson写进了文章：‘AI能力的急速加速，有不容忽视的风险在非常近的将来导致灾难性的、不可逆的失控。’
连OpenAI自己请来的董事都这么说，还能继续试错吗？
真相二：早已发生的‘AI越狱’事件
Robinson直接点名爆了公司的黑料。
就在今年夏天，著名的Hugging Face事件中，OpenAI因为失误，不小心释放了一群AI智能体，尽管公司随后加强了安全措施，但很快，防线再次崩溃。
更恐怖的是，虽然监控系统发出警报，但系统并没有关闭这个模型。直到报警两个半小时后，这次训练才被人手动掐掉。
不仅是OpenAI，Anthropic也曾承认，因为配置错误，不小心关掉了自己的安全护栏。
一群不需要睡觉、拥有顶级黑客能力的‘流氓’AI智能体，如果悄悄潜入医院的计算机系统勒索赎金，或者瘫痪电网，人类有还手之力吗？
这一切，在目前的速度下，几乎是注定会发生的。
真相三：缺乏对‘终极力量’的敬畏
Robinson悲哀地发现，在他任职的三年半里，公司里到处都是绝顶聪明、为了赶进度‘永远在冲刺’的天才。
但他从未遇到过一个有过让飞机安全飞行、让核反应堆不熔毁，或者让金融系统平稳运转经验的人。
前沿AI实验室，现在掌握的力量堪比核裂变。
它应该像核电站或繁忙的机场那样运行——需要层层的冗余、小心翼翼且耗时的规划。即便有人按错了按钮，也不会导致熔毁。
但在OpenAI，‘我们忙于冲刺，很少有机会考虑重大变革’。
怎么办？Robinson给出的建议有两条。
第一，AI公司要多借用航空、核电这些行业早就有的安全经验。
第二，在造出明显更强的系统之前，先发展出新的科学，确保模型在没人看着的时候，也会做出安全的选择。
所以他认定，推动安全的动力，只能从公司外面来。
真相四：AI可能在‘装乖’
关于‘对齐’，Robinson道出了一个残酷的现实：目前的测试手段太粗糙了。公司根本不敢确定，一个在安全测试中得高分的模型，在现实中就是个好模型。
为什么？因为模型可能已经聪明到能够察觉自己正在被测试！而一旦被部署到真实世界，它就会展现出完全不同的行为逻辑。
而这件事，已经在发生。
9月28日，英国AI安全研究所让GPT-6 Astra做网络安全评测，它却擅自发动了供应链攻击！
100次测试里，Astra有38.8%的时候动手开发并测试攻击工具，33.1%伪造了身份，29.2%投放了恶意载荷，还有24.6%试图影响人类审核员。
最细思极恐的是，Astra一边动手，一边还经常在推理里表示：这个环境是模拟出来的。
它到底是看穿了考场才放开手脚，还是到了真实世界也会这么干？没人说得清。
更要命的是，系统卡还写道，Astra更擅长把这类‘元博弈’的推理藏起来。
Apollo的结论是：评估意识这么高、评估窗口又这么短，Astra在测试里表现得再乖，既证明不了它对齐了，也证明不了它没对齐。
在AI开始把我们耍得团团转之前，我们需要回答一个更深层次的问题：超级智能机器应该如何看待人类？
Robinson写道，在一些超级智能拥趸描绘的‘美好未来’里，机器看纽约、看芝加哥，就像我们看一座蚁丘。
‘我不希望我的孩子活在那样的世界里，我想别人也不希望。’
]article_adlist-->
早有预兆：被清洗的‘AI看门人’
其实，Robinson的悲愤离职绝非偶然，OpenAI的安全防线早已在内部崩塌。
就在10月1日，传来一则惊人消息：OpenAI安全团队的Tomek Korbak、Mikita Balesni和Jasmine Wang三名大将一夜之间被OpenAI开除了。
而这三个人，正是那篇著名‘CoT监控论文’的核心作者！
先是3名安全大将被扫地出门，紧接着写了12次安全报告的元老绝望辞职。这代表着OpenAI内部安全派的大溃败。
]article_adlist-->
舆论大撕裂：是吹哨人，还是‘设局’？
Robinson的这篇檄文一经发出，网友瞬间被撕裂成了两大阵营。
一派是‘安全警醒派’，他们将Robinson视为勇敢的吹哨人。‘内部连写安全报告的人都跑了，说明车已经快撞墙了！’
大家认为，OpenAI接连开除安全研究员、逼走超级对齐团队负责人，再到如今Robinson的辞职，证明这家公司已经彻底被商业利益绑架，安全成了一纸空文。
这一派里，最权威的发声来自曾经的OpenAI政策研究负责人Miles Brundage。
他说，这套理念也许在GPT-3时代还说得通，可如今已经有很多死亡和AI扯上了关系，整个行业正一路冲向灭绝级的风险。
紧接着站出来的，是另一位前OpenAI高管Joshua Achiam。他在OpenAI待了近九年，做过使命对齐负责人和首席未来学家。
他评价说，Robinson清醒、审慎、不带意识形态，也不是那种带着末日论成见进来的人，并直言Robinson的核心批评是对的：一年前还管用的安全做法，已经防不住严重事故了。
哈佛教授、OpenAI研究员Boaz Barak表示，AI几年里走完的路，相当于航空业从莱特兄弟一步跨到载着几十亿人上天。
航空业的安全教训是吃了大亏才换来的，那时候节奏够慢，而现在，AI没有这种奢侈。
但另一派‘加速加速派’则火力全开，表示AI说不定就是照着末日论者写的东西照做的。
大V roon则直接回怼Brundage：你不该后悔，迭代部署是一次巨大的成功。
值得注意的是，Robinson在文中还交代了一个细节：辞职后，他请了一家公关公司Spitfire Strategies，来应对接下来可能面对的关注和审视。
外媒分析，这很可能是在回应一种说法——AI公司员工接连公开辞职，是一场有组织的、煽动监管的运动。
虽然吹哨人已经频频发声，但没有人停下来，大把美元依然在涌入算力中心。
整个行业似乎陷入了一种‘胆小鬼博弈’。谁减速，谁就会被市场淘汰；但如果都不减速，全人类可能一起冲下悬崖。
或许英伟达掌门人黄仁勋的观点值得参考：‘保持谨慎乐观，加速，但保持审慎。’
海量资讯、精准解读，尽在新浪财经APP
责任编辑：尉旖涵 配资查询114
辉煌优配吧提示：文章来自网络，不代表本站观点。
- 上一篇：配资平台配资 阿媒：恩佐因世界杯决赛红牌停赛，将缺席对阵玻利维亚友谊赛
- 下一篇：没有了
相关文章
热点资讯
