henry 发自 凹非寺
量子位 | 公众号 QbitAI
刚刚，OpenAI首席未来学家Joshua Achiam在X上宣布离职。
这并不是一个普通员工变动。
在OpenAI内部，首席未来学家这个职位夹在AI安全、政策和公司使命之间，负责研究AI继续变强之后，可能给世界带来的风险和机会。
而Joshua Achiam，正是OpenAI这条安全与使命线上的核心人物之一。
9年前的2017，他以实习生身份加入OpenAI。早期，他是一名专注于AI安全的研究科学家，做过深度强化学习里的安全约束研究。
后来，他领导过OpenAI的Mission Alignment（使命对齐）团队，负责维护这家公司最初那句使命：
确保AGI造福全人类。
今年2月，OpenAI解散Mission Alignment团队，Joshua转任公司首席未来学家。
只不过，短短5个月后，Joshua就宣布自己将在7月24日正式离开这家待了9年的公司。
至于离职原因，Joshua并没有透露太多。
他只是表示，自己离开并不是因为某个具体事件，也不是一时兴起，而是已经思考了很长一段时间。
为了安全的AGI
在X长文里，Joshua把这次离开称作“毕业”。
他写道，自己2017年以25岁实习生（毕业于UC伯克利）身份加入OpenAI。那时，计算机还不能真正和人对话，也谈不上思考。
如今，他34岁，已经是2岁孩子的父亲，而计算机已经开始解决前沿科学问题。
Joshua形容，这9年像是“一个发生了几个世纪变化的十年”。
对于未来，他依然保持乐观。
我相信，我们能够创造出一个这样的世界：在那里，“满足每个人的基本需求”不再是个需要解决的问题；相反，我们会觉得，把标准定得这么低，反而是一种耻辱。我相信，我们能够实现一个充满和平、前所未有的繁荣以及各种难以想象的社会与科学可能性的世界。无论我接下来做什么，我都会继续与你们携手努力，让这一愿景成为现实。
最后，他用一句话收尾：
To safe AGI.
这句话也很像他过去9年在OpenAI的位置。
据WIRED消息，OpenAI目前还没有宣布谁会接替Joshua的职位。这个职位位于公司AI安全和政策团队的交汇处，工作包括研究AI崛起可能带来的危害与收益。
此前，Joshua也曾与OpenAI全球事务负责人Chris Lehane等高层合作，推动与OpenAI使命一致的政府监管。
换句话说，他不是一个只做预测的“未来学家”。
更准确地说，他在OpenAI内部做的是另一件事：当模型能力一路往前冲时，给这家公司不断提醒那句老问题。
这条路最后到底要通向哪里？
那个打断马斯克的男人
回顾Joshua的OpenAI生涯，最有戏剧性的一幕，发生在2018年。
今年4-5月，在马斯克与OpenAI那场世界庭审中，Joshua曾出庭作证，回忆马斯克2018年，离开OpenAI前的一次告别演讲：
当时，他曾打断马斯克，指出如果计划在特斯拉开发AGI，可能会以牺牲安全为代价。
据称：马斯克当即骂道：“Joshua是个“蠢驴”（jackass）”。
后来，这件事后来反而成了OpenAI内部的一个“都市传说”。
Dario Amodei，如今的Anthropic CEO，以及David Luan，后来成为亚马逊AGI实验室负责人，还专门送给Achiam一个金色奖杯，上面刻着一句话：
“为了安全，永远不要停止当那个jackass。”
每逢安全大佬出走，OpenAI就？
在Reddit上，有网友很快把这件事放进了OpenAI的“安全负责人离职名单”里。
有人开玩笑说：
Ilya走了，Jan走了，现在Joshua也走了。每次负责对齐的人离开，OpenAI好像都会发生点什么。
这个梗当然有夸张成分。
但过去两年，OpenAI安全线的变化确实不少。
网友提到的Jan是Jan Leike，他曾共同领导OpenAI的Superalignment（超级对齐）团队，研究如何让先进 AI模型保持在人类控制之下。2024年，他离开OpenAI，加入Anthropic。
同年，OpenAI政策研究负责人Miles Brundage，以及曾负责AI模型危险能力研究的Steven Adler，也先后离开，转而创办非营利组织，推动AI实验室遵守更严格的安全和安保标准。
Andrea Vallone曾负责研究ChatGPT如何回应处于心理或情绪困境中的用户。她也在2025年底离开 OpenAI，加入了A社，也就是前同事Jan Leike所在的团队。
Joshua是这条离职链上最新的名字。
与此同时，OpenAI自己也在调整安全、研究和政策之间的关系。
WIRED提到，过去一年里，OpenAI一直试图拉近AI研究团队和政策团队之间的距离，希望制定出更能预判技术发展方向的规则和标准。包括Boaz Barak、Noam Brown、Adrien Ecoffet在内的一些研究员，也开始更多参与政策相关工作。
另一边，前白宫AI顾问Dean Ball本周加入OpenAI，担任公司Strategic Futures负责人。他会与Joshua有一段短暂交接，之后预计也会继续与研究人员和政策负责人合作。
这就让Joshua的离开显得更微妙。
一方面，OpenAI正在把“安全”和“政策”更紧地绑在一起；另一方面，那个曾经领导Mission Alignment、后来出任Chief Futurist的人，却选择在这个时间点走出实验室。
Joshua在离职信里写道：世界已经知道这个秘密（实现AGI）了。如今，在frontier lab的围墙之外继续推动这项使命，也变得可能。
这可能是整件事里最值得琢磨的一句话。
过去十年，AI的发展速度确实令人振奋。OpenAI也早已不只是那个小型研究实验室，而是变成了一个要同时面对产品、资本、政策、法院和公众的新型机构。
但说到底，过去十年，终究只是AI旅途里的一小段，未来的路也许会更加漫长。
漫长到足以把任何歌利亚，都磨成小矮人。
参考链接
[1]https://x.com/jachiam0/status/2074605703281693175
[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
— 完 —
🌟 点亮星标 🌟
科技前沿进展每日见
盈亚配资提示：文章来自网络，不代表本站观点。
