声明：本文来自于微信公众号 aigc开放社区（id：aigcopen），作者：aigc开放社区，授权站长之家转载发布。
5月18日凌晨，openai安全主管、超级对齐负责人jan leike在社交平台宣布，离开openai。
这也是本周三openai联合创始人兼首席科学家ilya sutskever辞职之后，又有一名高管辞职。
相信随着二人的离开，后续还会有不少人离开openai。这也标志着去年由ilya发起的“罢免sam altman” 事件以失败落幕。
openai首席执行官sam altman在第一时间给出了回应，感谢并肯定了jan在openai的贡献和领导能力。
并表示，未来几天内会发表一篇更长的文章，来阐述openai对于产品安全的规划和所做的事情。
jan在辞职演讲中表示，他加入openai是因为，openai是全世界最适合做大模型安全研究的公司。
但是，openai的高层领导似乎对安全对齐已经不是那么上心了，直到爆发了无法挽回的局面，所以，是时候离开了。
他也承认，构建比人类更聪明的ai机器人是一项非常危险的事情，不想看到《终结者》、《机械公敌》那种科幻电影变成现实，机器人失控并开始清理人类。
openai正在代表整个人类肩负着巨大的责任，向agi（通用人工智能）砥砺前进。
应该将更多的算力、基础设施用于产品的安全、对抗鲁棒性、超级对齐、数据保密、监控等领域。
所以，openai应该是以安全为主的agi公司，而不是一味的发布一些没有安全保证的危险产品。
对于ilya、jan的辞职，有人表示这两位安全领导高管都辞职了，以后谁来负责openai的产品安全呢?
也有一位网友爆料，想离开openai没问题，但是你必须签署一份“离职协议”，如果你不签署终身不诋毁承诺，将失去所有已获得的openai股权。
不知道jan的一番吐槽，是否会影响到他的股权。
虽然本周openai发布了再一次震惊科技圈的多模态大模型gpt4o，但内部人事也迎来了大变革，可能会对未来的产品发布例如，gpt-5等带来一些不确定的因素。
2023年11月18，ilya认为sam的产品路线出现了大问题，太激进完全不顾产品的安全性，随后发动了震惊全球科技界的“罢免sam altman” 事件。
经过十多天周旋之后，sam在微软的强力帮助下重新回到了openai执掌大权。
如今，ilya等人已经辞职，没了捆龙锁的sam会在agi的道路继续狂飙吗?让我们拭目以待吧。
关于jan leike
加入openai之前，jan曾在谷歌deepmind工作，主要负责从人类反馈中进行强化学习的原型设计。在openai期间，参与了instructgpt、chatgpt的开发以及gpt-4的安全对齐工作。
jan曾发表了《weak-to-strong generalization: eliciting strong capabilities with weak supervision》、《self-critiquing models for assisting human evaluators》、《deep reinforcement learning from human preferences》等多篇知名大模型安全论文。
2023年，jan 被《时代》周刊评为ai领域最具影响力的100位人物之一。
chatgpt源码推荐：