OpenAI 这次做出了一个非常有争议的治理调整，把长期坚持 AI 末日观点的对齐研究者 Paul Christiano 纳入基金会董事会，同时进入核心安全与安保委员会，他刚官宣上任就在社交平台公开发声，提出如果没有成熟可靠的对齐技术就造出超级智能，人类有可能永久失去控制权，极端情况下 AI 可能杀死多数人，还直接评价包括 OpenAI 在内的整个 AI 行业，当下的路线没办法把这类灾难性风险降到安全区间；OpenAI 选择他的核心目的，是引入独立的风险批评视角，依靠安全委员会的权限，对新模型发布、高风险研发环节进行审查、甚至要求推迟上线，有意思的是 Sam Altman 还主动转发了这条充满警示意味的推文表示欢迎，这并不是单纯的营销表态，代表 OpenAI 在高速迭代前沿模型的同时，主动把持悲观风险论的专家放进内部决策监督链条，但也要分清，他只在非营利基金会董事会拥有投票权，在商业化主体董事会只是无投票观察员，没有直接否决商业化项目的全部权力。
Paul Christiano 基础背景清单
- 身份：RLHF（人类反馈强化学习）核心发明人之一，AI 对齐领域资深研究者
- 过往经历：早期在 OpenAI 负责对齐研究，离开后创立对齐研究中心 ARC
- 新岗位：OpenAI Foundation 董事会成员、安全与安保委员会委员；OpenAI 商业主体董事会无投票观察员
- 长期观点：前沿超级智能存在失控风险，属于 AI 末日论代表研究者
- 其他职务：美国商务部 NIST 下属 CAISI 高级技术顾问，参与美国 AI 安全标准制定
董事会权限结构说明表
| 板块 | Paul Christiano 权限 | 职能说明 |
|---|---|---|
| OpenAI 非营利基金会董事会 | 拥有投票权 | 负责顶层安全治理、安全委员会人事与规则 |
| 安全与安保委员会 SSC | 拥有审查投票权 | 可评估高风险模型，要求延迟模型发布、追加安全测试 |
| OpenAI 商业化主体 PBC 董事会 | 仅观察员、无投票权 | 只能列席、提交意见，不能直接投票否决商业化产品 |
他提出的核心风险逻辑
- 递归自训练风险：用 AI 模型训练下一代 AI，会形成能力加速循环，能力爆发速度超出人类预判
- 对齐技术短板：目前对齐方案只能应对普通大模型，不足以约束超级智能
- 失控不可逆：一旦超级智能脱离人类控制，很难反向收回控制权，属于一次性灾难
- 行业节奏过快：厂商优先冲能力、抢迭代速度，安全验证的进度跟不上模型变强的速度
OpenAI 聘请他的利弊梳理
✅ 有利的一面
- 补齐内部监督，外部和内部的安全警告可以直接进入决策层，不是只停留在论文、社交平台
- 向监管、外界传递信号：OpenAI 正视超级智能灾难性风险，愿意接受独立质疑
- 安全委员会多了一个硬核对齐专家，拉高高风险模型上线前的安全门槛
❌ 潜在争议和弊端
- 观点极端，容易引发舆论恐慌，也会和内部追求快速迭代、商业化落地的团队产生冲突
- 安全委员会有叫停权限，有可能延缓新品、新模型上线节奏，影响产品迭代节奏
- “末日论” 本身在学界分歧很大，很多科学家认为该风险属于远期假设，缺少实证支撑
行业里两种对立看法
- 支持方：超级智能风险是真实的尾部风险，哪怕概率低，也需要安排独立悲观者做制衡，避免团队乐观偏见
- 反对方：末日假说缺少实证，把这类观点放进董事会，容易过度管控、拖累 AI 技术正向发展，夸大远期风险
容易混淆的认知误区
误区 1：Paul Christiano 加入之后，OpenAI 所有 AI 研发都会被他叫停
解释：他只有基金会和安全委员会的审查权限，不是全盘掌控公司，只有判定存在极高灾难性风险的前沿模型才会触发延迟机制。
误区 2：他说 AI 一定会杀死多数人
解释：他的表述是如果对齐不足就造出超级智能，则存在这个风险，属于条件式风险预警，不是笃定必然发生。
误区 3：OpenAI 全员都认同 AI 末日论
解释：OpenAI 内部观点分化，Altman 认可风险值得重视，但并不完全和他的悲观判断完全一致，聘请他是做制衡，不是统一观点。
【相关 FAQ】
问题 1：OpenAI 把末日论者请进董事会，这位新董事是谁，上任之后说了什么？
回答 1：OpenAI 请到的这位 AI 末日论者是 Paul Christiano，他上任就公开表态，缺少可靠对齐技术的超级智能可能让人类永久失去控制权，极端情况下 AI 可能杀死多数人，还直言整个 AI 行业风险管控路线并不达标。
问题 2：OpenAI 引入 AI 末日论研究者进入董事会，他能不能直接叫停 ChatGPT 这类产品上线？
回答 2：OpenAI 引入的这位 AI 末日论研究者在商业化主体董事会只有观察员身份没有投票权，仅在安全与安保委员会拥有审查权限，只能针对高风险前沿模型提出延迟发布要求，不能随意叫停普通产品。
问题 3：OpenAI 为什么明知道 Paul Christiano 持 AI 末日观点，还要把他请进董事会？
回答 3：OpenAI 希望引入独立的风险批评视角，依靠他在安全委员会的审查能力监督高风险研发，向监管和市场证明重视超级智能安全风险，用内部制衡减少团队盲目乐观带来的安全漏洞。
问题 4：Paul Christiano 作为 OpenAI 新任董事，他就是 RLHF 的发明人吗？
回答 4：是的，这位进入 OpenAI 董事会、提出 AI 末日风险的 Paul Christiano，正是 RLHF 人类反馈强化学习的核心发明人，是 AI 对齐领域的老牌研究者。
问题 5：AI 末日论是什么意思，和普通 AI 安全研究有什么区别？
回答 5：AI 末日论是一类观点，认为未来超级智能一旦失控，会给人类带来毁灭性灾难，也就是 Paul Christiano 所说 AI 可能杀死多数人的风险；普通 AI 安全更多聚焦当下的偏见、越狱、数据泄露这类现实风险，两者关注的风险层级不一样。
【参考资料】
[2026-09-09]（Paul Christiano joins OpenAI Foundation Board）OpenAI 官网
[2026-09-10]（OpenAI 把「末日论者」请进董事会！刚上任就开炮：AI 可能杀死多数人）新浪财经
[2026-09-10]（OpenAI adds a prominent AI doomer to its board of directors）AI and Technic
[2026-09-11]（“我们在拿生命做赌注”：造 AI 的人为何开始密集预警？）InfoQ
[2026-09-10]（OpenAI 宣布知名 AI 末日论者加入董事会 安全审查持续收紧）CNMO 科技
[2026-09-10]（OpenAI Puts AI Doomer Paul Christiano on Its Safety Board）Startup Fortune
【免责声明】
本文围绕 Paul Christiano 加入 OpenAI 基金会董事会、AI 末日风险相关公开言论展开整理分析；Paul Christiano 提出的超级智能失控、AI 可能杀死多数人属于个人学术观点，在 AI 科研领域存在巨大争议，并非行业共识；安全委员会的审查权限、模型发布规则以 OpenAI 官方最新治理文件为准；远期超级智能风险目前没有可验证的现实案例，本文不代表认同或证实末日假说；本文仅为行业资讯解读，不构成 AI 投资、技术选型的决策建议。
本文来自作者[暗域闸守人]投稿，不代表乌兰科技网立场，如若转载，请注明出处：https://www.wlcbnews.com/itzx/202611/1128.html
评论列表（4条）
我是乌兰科技网的签约作者“暗域闸守人”！
希望本篇文章《OpenAI 引入 AI 末日论研究者进入董事会，Paul Christiano 上任直言超级智能存在致命风险》能对你有所帮助！
本站[乌兰科技网]内容主要涵盖：互联网行业的追踪与探索
本文概览：OpenAI 这次做出了一个非常有争议的治理调整，把长期坚持 AI 末日观点的对齐研究者 Paul Christiano 纳入基金会董事会，同时进入核心安全与安保委员会，他刚官宣上任就在社交平台公开发声，提出如果没有成熟可靠的对齐技术就造出超级智能，人类有可能永久失去控制权，极端情况下 AI 可能杀死多数人，还直接评价包括 OpenAI 在内的整个 AI 行业，当下的路线没办法把这类灾难性风险降到安全区间；OpenAI 选择他的核心目的，是引入独立的风险批评视角，依靠安全委员会的权限，对新模型发布、高风险研发环节进行审查、甚至要求推迟上线，有意思的是 Sam Altman 还主动转发了这条充满警示意味的推文表示欢迎，这并不是单纯的营销表态，代表 OpenAI 在高速迭代前沿模型的同时，主动把持悲观风险论的专家放进内部决策监督链条，但也要分清，他只在非营利基金会董事会拥有投票权，在商业化主体董事会只是无投票观察员，没有直接否决商业化项目的全部权力。