OpenAI 正式宣布启动嵌入式安全评估项目,和 AI 可解释性企业 Goodfire 达成深度 AI 安全合作,Goodfire 团队将进驻 OpenAI,拿到模型内部训练信号、未发布模型版本等高权限资料,用来做模型取证、排查 AI 隐藏异常行为;与此同时外媒爆料,今年夏天 OpenAI 高层包括山姆奥特曼,曾经和 Goodfire 洽谈收购,给出超 50 亿美元的收购方案,但 Goodfire 选择拒绝收购,希望保持独立身份,给多家 AI 企业提供安全技术服务。Goodfire 主打大模型可解释性技术,能深入神经网络内部,直接读取模型计算信号,而不是只看模型输出的文字,用来找到传统安全测试难以发现的隐藏风险,这家公司本身还有 Anthropic 的投资,也是行业里很特殊的一点。这次合作属于 OpenAI 首次大规模引入外部独立机构,深度接触模型底层训练信息,不止 Goodfire,还有 Apollo Research、METR、Transluce 三家机构一起参与嵌入式评估,外部人员需要在 OpenAI 办公室使用内部设备开展研究,研究成果可以对外发布,但 OpenAI 可以屏蔽商业机密内容。
事件完整经过
- 收购谈判:2026 年夏天,OpenAI 高管团队与 Goodfire 开启收购谈判,提出超 50 亿美元收购意向,当时 Goodfire 最新估值 12.5 亿美元,收购报价溢价明显。
- 谈判终止:Goodfire 管理层判断,保持独立、面向多家 AI 厂商输出安全技术,长期价值高于 50 亿美元,收购谈判宣告失败。
- 合作立项:收购谈判失败后,双方转向商业合作,加入 OpenAI 嵌入式安全评估计划。
- 官宣落地:2026 年 11 月 16 日 - 17 日,OpenAI 对外公布四家外部评估机构名单,Goodfire 在列,正式启动 AI 安全联合评估。
- 后续规划:OpenAI 计划 2027 年扩大嵌入式评估的覆盖范围,持续引入外部独立团队审计大模型安全风险。
收购谈判信息与本次安全合作对比
| 项目 | 今夏收购谈判 | 本次 AI 安全嵌入式评估合作 |
|---|---|---|
| 双方关系 | 拟收购,OpenAI 希望全资纳入 Goodfire | 独立外部合作,Goodfire 保持独立公司身份 |
| 交易金额 | 洽谈超 50 亿美元收购,未成交 | 商业服务合作,无收购对价 |
| Goodfire 定位 | OpenAI 内部 AI 安全团队 | 独立第三方安全评估机构,可服务其他 AI 企业 |
| 核心能力 | 大模型机制可解释性、模型取证 | 派驻研究人员,深度分析模型内部信号,排查训练异常 |
| 特殊背景 | Goodfire 投资方包含 OpenAI 竞品 Anthropic | Goodfire 保留原有股东,独立身份不变 |
Goodfire 在本次合作的核心工作清单
- 模型取证分析,读取大模型训练过程内部计算信号,突破传统只看输出文本的检测方式。
- 监测模型训练全流程,定位训练过程产生的隐藏风险、非预期异常行为。
- 挖掘传统安全监控手段遗漏的安全漏洞,辅助 OpenAI 优化模型对齐与安全防护体系。
- 评估报告交付 OpenAI 内部安全团队,后续逐步对外公开部分非涉密研究成果。
嵌入式安全评估项目执行步骤
- 选定 4 家独立外部机构,包含 Goodfire,签署安全保密协议。
- 外部研究人员进入 OpenAI 办公场地,使用 OpenAI 设备访问模型、训练中间版本、训练数据。
- 各家机构分工开展安全审计,Goodfire 负责模型内部信号解析。
- 输出安全评估报告,OpenAI 董事会安全委员会可以查看完整未删减报告。
- 机构可对外发布研究论文,OpenAI 有权删除报告内的机密信息。
- 持续迭代,计划 2027 年扩大外部嵌入式评估的覆盖规模。
事件小结
OpenAI 和 Goodfire 最终选择 AI 安全合作,而不是此前洽谈的 50 亿美元收购,背后核心是 Goodfire 希望维持第三方独立身份,面向多家 AI 公司输出可解释性安全技术。本次合作最大看点是 OpenAI 放开模型底层训练数据给外部团队,不再只依靠内部自测,利用 Goodfire 的模型取证能力挖掘大模型黑箱风险。Goodfire 带有竞品 Anthropic 投资,作为第三方参与 OpenAI 安全审计,也让这次合作在行业里受到很高关注度,代表 AI 行业对大模型隐藏安全风险的重视程度持续提升。
【相关 FAQ】
问题 1:OpenAI 与 Goodfire 达成 AI 安全合作,此前双方探讨的超 50 亿美元收购为什么没有落地?
回答 1:OpenAI 与 Goodfire 达成 AI 安全合作,收购谈判失败核心原因是 Goodfire 管理层认为保持独立运营,向多家 AI 厂商提供 AI 安全和模型可解释性服务,长期商业价值会超过 50 亿美元,因此拒绝收购方案,转为商业合作。
问题 2:OpenAI 和 Goodfire 本次 AI 安全合作,Goodfire 具体要做哪些安全工作?
回答 2:OpenAI 和 Goodfire 本次 AI 安全合作,Goodfire 派遣研究人员进驻 OpenAI,使用模型可解释技术做模型取证,分析模型内部计算信号,监测训练过程,找出传统监控无法发现的异常行为,辅助优化大模型对齐与安全能力。
问题 3:OpenAI 与 Goodfire 的 AI 安全合作属于什么项目,除 Goodfire 还有哪些机构参与?
回答 3:OpenAI 与 Goodfire 的 AI 安全合作属于嵌入式评估项目,除 Goodfire 之外,还有 Apollo Research、METR、Transluce 三家独立机构一同参与 OpenAI 大模型安全审计。
【参考资料】
[2026-11-17](OpenAI 与 Goodfire 达成 AI 安全合作,此前曾探讨超 50 亿美元收购)IT 之家
[2026-11-17](OpenAI Embedded Assessments bring external researchers inside model training)OpenAI 官网
[2026-11-17](OpenAI 曾提出超 50 亿美元收购 Goodfire,谈判最终失败)新浪科技
[2026-11-16](OpenAI in talks to buy AI safety startup Goodfire for over $5B)The Information
免责声明:本文仅为 AI 行业资讯整理,收购谈判为媒体援引知情人士的爆料信息,收购方案并未落地;嵌入式安全评估的实际效果、合作周期、项目费用以 OpenAI、Goodfire 官方公告为准,本文不构成 AI 行业投资与采购建议。
本文来自作者[尘矢时序]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/kjyw/202611/3842.html
评论列表(4条)
我是乌兰科技网的签约作者“尘矢时序”!
希望本篇文章《OpenAI 与 Goodfire 落地 AI 安全嵌入式评估合作,双方今夏曾洽谈超 50 亿美元收购但交易未成》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:OpenAI 正式宣布启动嵌入式安全评估项目,和 AI 可解释性企业 Goodfire 达成深度 AI 安全合作,Goodfire 团队将进驻 OpenAI,拿到模型内部训练信号、未发布模型版本等高权限资料,用来做模型取证、排查 AI 隐藏异常行为;与此同时外媒爆料,今年夏天 OpenAI 高层包括山姆奥特曼,曾经和 Goodfire 洽谈收购,给出超 50 亿美元的收购方案,但 Goodfire 选择拒绝收购,希望保持独立身份,给多家 AI 企业提供安全技术服务。Goodfire 主打大模型可解释性技术,能深入神经网络内部,直接读取模型计算信号,而不是只看模型输出的文字,用来找到传统安全测试难以发现的隐藏风险,这家公司本身还有 Anthropic 的投资,也是行业里很特殊的一点。这次合作属于 OpenAI 首次大规模引入外部独立机构,深度接触模型底层训练信息,不止 Goodfire,还有 Apollo Research、METR、Transluce 三家机构一起参与嵌入式评估,外部人员需要在 OpenAI 办公室使用内部设备开展研究,研究成果可以对外发布,但 OpenAI 可以屏蔽商业机密内容。