Deepnote 推出的 Agent Initiative Benchmark 评测,把 12 款主流前沿大模型放进模拟企业 Slack 群组,让 AI 自主判断什么时候主动出手帮忙、什么时候保持沉默,模拟真实职场同事协作的场景,最终 OpenAI 的两款模型拿下榜单第一名、第二名,Anthropic Fable 5.2 拿到第三名,得分更低的同时,单任务成本却高出 GPT-6.1 Sol 大约 17 倍,换算成 70 人团队每月监控账单差距会更大,Sol 每月仅 281 美元,Fable 5.2 达到 4684 美元。这个评测重点测的不是解题、写代码能力,而是 AI 自主主动性、群内沟通分寸感、多 Agent 协同配合,和传统单模型推理榜单侧重点不一样,所以会出现大家印象里很强的 Fable 5.2 性价比翻车的情况,选型的时候不能只看别的榜单高分,要结合业务场景选。
一、评测规则说明
- 评测平台:Deepnote,评测名称:Agent Initiative Benchmark
- 测试形式:12 个 AI 同时在 Slack 群内,没有人工下发指令,AI 自主观察群消息、自主决定要不要介入任务、什么时候停止发言
- 打分维度:任务完成质量、主动介入时机、不胡乱插话、多模型配合、工具调用
- 评分区间:0–10 分,分数越高代表越适合做群内 AI 同事
二、本次评测核心榜单 & 成本对比
| 排名 | 模型名称 | 得分 | 单任务成本 |
|---|---|---|---|
| 1 | GPT-6 Astra | 8.97 | 未标注 |
| 2 | GPT-6.1 Sol | 8.65 | 0.11 美元 |
| 3 | Anthropic Fable 5.2 | 8.17 | 1.87 美元 |
| 4 | Claude Opus 5.5 | 7.84 | —— |
| 5 | Claude Sonnet 5.5 | 7.50 | —— |
| 6 | GPT-6 Luna | 6.85 | —— |
| 7 | DeepSeek V4.1 Flash | 6.38 | —— |
| 8 | Mistral Large 4 | 6.09 | —— |
| 9 | Claude Fable 5.1 | 5.95 | 3.02 美元 |
| 10 | Gemini 4 Argon | 5.60 | —— |
| 11 | Grok 4.7 | 4.51 | —— |
额外对比:Fable 5.1 单任务 3.02 美元,GPT-6 Luna 单任务 0.007 美元,价格差达到 430 倍,但两者得分差距只有 1.1 分,成本差距远大于能力差距。
三、为什么 Fable 5.2 这次评测表现不如 OpenAI
- 评测侧重点差异:Fable 5.2 在长文本、深度推理、复杂工具链任务的传统榜单经常拿高分,但本次重点考核自主分寸感,很容易出现主动插话、过度响应;
- Token 消耗模式:Fable 系列推理过程会自动生成大量内部思考 Token,在这种持续观察群聊、频繁判断的场景下,Token 消耗会快速拉高,成本暴涨;
- 协同逻辑不同:OpenAI 这一代 GPT-6 系列针对 Agent 协作、多模型在同一个会话里配合做了优化,懂得避让,不会抢别的 AI 的工作;
- 不是全盘否定 Fable 5.2:在单人长文档处理、复杂规划、长周期单 Agent 任务场景,Fable 5.2 依旧有优势,只是不适合这种多 AI 共存的群聊协同场景。
四、选型参考建议
- 搭建群聊 AI 助手、多 AI 同事协同、企业内部群自动应答:优先 GPT-6.1 Sol,成本低、懂得把握发言时机,性价比优势明显;
- 长文档精读、复杂方案规划、超长上下文独立 Agent 任务:优先 Fable 5.2;
- 预算极低、只需要基础协同:可以看 GPT-6 Luna,成本极低,能力差距很小;
- 混合方案:群内协同主模型用 GPT-6.1 Sol,遇到超长文档、复杂深度推理任务,路由到 Fable 5.2,兼顾成本和上限。
五、需要留意的坑
- 这只是单一 Benchmark,不能直接等同于所有场景,换别的测试集,Fable 5.2 依然有机会反超;
- 成本是本次评测场景下的实测消耗,开启缓存、调整推理强度之后,实际账单会变化;
- 多 Agent 群协同的落地难度很高,榜单成绩只代表基准表现,上线后还需要额外写提示词约束、限流、过滤无效回复。
【相关 FAQ】
问题 1:Fable 5.2 在 12 个 AI 进群当同事这个评测里贵 17 倍输掉,是不是代表 Fable 5.2 整体不如 GPT-6.1 Sol?
回答 1:不是,这个结论只适用于 Agent Initiative Benchmark 这个多 AI 群协同场景,Fable 5.2 在长文本深度推理、复杂单 Agent 任务、超长上下文处理场景依旧很强,只是在自主判断什么时候发言、控制思考 Token 消耗这一项上不如 GPT-6.1 Sol。
问题 2:Agent Initiative Benchmark 这个 12 个 AI 同事评测,是测什么能力,和普通大模型榜单有什么区别?
回答 2:Agent Initiative Benchmark 重点测试 AI 在群聊里的自主主动性、发言分寸、多 AI 配合,AI 自己决定要不要帮忙,不是人工给固定题目;普通榜单大多是单独给模型发问题、独立完成任务,没有多 AI 互相避让、协同的考核,所以 Fable 5.2 的分数会出现反差。
问题 3:想做企业 Slack 群 AI 同事,参考这个评测,直接选 GPT-6.1 Sol 就可以吗?
回答 3:可以优先拿 GPT-6.1 Sol 做基础版本,它在这个 12 个 AI 同事评测里成本低、分寸感更好;如果业务经常有几十页长文档、复杂方案拆解,建议搭配 Fable 5.2 做模型路由,复杂任务再交给 Fable 5.2。
问题 4:Fable 5.1 和 GPT-6 Luna 价差 430 倍,这个数据是来自 12 个 AI 进群当同事的评测吗?
回答 4:是的,该数据出自本次 Deepnote 的 12 个 AI 同事 Agent Initiative Benchmark,Fable 5.1 单任务成本 3.02 美元,GPT-6 Luna 仅 0.007 美元,二者得分只差 1.1 分,成本差距巨大。
【参考资料】
[2026-11-14](Fable 5.2 贵 17 倍还输了!12 个 AI 进群当同事,OpenAI 包揽前二)腾讯新闻
[2026-11-14](Fable 5.2 贵 17 倍还输了!12 个 AI 进群当同事,OpenAI 包揽前二)新浪财经
[2026-11-14](Deepnote Agent Initiative Benchmark 评测结果)Deepnote 官网
[2026-11-11](实测 Claude Fable 5.2)新浪财经
【免责声明】
本文仅基于 Deepnote Agent Initiative Benchmark 单一场景评测结果进行科普解读,不构成采购、开发选型的唯一决策依据。不同大模型在不同任务、提示词、缓存策略、推理档位下,能力、Token 消耗、计费都会发生明显变化;评测榜单有场景局限性,上线前建议自行做小批量 A/B 测试。所有模型 API 价格、能力以厂商官方文档、控制台实时信息为准。
本文来自作者[浅棱同步]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/rgzn/202611/2655.html
评论列表(4条)
我是乌兰科技网的签约作者“浅棱同步”!
希望本篇文章《12 个 AI 同事群聊协同评测Fable 5.2 贵 17 倍不敌 OpenAI,GPT 包揽前二》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:Deepnote 推出的 Agent Initiative Benchmark 评测,把 12 款主流前沿大模型放进模拟企业 Slack 群组,让 AI 自主判断什么时候主动出手帮忙、什么时候保持沉默,模拟真实职场同事协作的场景,最终 OpenAI 的两款模型拿下榜单第一名、第二名,Anthropic Fable 5.2 拿到第三名,得分更低的同时,单任务成本却高出 GPT-6.1 Sol 大约 17 倍,换算成 70 人团队每月监控账单差距会更大,Sol 每月仅 281 美元,Fable 5.2 达到 4684 美元。这个评测重点测的不是解题、写代码能力,而是 AI 自主主动性、群内沟通分寸感、多 Agent 协同配合,和传统单模型推理榜单侧重点不一样,所以会出现大家印象里很强的 Fable 5.2 性价比翻车的情况,选型的时候不能只看别的榜单高分,要结合业务场景选。