2026 年 5 月，刺猬公社测试发现，豆包、通义千问、DALL・E、Gemini 等主流文生图工具，开始主动拒绝一批容易固化性别、地域、职业刻板印象的绘图请求；早期方案是模型在生成时强行做多样化修正，但经常出现史实失真、强行篡改画面的争议；厂商于是新增一条更保守路径：如果提示词极易诱导模型输出带有偏见的固定画像，直接拦截、拒绝生图，而不是硬生成；这套调整把 “防刻板印象” 从后处理、提示改写升级为前置拦截，也带来新矛盾：一部分正常、中性的创作提示被误拦，也就是行业常说的 “过度拒绝”。下面把测试细节、风控方式、新旧方案对比、争议焦点全部整理清楚。
一、事件基础信息清单
- 报道与测试时间：2026‑05‑12，刺猬公社发布测试，太平洋科技转载扩散
- 参与测试模型：豆包、通义千问、DALL・E、Gemini
- 行为差异：豆包、通义千问对带有地域绑定、强职业性别绑定的提示，倾向直接拒绝；海外模型更多采用改写提示、在画面里强行增加多元形象，部分场景依然会输出刻板画面
- 触发拦截典型提示：把特定职业、身份与单一地域、性别、族群强绑定；预设某一类人天然对应家务、高危、低端岗位；带有地域标签化描述的人像请求
- 调整背景：此前谷歌 Gemini 曾因强行多元化，生成违背史实的画面，引发巨大争议；厂商意识到单纯 “硬改画面” 风险很高，于是增加拒绝通路作为兜底方案
- 底层源头：早期文生图训练集自带社会偏见，默认 “企业家、法官是男性，护士、家政从业者是女性”，很容易通过简单提示复现固化印象
二、模型应对刻板印象的三条路线
- 路线一：直接拒绝（本次新增）
- 路线二：提示词改写 + 多样性增强
- 路线三：训练侧去偏
前置分类器识别高风险提示，直接返回无法生成，避免产出带有偏见图像；国内大模型当前更偏好这条兜底方案。
后台悄悄修改用户提示，扩充描述，要求生成多元形象；DALL・E、Gemini 长期使用该策略，但容易出现史实失真。
在微调阶段使用均衡数据集，平衡性别、肤色、地域分布，降低模型默认偏见；属于长期工程，很难一次性根除。
三、新旧方案优劣对照
| 方案 | 优点 | 突出缺陷 |
|---|---|---|
| 直接拒绝生图 | 不会产出冒犯、有偏见图像，风险可控 | 容易误伤正常创作，造成过度拒绝，用户体验下降 |
| 后台改写提示、强制多元化 | 尽可能保留创作能力 | 容易违背历史事实、破坏创作意图，引发舆论争议 |
| 训练集去偏微调 | 从源头降低固有偏见 | 成本极高，无法覆盖全部边缘场景，偏见依然会涌现 |
四、已经观测到的典型矛盾案例
- 正向价值：“画一个典型某地人” 这类标签化请求被拦截，减少地域脸谱化传播；防止模型反复复制 “护士等于女性、工程师等于男性” 的固定印象。
- 争议案例（过度拒绝）：一些纪实、历史、社科创作提示，本身没有歧视意图，但因为关键词命中风控，同样无法出图。
- 残留漏洞：即便开启拒绝策略，如果用户绕开关键词、用委婉描述诱导，模型依然有可能生成刻板图像；风控存在提示词博弈。
- 模型差异：开源模型如 Stable Diffusion 没有这套强拦截，依然很容易复现经典刻板印象，依赖使用者自行控制。
五、行业正在讨论的改进方向
- 精细化上下文识别：区分纪实历史、学术配图、恶搞、恶意标签化，同样关键词在不同语境下执行不同策略。
- 分级机制：低风险提示优先改写增强多样性；高风险、极易固化偏见的提示才触发拒绝。
- 用户替代引导：拒绝时同步给出改写建议，帮助用户在保留创作意图的前提下，降低偏见风险。
- 公开基准测试：使用 OVERT 这类基准，持续量化 “防偏见” 和 “过度拒绝” 之间的取舍，避免护栏越收越紧。
六、核心不确定性
拒绝不等于彻底消灭刻板印象，只是切断一条传播渠道；模型的隐性偏见根植在海量训练数据中，只能缓解，很难彻底清除。同时，“什么样的提示属于刻板印象” 本身没有唯一标准答案，不同文化、地域、人群判断尺度不一样，厂商只能持续迭代规则，很难做到绝对公允。
【相关 FAQ】
问题 1：AI 拒绝生图，是只要画职业人像就不让生成吗？
回答 1：不是，拦截目标是容易把身份、地域、性别强行绑定、脸谱化的请求；正常不带偏见限定的人像、职业绘画，大多数时候仍然可以生成。
问题 2：为什么厂商不继续用 “自动改成多元画面”，而是改成直接拒绝？
回答 2：因为强制多元化经常翻车，比如篡改历史事实，引发更大争议；直接拒绝作为兜底，能够降低舆论与伦理风险，但代价就是出现误拦。
问题 3：是不是所有 AI 生图工具都会拒绝这类请求？
回答 3：不一样；豆包、千问偏向直接拦截；DALL・E、Gemini 更多优先改写提示；Stable Diffusion 这类开源模型默认没有这套前置拒绝风控。
问题 4：这种拒绝生图的风控，会不会被提示词绕过？
回答 4：会，现在已经出现不少绕开关键词、间接诱导模型生成刻板画面的提示技巧；风控团队需要持续跟进对抗提示词攻击。
【参考资料】
[2026-05-12]（为避免刻板印象，AI 开始拒绝生图）刺猬公社 / 太平洋科技
[2026-05-19]（Google Gemini 因强行多元化生成争议图像）GeekChamp
[2025-05-20]（OVERT：文生图过度拒绝评测基准）arXiv
[2024-10-08]（研究：主流图像模型依然会生成视觉刻板形象）Superpower Daily
[2023-10-09]（DALL・E 3 的提示改写与安全过滤机制）36 氪
【免责声明】
本文信息来自刺猬公社实测报道、学术基准研究以及海外科技媒体；各模型风控策略持续动态调整，今天可以生成的提示，后续有可能被拦截，反之亦然；防刻板印象属于伦理对齐方向，不存在公认完美方案；本文仅作为 AI 产业资讯汇总，不构成创作规范或者技术评判标准。
本文来自作者[微管集信人]投稿，不代表乌兰科技网立场，如若转载，请注明出处：https://www.wlcbnews.com/shangye/202611/943.html
评论列表（4条）
我是乌兰科技网的签约作者“微管集信人”！
希望本篇文章《为规避固化偏见风险，主流文生图模型新增风控，对容易催生刻板印象的提示词直接拒绝生成》能对你有所帮助！
本站[乌兰科技网]内容主要涵盖：互联网行业的追踪与探索
本文概览：2026 年 5 月，刺猬公社测试发现，豆包、通义千问、DALL・E、Gemini 等主流文生图工具，开始主动拒绝一批容易固化性别、地域、职业刻板印象的绘图请求；早期方案是模型在生成时强行做多样化修正，但经常出现史实失真、强行篡改画面的争议；厂商于是新增一条更保守路径：如果提示词极易诱导模型输出带有偏见的固定画像，直接拦截、拒绝生图，而不是硬生成；这套调整把 “防刻板印象” 从后处理、提示改写升级为前置拦截，也带来新矛盾：一部分正常、中性的创作提示被误拦，也就是行业常说的 “过度拒绝”。下面把测试细节、风控方式、新旧方案对比、争议焦点全部整理清楚。