直接结论
Microsoft Bing于2026年10月30日发布两套彼此独立的内容用途偏好:AI Training控制内容是否可用于修改生成式AI模型参数,AI Grounding控制内容是否可作为生成答案时的输入。品牌可以禁止训练但继续允许grounding,从而保留被AI答案引用的资格;也可以用新选项DisallowExtended只允许微软自营体验使用内容进行grounding,而排除微软向第三方提供的Web IQ和Foundry grounding API。两套偏好默认均为Allow,不改变传统Bing搜索结果的资格,也不控制抓取访问;新规则从2027年2月1日起随Bing重新抓取逐页生效,现用NoArchive或NoCache的站点需要按官方迁移时间表处理。
事实与背景
Microsoft Bing于2026年10月30日宣布,把网页内容用于生成式AI训练和用于生成答案时的grounding拆成两套独立偏好。公告覆盖由微软爬虫收集、用于未来模型训练或用于Bing、Copilot、Microsoft 365等网页grounding回答的内容。新偏好不改变网页进入传统Bing搜索结果的资格,但抓取、索引、质量和排名的既有要求仍然适用。
这次变化的核心不是新增一个“AI爬虫开关”,而是把内容能否被抓取、能否用于训练、能否用于生成答案grounding和能否进入传统搜索结果拆成不同控制面。品牌可以选择“禁止训练、允许grounding”,而不必在训练授权和AI答案可见性之间二选一。
四个控制面必须分开
| 控制面 | 作用 | 本次新偏好是否负责 | 不能由它证明 |
|---|---|---|---|
| 抓取访问 | 决定Bingbot能否请求URL与读取页面信号 | 否,仍由Bingbot的robots.txt规则、访问控制和服务器响应管理 | 允许抓取不等于允许训练或grounding |
| AI Training | 控制内容是否可用于修改生成式AI模型参数 | 是,可在站点/路径或页面级表达 | 不控制传统搜索资格,也不自动改变grounding |
| AI Grounding | 控制内容是否可在生成答案时作为输入 | 是,仅页面级表达,并可选择Allow、DisallowExtended或Disallow | 允许grounding不保证引用、流量或付费 |
| 传统Bing搜索 | 控制网页在普通搜索结果中的抓取、索引与排名资格 | 没有被新用途偏好取消 | 保留资格不等于一定被索引或获得排名 |
官方特别说明,两套用途偏好在没有适用设置时都默认为Allow。设置DisallowExtended或Disallow会显著降低内容在AI生成体验中的可见性,但不影响传统Bing搜索结果资格。任何选择都不保证内容一定被纳入答案、获得流量或获得报酬,也不构成许可或付款协议。
AI Training与AI Grounding怎样配置
AI Training采用共享的robots.txt用途令牌__usage_ai-training。它使用现有的Allow/Disallow路径语义,不新增robots.txt指令。站点可按全站或路径表达偏好;微软还支持页面级meta或X-Robots-Tag,且页面级训练设置会覆盖robots.txt训练设置。
# 全站禁止用于生成式AI训练
User-Agent: __usage_ai-training
Disallow: /
# 也可以只禁止某个路径
User-Agent: __usage_ai-training
Disallow: /licensed-research/
Allow: /press-kit/
页面级训练禁用可写为<meta name="Bingbot" content="ai-training:disallow">,非HTML资源或统一边缘策略可使用X-Robots-Tag: Bingbot: ai-training:disallow。若不设置,默认允许训练。
AI Grounding没有站点级robots.txt偏好,必须逐页通过meta或X-Robots-Tag表达。Allow允许内容帮助生成答案;DisallowExtended允许微软自营体验使用,但排除微软向第三方提供的Web IQ和Foundry API grounding服务;Disallow则禁止内容用于生成答案grounding。
<!-- 禁止此页用于AI Grounding -->
<meta name="Bingbot" content="ai-grounding:disallow">
<!-- 仅允许微软自营体验使用 -->
<meta name="Bingbot" content="ai-grounding:disallowextended">
同一页面可以组合训练和grounding偏好,例如禁止训练但允许grounding。实施时应以微软当前文档支持的语法为准,不把第三方平台的爬虫名、Content Signals或其他供应商指令混入Bing设置。
按内容价值选择,而不是全站一刀切
| 内容层 | 常见业务目标 | 可考虑的组合 | 主要代价 |
|---|---|---|---|
| 公开产品与服务事实 | 获得搜索发现、AI引用与准确来源链接 | 训练偏好按政策决定;grounding通常保持Allow | 允许grounding仍不保证引用,事实需持续更新 |
| 品牌观点与公开研究 | 扩大专业来源可见性,但不希望用于训练 | AI Training Disallow + AI Grounding Allow | 内容仍可能进入生成答案输入 |
| 授权或付费内容摘要 | 保留微软自营体验可见性,限制第三方grounding服务 | AI Training Disallow + AI Grounding DisallowExtended | 第三方AI体验中的可见性会下降 |
| 完全不希望进入生成答案的公开页 | 保留传统搜索资格,但停止grounding使用 | AI Grounding Disallow;训练另行选择 | AI生成体验中的品牌曝光与引用会显著减少 |
| 私有、受限或未发布内容 | 防止未授权访问 | 认证、网络访问控制、正确状态码;必要时配合noindex | 用途偏好不是安全控制,不能替代权限系统 |
出海品牌最容易犯的错误,是把法律授权、商业分发、搜索发现和AI引用混成一个全站规则。更稳健的方法是先按内容权利与业务目标分层,再为每层确定训练与grounding的默认值;高价值公开事实页和受许可限制的研究页不应共用同一策略。
NoArchive与NoCache迁移有明确时间表
| 日期 | 官方安排 | 品牌动作 |
|---|---|---|
| 2026年12月15日 | Bing Webmaster Tools开放临时grounding过渡偏好,只面向截至该日正在使用NoArchive或NoCache的站点 | 确认哪些站点和页面依赖旧规则,准备逐页新偏好 |
| 2027年2月1日 | 微软开始在重新抓取时执行新AI Training和AI Grounding偏好 | 检查线上响应、抓取日志和页面源代码,确认新规则可被读取 |
| 2027年3月1日 | 维持旧grounding限制的关键期限;NoArchive/NoCache不再作为训练或grounding偏好读取 | 发布新页面级grounding设置;符合过渡条件者还需在Bing Webmaster Tools登记临时偏好 |
| 2027年9月30日 | 临时grounding偏好到期,或在微软先重新抓取并发现页面新设置时提前被替换 | 不能依赖临时设置长期覆盖未被重新抓取的页面 |
如果微软检测到站点上的新AI Training或AI Grounding偏好,就会忽略该站点仍保留的NoArchive和NoCache偏好。对训练,没有Bing Webmaster Tools临时设置;对grounding,只有在2026年12月15日已使用NoArchive/NoCache的站点才有过渡入口。其他站点无需执行旧规则迁移,但仍应按内容政策决定是否发布新偏好。
发布设置不等于已经生效
新偏好必须被微软抓取后才能被发现和执行。把标签写进模板、修改边缘响应或更新robots.txt,只证明配置已发布,不证明Bing已经读取。IndexNow可以通知搜索引擎URL发生变化并提高重新抓取机会,但官方明确:HTTP 200只表示收到URL,IndexNow不保证抓取日期或索引结果。
验收应至少保留四类证据:线上原始HTML或HTTP响应头、robots.txt实际响应、Bingbot访问日志或URL检查状态、以及Bing Webmaster Tools中的AI引用和页面级变化。若使用CDN多市场规则,还要从不同地区核对响应头,避免同一canonical URL因地域、设备或缓存层返回不同用途偏好。
怎样测量业务影响
迁移后的测量不能只看自然搜索点击。Bing Webmaster Tools的AI Performance报告提供可见引用次数、被引用页面和grounding query等汇总数据,但官方说明这些指标不代表排名、权威、点击、流量或单次回答中的作用。策略变更、内容更新、需求变化、模型更新和合作方刷新周期都可能共同影响趋势。
| 证据层 | 记录内容 | 可以判断 | 不能直接判断 |
|---|---|---|---|
| 配置 | 页面、路径、偏好值、部署版本和响应头 | 规则是否正确发布 | 微软是否已抓取 |
| 发现 | Bingbot日志、URL检查、IndexNow提交与时间 | 页面是否出现抓取或更新信号 | 新偏好一定已在所有系统生效 |
| AI可见性 | AI Performance引用量、页面、主题与grounding query | 支持体验中的汇总引用变化 | 排名、点击、收入或因果关系 |
| 站内结果 | 可识别引荐、落地页行为、询盘与转化 | 到站后的业务路径 | 未点击的AI曝光或第三方grounding使用 |
建议在变更前建立至少28天基线,并为不同内容层保留策略对照。上线后记录Bing重新抓取日期,再比较同类型页面的引用、引荐和业务指标。没有抓取证据时,不应把“标签已发布”当作实验起点;没有对照和时间边界时,也不应把引用波动归因于单一偏好。
对企业的影响
这次更新让出海品牌第一次可以在微软体系内把“禁止训练”与“允许AI答案引用”明确拆开。过去依赖NoArchive或NoCache的站点,如果不迁移,旧偏好在2027年3月1日之后不再承担训练与grounding用途控制;对新闻、研究、知识库、产品资料和授权内容较多的企业,这会从SEO配置问题升级为内容权利、渠道分发和品牌可见性的共同治理问题。 多市场企业还要处理页面级规则的规模化一致性。grounding没有全站robots.txt设置,语言、市场、内容类型和权利状态必须能映射到页面或响应头。若模板、CDN和CMS各自写入不同标签,品牌可能在不知情的情况下扩大授权或压低AI可见性。
智核增长的判断
智核增长认为,最有价值的变化不是新增DisallowExtended本身,而是微软把训练、grounding、抓取和传统搜索四个控制面明确解耦。品牌应把新偏好当作内容用途治理,而不是排名技巧:公开产品事实、FAQ和证据页通常需要AI可引用性;受许可限制的研究、媒体或付费内容则需要更细的分发边界;私有内容继续依靠真正的访问控制。 建议采用“内容分级—策略映射—机器配置—复抓取证据—分层测量”五步法。先建立URL级账本,再生成robots.txt、meta与X-Robots-Tag,随后用Bingbot日志和Bing Webmaster Tools验证发现,最后分别看AI引用和站内业务结果。不要把默认Allow误写成获得引用的保证,也不要把DisallowExtended当作法律许可或付费机制。
建议行动
- 导出现有站点中NoArchive、NoCache、noindex、nosnippet、data-nosnippet和Bingbot robots规则,建立URL与模板级清单。
- 按公开产品事实、品牌知识、授权内容、付费内容和私有内容分级,分别确定训练与grounding目标。
- 对需要禁止训练的全站或路径配置User-Agent: __usage_ai-training,并用Allow/Disallow表达路径范围。
- 对需要例外的页面使用Bingbot页面级ai-training设置,并确认它与robots.txt训练策略的覆盖关系符合预期。
- 对每个需限制grounding的页面选择DisallowExtended或Disallow;不要尝试用不存在的全站grounding robots.txt规则代替。
- 确保Bingbot仍能访问需要读取meta或X-Robots-Tag的URL;私有内容使用认证和访问控制,而不是只依赖用途偏好。
- 若站点在2026年12月15日仍使用NoArchive或NoCache,准备Bing Webmaster Tools临时grounding偏好,并在2027年3月1日前完成页面级迁移。
- 变更后提交受影响URL到IndexNow,同时记录提交、抓取和页面响应证据,不把HTTP 200当作已抓取或已索引。
- 对HTML、PDF、图片和API输出分别检查meta或X-Robots-Tag,核对CDN、缓存和多地区响应是否一致。
- 以Bing AI Performance、服务器日志、可识别引荐和站内结果分层测量,在有抓取证据和基线后再判断变化。
限制条件
本文依据2026年10月31日可访问的Microsoft Bing公告、Bing Webmaster Tools帮助、IndexNow与IETF资料。Microsoft计划从2027年2月1日起随抓取执行新偏好,部分Bing Webmaster Tools过渡功能要到2026年12月15日开放;本文因此给出的是发布前准备与迁移框架,不声称当前所有页面已经按新规则执行。 __usage_ai-training来自2026年10月30日发布的IETF Internet-Draft。该文档明确标注为个人提交的活跃草案,不代表IETF正式认可,也不是RFC;草案可能被修改、替换或废止。Microsoft已宣布采用当前语法,但其他平台是否支持、何时支持及如何解释必须分别核验,不能从微软实现外推为全网统一标准。 用途偏好不是访问控制、版权许可、合同、付款机制或法律意见。Allow不保证抓取、索引、排名、引用、流量或报酬;Disallow与DisallowExtended也不能替代身份认证、网络隔离、下架或适用法律下的权利执行。跨市场发布者应由内容、法务、SEO、数据和基础设施团队共同确认策略。