灰度只放出一小部分页面时收录正常,全量发布后却大面积不收录,通常不是百度突然改变态度,而是灰度样本本身没有覆盖全量后才会出现的例外条件。要判断问题出在样本偏差还是发布动作,先把灰度期与全量期的可核对事实并排比较。
第一种解释是灰度选样偏乐观。灰度往往挑模板最标准、内容最完整、内链最多的那批页面,它们本来就更容易被抓取和索引。全量里混入了参数页、分页、筛选结果、内容稀薄的列表页,这些页面在灰度阶段根本没被放出来,自然也不会暴露问题。
第二种解释是全量发布这个动作本身改变了抓取条件。例如发布时批量生成了新的 URL 结构、站点地图被替换、内链指向发生偏移、服务器响应时间在高峰段变差。这些变化在灰度小流量下压力不明显,全量后才集中出现。两种解释指向完全不同的修复方向,必须用证据区分,而不是直接改模板。
关键证据是“灰度页面在全量之后是否仍然正常”。如果灰度期被收录的同一批 URL,在全量发布后依然保持可访问、可被抓取、内容未变,那么问题更可能出在全量新增的那部分页面,即样本偏差。反过来,如果连灰度期正常的 URL 在全量后也开始掉出或不再被抓取,说明全量发布动作改动了共同条件,属于第二种解释。
可以核对的具体项包括:
这些证据的作用是缩小范围:如果异常只集中在新增 URL,优先检查这批页面的内容质量和入口;如果灰度 URL 也受影响,优先回看发布动作本身。
假设某站点灰度放出 50 个商品详情页,收录正常;全量放出 5000 个页面后,只有约几百个被处理。此时不应直接断定“百度不收录新页面”。先核对那 50 个灰度 URL 是否仍正常:若仍正常,而新增页面里有大量仅参数不同、正文几乎相同的变体,那么更合理的判断是灰度样本没有包含这些变体,问题在样本选择而非发布动作。若灰度 URL 也一起不再被抓取,则应先检查全量发布是否改动了 robots.txt、服务器响应或站点地图,而不是先删页面。
多个角色对同一现象常有不同理解:开发认为页面已经上线,运营认为百度就是不收录,SEO 认为需要改内容。把分歧转成项目,做法是固定一组对照 URL,分别记录灰度组、全量新增组、以及一个一直稳定的老页面组,在同一时间窗口内核对状态码、正文、canonical、站点地图收录情况和站内入口数量。
完成这组记录后再决定下一步:如果只有全量新增组异常,动作应落在筛选这批 URL、补齐内容与入口,并观察后续抓取是否恢复;如果三组同时异常,动作应落在回查发布动作,必要时回退到发布前的可访问状态再对比。这个动作的结果会直接决定是继续扩量还是暂停发布,而不是凭感觉反复提交。
需要提醒的是,站点地图提交不保证收录,robots.txt 的抓取限制也不等于可靠的索引移除,HTTPS 同样不保证页面会被处理。抓取量或某个统计归零,也可能是日志采样、统计口径变化或访问路径改变造成的,不能单独作为判断处理正确的依据。