排查重复页面,核心是先用站内搜索指令和抓取工具找出“内容相同或高度相似、但URL不同”的页面,再判断是技术重复还是内容重复,最后用规范化、重定向或合并内容处理,并在复查时确认目标URL已被正确抓取和展示。第一次接触这个问题,建议从“找出重复URL”开始,而不是先改代码。
重复页面不一定完全相同,也可能只是标题、正文主体或产品描述高度相似。常见来源包括:
这些现象只是可能原因,不代表每个站点都会出现。判断时以实际抓取到的URL为准。
先选一批代表性页面,用站内搜索指令查看同一标题或同一段正文是否对应多个URL。例如在搜索框输入:
site:example.com "一段独特的正文句子"
把example.com换成你的域名,引号内换成页面上独有的句子。如果返回多个URL,说明这些页面可能构成重复。接着用抓取工具或日志分析,把返回状态为200、内容相似度高的URL列成表。
还可以检查页面HTML中的规范链接标签。若页面A和页面B都指向同一个规范URL,说明站点已表达偏好;若各自指向自己,则重复风险更高。注意:规范链接是提示,不是强制指令,最终展示仍由搜索引擎判断。
保留哪个URL,不只看收录时间,还要看外链、流量、内容完整度和URL可读性。可以按以下顺序比较:
如果两个URL都有价值,不要简单删除其中一个,而应合并内容,保留一个主URL,把另一个通过301重定向指向主URL。若只是参数造成的重复,可用规范链接指向主版本,并在抓取工具中观察处理结果。
处理完成后,复查三件事:主URL能否正常打开;旧URL是否返回301或规范链接;搜索中展示的URL是否逐步收敛。一次改动前后比较要考虑季节、搜索需求变化和数据采集差异,不能只看某一天的排名波动就下结论。
如果重复页面来自分页,不要把所有分页都规范到第一页,因为分页本身有独立浏览价值。如果来自筛选参数,先确认哪些参数会改变核心内容,再决定是规范、屏蔽抓取还是保留。对于旧域名或旧栏目,优先用301重定向,而不是直接删除。
先导出站点中所有返回200的URL,按标题和正文前200字分组,找出重复组;每组选一个主URL,记录处理方式,两周后复查抓取和展示变化。这样比一次性全站改动更容易定位问题。