改版前保留搜索基础,核心不是把旧页面全部留着不动,而是先判断哪些旧网址承担了抓取、索引和排名入口的作用,再用重定向、内容迁移或保留原路径的方式,把旧页面的价值传递到新结构上。火车头采集器使用场景下,尤其要避免直接批量删除旧内容、换掉固定链接或让采集生成的新页面与旧页面同时存在。
改版前应整理一份旧网址清单,至少包含以下检查项:
抓取、索引和排名是不同环节:页面被抓取不等于被索引,被索引也不等于有排名。改版前要保留的是已经形成搜索入口的页面,而不是所有历史文件。如果旧页面只是采集后从未被收录,处理优先级可以降低;如果旧页面已有外部链接或搜索点击,就应优先保留其可访问路径。
常见做法有两种,选择依据是旧页面是否仍有搜索价值,以及新结构能否承接原有内容。
方案一:保留旧网址并更新内容。适合旧页面已有收录、外链或搜索点击,且新页面主题与旧页面基本一致的情况。此时可以保留原路径,只替换页面模板、补充内容或调整内链。对火车头采集器使用来说,如果旧页面本身就是采集生成的,应先检查内容质量,再决定是否保留。适用条件是旧网址可继续访问,服务器能维持原路径,且不需要更换域名或目录规则。
方案二:迁移到新网址并设置重定向。适合改版后必须更换目录、域名或固定链接规则的情况。此时应把旧网址逐条对应到新网址,使用 301 重定向传递搜索基础。判断结果是:如果新旧页面主题一致,重定向更合适;如果旧页面内容已无保留价值,可以返回 410 或直接删除,但删除前要确认没有外部链接和搜索入口。
不要用 JavaScript 跳转代替服务器端重定向,也不要把所有旧页面统一跳到首页。批量跳首页会被视为软 404,旧页面积累的搜索基础很难传递到对应新页面。
如果改版后仍使用火车头采集器发布内容,处理顺序可以这样执行:
假设一个旧页面地址为 /item/1001.html,改版后新地址为 /products/1001.html,应让旧地址 301 到新地址,而不是让两个地址同时返回相同内容。若采集器仍按旧规则生成 /item/ 路径,就要先调整发布规则,避免新旧页面并存。
改版完成后,需要按以下项目复查:
复查周期不必固定,但应在改版上线后尽快检查一次,并在后续抓取数据更新后再次核对。若发现旧网址仍可访问且与新网址内容相同,应优先处理重复入口;若发现重定向链过长,应改为直接跳转到最终地址。
下一步,先导出旧网址与目标新网址的对应表,再决定哪些保留、哪些重定向、哪些删除。火车头采集器使用中,发布规则和固定链接规则要同步调整,避免改版后继续生成旧路径页面。