网站规模扩大后,最不适合继续手工做的是逐页查看网页快照并据此判断索引状态。手工快照适合验证个别样本,一旦页面数量增长,它既无法覆盖全量,也无法区分“页面没被收录”“快照版本滞后”“页面本身返回异常”这几类不同原因,继续靠人工逐页点开只会消耗时间而不产生可复用的结论。
假设一个站点原本只有几十个页面,编辑每周手工查看网页快照,确认内容是否被收录、快照是否更新。这个做法在小规模下成立,因为样本少、变化慢、每页都能记住上下文。当站点扩展到几千个页面、由多人更新、模板和参数组合出大量 URL 时,同样的人工动作会出现三个问题:一是覆盖不全,只能抽查少量页面;二是判断依据不统一,不同人看到快照后给出的结论不一致;三是无法回溯,上个月查过哪一页、结论是什么,没有留下结构化记录。
这里的边界很重要:手工查看网页快照并非完全不能用,它在排查单个异常页面、确认某个具体改动是否被反映时仍然有效。问题出在把它当作规模化后的常规巡检手段。
规模化后需要交出去的工作,共同特征是“重复、可枚举、结论可以标准化”。可以按下面的顺序判断:
反过来,以下工作仍适合保留人工:判断某个页面的内容质量是否达标、确认一次改版是否改变了页面语义、处理批量结果中互相矛盾的少数样本。这些判断依赖上下文,规则难以完全替代。
具体动作是:把站点按页面模板或目录结构分组,每组先手工查看少量网页快照,记录三类信息——页面是否可访问、快照对应的内容版本、页面是否出现在索引结果中。如果同一组内样本结论一致,说明该组可以用批量规则处理;如果组内结论分散,说明问题出在页面个体而非模板,此时才需要回到人工逐页确认。
这个动作的结果会直接影响下一步:分组内结论一致时,把该组交给批量检查,人工只复核异常项;结论分散时,先解决造成分散的原因(例如模板输出不稳定、部分页面被参数污染),再谈规模化巡检。跳过这一步直接全量手工查看,等于把本可以用规则收敛的问题重新拆成一个个孤例。
除了页面数量,还有几个信号说明手工方式已经接近上限:
出现其中任何一个,就应该把对应环节从手工改为规则驱动或批量处理。需要说明的是,抓取、索引、排名是不同环节,手工查看网页快照主要反映的是抓取与索引层面的线索,它不能单独证明排名变化的原因,也不能因为某次快照未更新就断定页面处理有误——快照滞后、缓存策略、页面本身未变化,都是合理解释。
规模扩大后的合理分工是:规则负责枚举、比对和留存记录,人工负责解释异常和决定取舍。手工查看网页快照仍然有用,但它的位置应该从“日常巡检手段”退到“验证与排查手段”。先按模板分组做一次小样本验证,再根据结论一致与否决定批量范围,这一步做完,后面该不该继续手工、该手工到什么程度,答案会清楚很多。