首页 / SEO book / 谷歌 SEO / 从 Google 移除网址

如何从 Google 搜索中移除网址(5 种方法)

从 Google 移除网址谷歌 SEO

从 Google 移除网址没有通用方案,要看具体情况。用错方法不仅可能让页面无法如期从索引中移除,还可能损害 SEO。

从 Google 移除网址有很多种方法,但没有一种放之四海皆准的方案,完全取决于你的具体情况。

有一点必须理解清楚:用错方法,不仅有时会让页面无法如期从索引中移除,还可能对 SEO 产生负面影响。

为帮你快速判断哪种移除方法最适合,我们做了一张流程图,你可以据此跳到本文相应的章节。

如何检查某个网址是否已被索引

我常见到 SEO 从业者靠在 Google 里做 site: 搜索(例如 site:https://ahrefs.com)来判断内容是否被索引。site: 搜索有助于识别网站中一旦出现在搜索结果里就可能存在问题的页面或栏目,但需要小心,因为它不是普通查询,实际上无法告诉你某个页面是否真的被索引。它可能展示 Google 已知的页面,但这并不意味着这些页面在不加 site: 运算符时就有资格出现在正常搜索结果中。

例如,site: 搜索仍可能展示那些会重定向、或被设置规范标签指向另一页面的页面。当你检索某个特定站点时,Google 可能展示来自该域名的页面,但内容、标题和描述却来自另一个域名。以 moz.com 为例,它过去是 seomoz.org。任何指向 moz.com 页面的普通用户查询,都会在搜索结果页面(SERP)中显示 moz.com,而 site:seomoz.org 则会在搜索结果中显示 seomoz.org,如下所示。

这一区别之所以重要,是因为它可能让 SEO 从业者犯错,比如主动阻止或从索引中移除旧域名的网址,并妨碍 PageRank 等信号的整合。在许多域名迁移的案例中,我都见过这样的情况:人们因为 site:旧域名.com 搜索时这些页面仍会出现,就以为自己在迁移过程中犯了错,结果在试图“修复”问题的过程中反而伤害了自己的网站。

检查索引状态更好的方法是使用 Google Search Console 中的索引覆盖率报告,或针对单个网址使用网址检查工具。这些工具会告诉你页面是否被索引,并提供有关 Google 如何处理该页面的额外信息。如果你没有这些工具的访问权限,只需在 Google 中搜索你页面的完整网址即可。

在 Ahrefs 中,如果你在我们的 “Top pages(热门页面)” 报告里、或它的自然关键词排名里找到了该页面,通常意味着我们曾看到它为普通搜索查询获得排名,这很好地表明该页面当时已被索引。请注意,我们观察到这些页面时它们是已被索引的,但之后情况可能已经变化。查看我们最后一次看到该页面为某查询获得排名的日期。

如果某个特定网址存在问题、需要从索引中移除,请参照文章开头的流程图找到正确的移除方案,然后跳转到下面相应的章节。

移除方案 1:删除内容

如果你删除该页面,并返回 404(未找到)或 410(已删除)状态码,那么在该页面被重新抓取后不久,它就会从索引中移除。在被移除之前,该页面可能仍会出现在搜索结果中。而且即便页面本身已不可用,其缓存版本也可能在一段时间内仍可访问。

何时你可能需要换用其他方案:

  • 我需要更立即的移除。请参阅网址移除工具一节。
  • 我需要整合链接等信号。请参阅规范化(canonicalization)一节。
  • 我需要该页面仍对用户可用。看看 noindex 或限制访问这两节是否适合你的情况。

移除方案 2:Noindex

noindex 的 meta robots 标签或 x-robots 响应头都会告诉搜索引擎把某个页面从索引中移除。meta robots 标签适用于页面,而 x-robots 响应则适用于页面和 PDF 等额外文件类型。要让这些标签被识别,搜索引擎必须能够抓取这些页面,所以请确保它们没有被 robots.txt 屏蔽。另外请注意,将页面从索引中移除可能会妨碍链接及其他信号的整合。

meta robots noindex 示例:

响应头中的 x-robots noindex 标签示例:

何时你可能需要换用其他方案:

  • 我不想让用户访问这些页面。请参阅限制访问一节。
  • 我需要整合链接等信号。请参阅规范化(canonicalization)一节。

移除方案 3:限制访问

如果你希望页面能被某些用户访问、但不让搜索引擎访问,那么你多半想要以下三种方案之一:

  • 某种登录系统;
  • HTTP 身份验证(访问需要密码);
  • IP 白名单(只允许特定 IP 地址访问页面)

这类设置最适合内部网络、仅会员可看的内容,或预览、测试、开发环境站点。它允许一组用户访问页面,但搜索引擎无法访问,也就不会将这些页面编入索引。

何时你可能需要换用其他方案:

  • 我需要更立即的移除。请参阅网址移除工具一节。在这种特定情况下,如果你试图隐藏的内容已被缓存,而你需要阻止用户看到该内容,就可能需要更立即的移除。

移除方案 4:网址移除工具

Google 这个工具的名字多少有些误导,因为它的工作原理是临时隐藏内容。Google 仍会看到并抓取这些内容,但页面不会对用户显示。这种临时效果在 Google 中持续六个月,而 Bing 也有类似工具,效果持续三个月。这些工具应只在最极端的情况下使用,比如安全问题、数据泄露、个人可识别信息(PII)等。对 Google,请使用移除工具(Removals Tool);对 Bing,请参阅如何屏蔽网址。

你仍需要在使用移除工具的同时配合另一种方法,才能真正让页面在更长时间内被移除(noindex 或删除),或在用户仍持有链接时阻止他们访问内容(删除或限制访问)。这只是给你一种更快的隐藏页面方式,为移除操作的处理争取时间。该请求最多需要一天来处理。

移除方案 5:规范化(Canonicalization)

当一个页面存在多个版本,而你想把链接等信号整合到某一个版本上时,你要做的就是某种形式的规范化。这主要是为了在把页面的多个版本整合为单一被索引网址的同时,避免重复内容。

你有多种规范化方案可选:

  • 规范标签(Canonical tag)。它指定另一个网址作为规范版本、或你希望被展示的版本。如果页面是重复的或很相似,这应该没问题。当页面差异过大时,规范标签可能被忽略,因为它只是一个提示(hint),而非指令。
  • 重定向。重定向会把用户和搜索机器人从一个页面带到另一个页面。301 是 SEO 从业者最常用的重定向,它告诉搜索引擎:你希望最终网址成为搜索结果中展示的版本、并作为信号整合之处。302 或临时重定向则告诉搜索引擎:你希望原始网址保留在索引中,并在那里整合信号。
  • 网址参数处理(2022 年初弃用,现已无用)。参数会附加在网址末尾,通常包含一个问号,例如 ahrefs.com?this=parameter。Google 这个工具过去让你可以告诉它该如何对待带有特定参数的网址。比如,你曾可以指定该参数是否会改变页面内容,还是仅用于追踪使用情况。

如何确定移除的优先级

如果你有多个页面需要从 Google 索引中移除,就应该相应地确定它们的优先级。

最高优先级:这类页面通常与安全或机密数据相关,包括含有个人数据(PII)、客户数据或专有信息的内容。

中等优先级:这类通常涉及面向特定用户群体的内容,如公司内网或员工门户、仅会员可看的内容,预览、测试或开发环境。

低优先级:这类页面通常涉及某种重复内容,例如同一页面由多个网址提供、带参数的网址,同样也可能包括预览、测试或开发环境。

应避免的常见移除错误

我想介绍几种我常看到的、被错误执行的移除方式,每种情形下会发生什么,帮助大家理解为什么这些方法行不通。

在 robots.txt 中写 noindex

虽然 Google 过去非官方地支持在 robots.txt 中使用 noindex,但这从来都不是正式标准,如今他们已正式取消支持。许多这样做的网站其实是用法错误,反而害了自己。

在 robots.txt 中阻止抓取

抓取并不等同于索引。即使 Google 被阻止抓取页面,只要存在指向某页面的任何内链或外链,他们仍然可以把它编入索引。由于不会抓取,Google 不会知道页面上有什么内容,但他们知道这个页面存在,甚至会根据指向该页面的链接的锚文本等信号,编写一个标题显示在搜索结果中。

Nofollow

它常被误当成 noindex,有些人会在页面级别使用它,以为这样页面就不会被索引。Nofollow 只是一个提示,虽然它最初能阻止抓取页面上的链接和带有 nofollow 属性的单个链接,但如今已不再如此。现在只要 Google 愿意,就可以抓取这些链接。Nofollow 也曾被用在单个链接上,试图阻止 Google 顺着链接抓取到特定页面,用于 PageRank 的分配调控(PageRank sculpting)。同样,由于 nofollow 只是提示,这也不再奏效。过去,如果该页面还有其他指向它的链接,Google 仍可通过这条替代抓取路径发现它。

注意,你可以使用 Ahrefs 的 Site Audit(站点审计)中 Page Explorer 的这个筛选器,批量找出被 nofollow 的页面。

由于对页面上的所有链接都加 nofollow 几乎没有意义,结果数量应该是零或接近零。如果出现匹配的结果,我强烈建议你检查一下,是否误把 nofollow 指令加在了本该写 noindex 的地方;如有需要,请选择更合适的移除方法。

你也可以使用 Link Explorer 中的这个筛选器,找出被标记为 nofollow 的单个链接。

同时使用 noindex 和指向另一网址的规范标签

这些信号是相互冲突的。Noindex 表示把页面从索引中移除,而规范标签表示另一个页面才是应该被索引的版本。这种做法实际上或许能实现整合,因为 Google 通常会选择忽略 noindex,转而把规范标签作为主要信号。然而,这并非绝对的行为。这其中涉及算法,存在 noindex 标签反而成为被计入信号的风险。若果真如此,页面就无法正确整合。

注意,你可以使用 Site Audit 中 Page Explorer 的这组筛选器,找出那些带有非自指规范标签的 noindex 页面:

先 noindex,等 Google 抓取后再阻止抓取

这种情况通常有以下几种发生方式:

  1. 页面已经处于阻止抓取状态,但已被索引;人们添加 noindex 并解除阻止,让 Google 抓取并看到 noindex,然后再重新阻止这些页面被抓取。
  2. 人们为想移除的页面添加 noindex 标签,等 Google 抓取并处理了该 noindex 标签后,再阻止这些页面被抓取。

无论哪种方式,最终状态都是阻止抓取。如果你还记得,前面我们讲过抓取不等同于索引。即使这些页面被阻止抓取,它们仍可能最终进入索引。

如果内容是你的,但不在你自己的网站上,该怎么办?

如果被用于另一个网站的内容归你所有,你可以依据《数字千年版权法》(DMCA)提出投诉。你可以使用Google 的版权移除工具进行所谓的 DMCA 下架请求,要求移除任何受版权保护的材料。

如果内容是你的,但不在你自己的网站上,该怎么办?

如果你在欧盟,凭借“被遗忘权(right to be forgotten)”的法院裁定,你可以要求移除含有你个人信息的内容。你可以使用欧盟隐私移除表单申请移除个人信息。

移除图片

要从 Google 移除图片,最简单的方法是用 robots.txt。正如前面提到的,robots.txt 移除了对移除页面的非官方支持,但仅禁止抓取图片,正是移除图片的正确做法。

移除单张图片:

移除所有图片:

最后总结

如何移除网址要视具体情况而定。我们已经讨论了好几种方案,但如果你仍不确定哪种适合自己,请回头看看开头的流程图。

你也可以使用 Google 为内容移除提供的法律疑难排查工具(legal troubleshooter)。

有疑问?欢迎在 Twitter 上告诉我。