首页 / SEO book / AI 搜索与 GEO / AI 助手链接幻觉

新研究:AI 助手多久会捏造一次链接?(研究 1600 万个 URL)

AI 助手链接幻觉AI 搜索与 GEO

ChatGPT、Claude 等 AI 助手可能捏造(幻觉出)URL,把访客引向并不存在的页面。我们检查了 ChatGPT、Perplexity、Copilot、Gemini、Claude 与 Mistral 引用的 1600 万个唯一 URL 的 HTTP 状态:AI 助手把访客引向 404 页面的频率是 Google 搜索的 2.87 倍。

ChatGPT 和 Claude 等 AI 助手可能捏造(幻觉出)URL,把访客引导到你自己网站上并不存在的页面。但这种情况究竟有多频繁?

为弄清这一点,我们查看了 ChatGPT、Perplexity、Copilot、Gemini、Claude 和 Mistral 引用的 1600 万个唯一 URL 的 HTTP 状态。

我们发现,AI 助手把访客引向 404 页面的频率是 Google 搜索的 2.87 倍。

ChatGPT 的情况最严重:被点击的 URL 中有 1.01%、所有被引用的 URL 中有 2.38% 返回 404 状态(相比之下,基准 404 率分别为 0.15% 和 0.84%)。

以下是我们发现的结果:

测试 1:在 Web Analytics 中分析被点击的 URL

在第一项测试中,我们使用了免费分析工具 Web Analytics 的匿名数据。这样就能看到真实网站上,用户对 AI 推荐 URL 的实际访问情况。

方法如下:

  • 我们用 Web Analytics 数据找出所有推荐来源为 AI 助手(如 ChatGPT 或 Perplexity)的 URL。
  • 如果页面标题包含“404”或“not found”,我们就把该 URL 标记为可能的 404 页面。
  • 对于每个 AI 助手,我们把可能的 404 页面数量与推荐的 URL 总数进行对比,从而得出其 404 率。

ChatGPT 的 404 页面比例最高,在所有被引用的 URL 中,有 1.01% 的页面标题包含“404”或“not found”。

紧随其后的是 Claude,为 0.58%;然后是 Copilot(0.34%)、Perplexity(0.31%)和 Gemini(0.21%)。Mistral 的 404 率最低(0.12%),但它带来的推荐流量也最少,因此在这项测试中样本量最小。

Google 的 404 基准率

这不是一次完美的测试。有些 404 页面的标题可能并不包含“404”或“not found”;也并非所有被 AI 助手捏造的链接都会被点击(因此不会出现在 Web Analytics 数据中),所以我们的统计很可能低估了幻觉 URL 的总数。

这些 404 页面中,有一部分也可能是真实的 404 页面,而非幻觉 URL。为给这些数据补充额外参照,我们可以与 404 页面的“基准率”对比。为此,我们查看了所有以 Google 为推荐来源的唯一 URL(6.29 亿个唯一 URL)的 404 率,结果为 0.15%。

有了这个额外参照,很明显,AI 助手的 404 率显著高于 Google 的“基准”404 率。看来 ChatGPT、Claude、Copilot、Perplexity 和 Gemini 都可能生成幻觉 URL。

所有 AI 助手的平均 404 率为 0.43%。与 Google 推荐 URL 的 404 率相比,AI 助手把访客引向 404 页面的频率是 Google 搜索的 2.87 倍([['Text', '0.43/0.15']])。

测试 2:在 Brand Radar 中分析被引用的 URL

我们还用 Brand Radar 做了一项类似的测试。它是有海量数据、可搜索的数据库,收录了数百万条 AI 助手的提示词和输出内容。借助这些数据,我们能看到 AI 助手引用的所有 URL,而不只是被点击的那些。

  • 我们在 Brand Radar 数据库中找出了 ChatGPT、Perplexity、Copilot 和 Gemini 引用的所有 URL。
  • 对于同时也存在于我们爬虫数据库中的那些 URL(占 URL 总数的 65%),我们获取了最近的 HTTP 状态。
  • 对于每个 AI 助手,我们计算了爬虫数据库中其被引用 URL 的 404 率。

被引用 URL 的 404 率(而不只是既被引用又被点击的 URL)比上一项测试高得多。

同样,ChatGPT 的 404 页面比例最高(2.38%),紧随其后的是 Perplexity(0.87%)和 Gemini(0.86%),两者非常接近。Copilot 的 404 率最低,为 0.54%。

这项测试同样有局限。和之前一样,这些 404 页面中有一部分会因为幻觉以外的原因返回 404 状态。我们还低估了 404 URL 的总数,因为我们只能看到爬虫数据库中那些 URL 的 HTTP 状态(而且我估计,相当一部分幻觉 URL 并不在我们的爬虫数据库里,因为它们从未真实存在过)。

和之前一样,我们想把这些数字与 404 的“基准”率对比。为此,我们从 40 万个 SERP 的前 20 名结果中提取了所有唯一 URL。

这些 URL 中有 67% 也存在于我们的爬虫数据库中,据此我们算出 404 率为 0.84%。(简单来说,Google 前 20 名结果中有 0.84% 的 URL 会返回 404 状态。)

Perplexity(0.87%)和 Gemini(0.86%)的 404 率与 Google SERP(0.84%)的 404 率极为接近。

这可能是因为 Gemini 和 Perplexity 使用 Google 搜索索引来获取 URL:它们的 404 率反映的正是其来源(Google)中 URL 的 404 率。若果真如此,它们的幻觉率似乎可能低于 ChatGPT。

Copilot 使用的是 Bing 搜索索引,因此 Copilot 的 404 率可能反映的正是 Bing 的 404 率。

AI 助手为什么会捏造链接?

我怀疑幻觉链接主要有两个成因。

有一部分被引用的 URL 曾经是有效的,但现在返回 404 状态。AI 助手会结合网络搜索和自身内部知识,它们引用的一些 URL 可能曾经存在、后来被删除或迁移了(而没有把原页面重定向)——尤其是在仅依赖内部知识的时候。

(这也解释了为什么我们的爬虫数据库里存在大量这类 404 页面。)

另一部分被引用的 URL 则是真正的幻觉,也就是说,它们符合某个网站 URL 的常见模式,但实际上并不存在。

对 Ahrefs 博客而言,访问量最高的幻觉 URL 是像 [['Text', '/blog/internal-links/']] 和 [['Text', '/blog/newsletter/']] 这样的页面。考虑到我们在博客上写的是 SEO 相关主题,而且我们确实有一份邮件通讯,这些 URL 符合 Ahrefs 博客页面的典型模式——但它们实际上并不存在。

其中一些幻觉链接也可能存在于我们的爬虫数据库中。如果已发布的 AI 生成内容里含有幻觉 URL,我们的爬虫会尝试抓取它。考虑到74% 的新网页都含有一定量的 AI 生成内容,这种情况非常有可能发生。

如何找出你网站上的幻觉 URL

若想衡量幻觉 URL 带来的影响,你手上最好的数据来源就是自己网站的分析数据。以下是你自己动手测试的方法:

1. 筛选网站分析数据,显示 AI 流量

首先,筛选你的网站分析数据,显示来自 AI 助手的访问。若使用 GA4,你需要在探索报告(Exploration)中对“会话来源”(Session source)维度应用一个正则表达式。

SALT.agency 的 Thierry Ngutegure 推荐了下面这个正则表达式。当出现新的 AI 助手、或它们更改推荐来源信息时,你需要更新该表达式:

若使用 Ahrefs 的 Web Analytics,直接使用内置的“AI search”渠道筛选即可:

选择你感兴趣的时间段,然后把数据导出到 Google Sheets。

2. 生成一个返回 HTTP 状态的 Apps Script 脚本

接下来,让 ChatGPT(或你常用的 AI 助手)生成一个 Apps Script 脚本,用来返回 Google Sheet 中 URL 的 HTTP 状态。然后,在你的 Google Sheet 中,打开扩展程序 > Apps Script,粘贴并保存你的脚本。

在 Google Sheet 中新建一列,调用你的脚本,把目标指向包含 URL 的单元格(例如 =GetHttpStatus(A2)),然后应用到整列。

(如果你有成千上万个 URL,这可能会花上一段时间——对于大型网站,最好改用爬虫工具。)

3. 筛选出 404 状态且访客数 >10 的 URL

接下来,筛选表格,只显示返回 404 状态码且有访客的 URL。

我把阈值设为每月访客数大于 10 的 URL,但你可以根据自己的网站情况设定合适的阈值。

你可以手动检查其中一些 URL,确认它们确实是幻觉(而非因其他原因暂时无法访问的真实页面)。

4. 进行 301 重定向(如果合理的话)

如果你有幻觉页面获得了可观的访问量,那么或许值得把幻觉 URL 301 重定向到你网站上一个相关的页面(前提是你有的话)。

你需要猜测那个幻觉页面原本可能是关于什么的,但通常光看 URL 就足以做出合理推断(访问幻觉 URL [['Text', '/blog/keywords/']] 的人,多半能从我们真正的关键词研究指南中获益)。

或者,如果你不想织出一张 301 重定向的蜘蛛网,也可以更新你的 404 页面,加入一份实用资源清单,让那些失望的 LLM 访客觉得有用(比如你最受欢迎的内容,或你的邮件通讯订阅页面)。

我该在意这件事吗?

根据我们最近一次的测量,AI 助手(主要是 ChatGPT)贡献了网站总流量的 0.25%,而 Google 为 39.35%。ChatGPT 推荐的流量中有 1.01% 指向 404 页面,因此幻觉 URL 影响的只是平均网站流量中本就很小的那部分里的一小部分。

对于理解 AI 搜索的又一个特性来说,这是一个有用的练习,但它并不代表某种巨大的增长杠杆。若你能花很少的力气就尽量减少幻觉 URL 的影响,那大概还是值得做的。

正因如此,我们即将在 Web Analytics 中新增一个筛选器,只需两次点击就能帮你找出幻觉 URL。若你在找一个简单的 Google Analytics 替代方案,每月最多 100 万次事件免费,欢迎看看:

对这项研究有疑问或想法?在 LinkedIn 上告诉我。