LS-Labs

搜索与 AI

llms.txt 是什么?

The /llms.txt file

llms.txt 是放在网站根目录或子路径下的 Markdown 文本文件,用标题、摘要和链接列表,告诉大语言模型和 AI 智能体这个网站是做什么的、重要内容在哪里。智能体先读这份精简索引,需要时再顺着链接获取细节。它由 Jeremy Howard 在 2024 年 9 月提出,目前仍是开放社区讨论的提案。

H1网站或项目名称

唯一必填的部分。

Blockquote摘要

一段简短摘要,写明读懂全文所需的关键信息。

Details补充说明

不含标题的段落或列表,说明细节以及如何理解后面的链接,可省略。

H2 file lists分节链接列表

以 H2 分节的 Markdown 链接列表,链接后可加说明;名为 Optional 的一节放可以跳过的次要链接。

.md pages页面的 Markdown 版本

建议为重要页面另外提供 Markdown 版本,网址是在原网址后加 .md,或把扩展名换成 .md。

文件由哪几部分组成

按照 v2 提案,文件依次包含前四项;第五项是针对网站其他页面的配套建议。

提案版本与 llms-full.txt

提案页目前标注为 v2,最后修改于 2026 年 8 月 10 日。修订说明列出的变动包括:明确一份文件覆盖其所在路径以下的页面,多份适用时以最具体的为准;建议用 rel="alternate" 与 rel="describedby" 链接指向页面的 Markdown 版本与对应的 llms.txt;v1 的上下文展开工具移出提案,Optional 一节也不再有特殊作用。

常见的 llms-full.txt 不在 v2 提案的格式定义中,而是部分平台的做法,例如 Mintlify 会把整个文档网站合并成一个 llms-full.txt。

和 robots.txt、sitemap.xml 的区别

llms.txt 不是访问控制。robots.txt 告诉自动化工具哪些访问是可以接受的,llms.txt 则是智能体协助用户、需要信息时才读取的导览。它不能允许或阻止任何爬虫,管理 AI 爬虫仍要靠 robots.txt,写法见〈robots.txt 要不要屏蔽 AI?〉。

sitemap.xml 列出所有可被收录的页面,llms.txt 则是给 LLM 的精选导览。

有没有被读取:官方说法与公开数据

Google 搜索中心的生成式 AI 优化指南点名 llms.txt:Google 搜索本身不使用这类文件,维护它对 Google 搜索的可见度与排名既不加分也不扣分。〈AI features and your website〉也说,出现在 AI 概览或 AI 模式中不需要新的机器可读文件或 AI 文本文件。

Chrome 的 Lighthouse 则在智能体浏览审核中检查 llms.txt,理由是缺少它,智能体可能要花更多时间爬取网站;但没有这个文件只会判为“不适用”,因为提供该文件目前是可选做法。

Ahrefs 在 2026 年 6 月发表的研究,分析了 137,210 个使用 Ahrefs Web Analytics、2026 年 5 月有流量的域名:28% 设有 llms.txt,而在约 38,000 个设有有效文件的域名中,97% 的 llms.txt 整个月没有收到任何请求。对于不存在的 llms.txt,AI 机器人的请求为零。Ahrefs 也提醒,样本偏向懂技术和 SEO 的网站,28% 应视为上限;被抓取也不等于被读取,研究中的数字都是实际使用量的上限。

Mintlify 的测试则呈现另一面:它用 Claude Code 与 Codex 在 20 个 Mintlify 文档网站上跑了 2,400 次,页面加上指向 llms.txt 的链接后,无效网址减少约九成,但答题正确率在各种格式之间差异不大。Mintlify 托管的每个网站都会发布 llms.txt,解读时要考虑这层利益关系。

使用范围与限制

llms.txt 不是排名信号,也不保证被任何 AI 服务读取;目前没有证据显示做了它就会被 AI 概览或 ChatGPT 引用。提案页也说,它用得最多的是软件文档,由编程智能体顺着它查找 API 参考与教程。Mintlify 的测试对象同样是编程智能体与技术文档,不能直接套用到一般品牌官网。

如果读者会用编程智能体查你的文档,或智能体会替用户在网站上查找信息、执行操作,做一份成本不高,但要从页面加链接指向它,智能体才比较可能找到。这属于 AX(智能体体验)的范围。若目标是 Google 排名或 AI 概览,先做好 robots.txt、sitemap 与页面内容更实际。

文件过期或遭篡改,会误导每个读到它的智能体,Ahrefs 建议像管理代码一样做版本控制并限制编辑权限。LS-Labs 研究库目前没有 llms.txt 读取情况的观测。

参考资料

最近查核:

← 返回名词解释