AI 爬虫分三类用途:模型训练(抓取内容用于训练)、AI 搜索(用于生成搜索答案,屏蔽会损失 AI 搜索可见性)、用户代理(用户主动让 AI 访问页面,屏蔽会影响使用体验)。按需勾选后生成 robots.txt 规则片段,粘贴合并到站点 robots.txt 即可。生成在浏览器本地完成。
User-agent: 名称 + Disallow: / 两行一组;允许则整组删除或写 Disallow:(空值=全放行)。Google-Extended 只控制 Gemini 训练,不影响 Google 搜索收录(收录由 Googlebot 控制)。GPTBot(训练)与 OAI-SearchBot(搜索)、ChatGPT-User(用户代理)相互独立,屏蔽 GPTBot 不会让内容从 ChatGPT 搜索结果消失。分用途看:屏蔽训练爬虫(GPTBot等)内容不进入模型知识;屏蔽AI搜索爬虫(OAI-SearchBot、PerplexityBot等)将直接失去AI搜索曝光;用户代理类爬虫影响AI浏览功能。生成器按三类用途区分展示,按需勾选而非一刀切。
复制规则片段合并到站点根目录robots.txt对应User-agent段落,注意不要与现有规则冲突(同一段内Disallow优先顺序有讲究)。部署后用robots.txt校验工具检查语法。