User Agent 搜索引擎蜘蛛用户代理 AI蜘蛛列表

09-10 13:30 来源：无忧站长收藏　举报

百度PC蜘蛛

Mozilla/5.0(compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

或

Mozilla/5.0(compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider. html)

百度移动蜘蛛

Mozilla/5.0(Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www. baidu.com/ search/spider.html)

或

Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

百度小程序蜘蛛

Google PC蜘蛛

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Googlebot/2.1; +http://www.google.com/bot.html) Chrome/W.X.Y.Z Safari/537.36

其中W.X.Y.Z是Chrome浏览器版本号。Google蜘蛛从2019年开始使用最新版本的Chrome引擎抓取、渲染页面，所以这个版本号会保持更新。

或（偶尔使用）

Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

或（偶尔使用）

Googlebot/2.1 (+http://www.google.com/bot.html)

Google移动蜘蛛

Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

Google AI蜘蛛Google-Extended

Google AI蜘蛛并没有单独的用户代理，可能普通蜘蛛抓取的内容直接用于训练，也可能AI蜘蛛用户代理和普通蜘蛛用户代理是完全一样的。

但可以用robots文件禁止Google抓取的内容被用于Gemini等Google AI产品的训练，不影响内容出现在搜索中。

Google Gemini-Deep-Research蜘蛛

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Gemini-Deep-Research; +https://gemini.google/overview/deep-research/) Chrome/135.0.0.0 Safari/537.36

Google图片蜘蛛

Googlebot-Image/1.0

Google视频蜘蛛

Googlebot-Video/1.0

bing PC蜘蛛

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Chrome/

或

Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)W.X.Y.Z Safari/537.36

Bing移动蜘蛛

Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 Edg/W.X.Y.Z (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)

其中W.X.Y.Z是Chrome和Edge浏览器版本号。和Google一样，Bing也使用最新版本的Microsoft Edge引擎抓取、渲染页面。Edge和Chrome一样，也使用Chromium内核，所以Bing蜘蛛用户代理字符串里还包含一个Chrome版本号。

Facebook/Meta AI训练蜘蛛Meta-ExternalAgent

meta-externalagent/1.1 (+https://developers.facebook.com/docs/sharing/webmasters/crawler)

Facebook/Meta的LLM模型如Llama抓取内容用于AI模型训练。

OpenAI训练蜘蛛GPTBot

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.1; +https://openai.com/gptbot

如名称所提示，这个蜘蛛抓取的内容用于AI模型训练。

OpenAI搜索蜘蛛OAI-SearchBot

OAI-SearchBot/1.0; +https://openai.com/searchbot

这个蜘蛛抓取的内容用于OpenAI的搜索功能，不用于训练。OpenAI的这个训练和搜索分开的机制挺好，可惜搜索市场份额太小。

OpenAI用户蜘蛛ChatGPT-User

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; ChatGPT-User/1.0; +https://openai.com/bot

用户与ChatGPT聊天时，某些问题可能需要访问某个页面，OpenAI派用户蜘蛛去访问一下。这个蜘蛛抓取的内容不用于训练，也不自动访问网页。

Perplexity训练蜘蛛PerplexityBot

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; PerplexityBot/1.0; +https://perplexity.ai/perplexitybot)

Perplexity用户蜘蛛Perplexity‑User

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Perplexity-User/1.0; +https://perplexity.ai/perplexity-user)

和OpenAI一样，用户蜘蛛是与用户聊天时需要访问某页面时发出的蜘蛛。

CommonCrawl的蜘蛛CCBot

CCBot/2.0 (https://commoncrawl.org/faq/)

Common Crawl是个非盈利机构，抓取页面供所有机构、公司、个人使用。

搜狗PC蜘蛛

Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)

搜狗移动蜘蛛

Sogou wap spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)

360搜索蜘蛛

Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36; 360Spider

神马搜索PC蜘蛛

Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 YisouSpider/5.0 Safari/537.36

神马搜索移动蜘蛛

Mozilla/5.0 (iPhone; CPU iPhone OS 10_3 like Mac OS X) AppleWebKit/602.1.50 (KHTML, like Gecko) CriOS/56.0.2924.75 Mobile/14E5239e YisouSpider/5.0 Safari/602.1m#07)

Yandex蜘蛛

Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.268

Yandex是极少的幸存的俄罗斯搜索引擎。Chrome/81.0.4044.268是版本号，会不断更新。

DeepSeek蜘蛛DeepseekBot

Mozilla/5.0 (compatible; DeepseekBot/1.0; +https://www.deepseek.com/bot)

TikTok/抖音/字节/豆包AI蜘蛛Bytespider

Mozilla/5.0 (Linux; Android 8.0; Pixel 2 Build/OPD3.170816.012) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.1511.1269 Mobile Safari/537.36; Bytespider

Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; spider-feedback@bytedance.com)

Claude训练蜘蛛ClaudeBot

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)

Claude用户蜘蛛Claude-User

Claude搜索蜘蛛Claude-SearchBot

亚马逊AI蜘蛛Amazonbot

Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_1) AppleWebKit/600.2.5 (KHTML, like Gecko) Version/8.0.2 Safari/600.2.5 (Amazonbot/0.1; +https://developer.amazon.com/support/amazonbot)