在线工具AI 产品汇

工具箱 › 开发 › 爬虫识别

爬虫 User-Agent 识别

粘一条或多条 User-Agent,判断命中哪些爬虫特征,给出 robots.txt 里该用的 User-agent 名、该反查哪个域名和官方核对说明,并说明为什么 UA 命中不能当证据。

0命中引擎
—主要类别
0检查条数

本页只认 UA 字符串

匹配的是人工维护的特征表,大小写不敏感、只看子串,所以伪造的 UA 一样能命中 —— 命中不等于它真是那个爬虫。

真要确认来源得反向解析:把来源 IP 反查成主机名,再正向解析回同一个 IP,两头对上才是真的。这一步需要联网,本页不做。

为什么不能只看 UA 就放行

UA 是请求方自己写的,任何人写什么都能通过,所以拿它当放行依据等于没有依据。反过来,拿它当封禁依据也会误伤正常用户的浏览器。

常见的稳妥做法是:先按 UA 粗筛(只对已知引擎提权重或降速),再用反向 DNS 做二次确认。

类别是干什么的

搜索引擎爬虫决定要不要被抓、要不要写进 robots.txt;AI 训练爬虫(GPTBot、ClaudeBot 等)是另一套许可口径,站方通常在 robots.txt 里单独表态。

社交与预览、监控可用性、SEO 抓取工具这几类的诉求又不一样,所以表里分了类别,方便你按用途决定。

常见问题

表里的收录范围是多少?

收录的是主流搜索引擎、AI 训练与搜索爬虫、社交预览、监控与 SEO 抓取几类里常见的 UA 特征,总条数见页面统计;不认识的 UA 一律报「没匹配到」,不会硬套一个引擎。

怎么自己验一个爬虫是真的?

查对应引擎官方给的反向 DNS 域,用 dig +short 反查来源 IP,再把得到的主机名正向解析回 IP,两次结果一致才算通过。报告里每条都写了该用哪个域。

命中了但我不认识这个 UA,正常吗?

正常。新爬虫天天有,表是人工维护的、必然滞后。报告里列出的 UA 片段就是判断依据,你自己核对一下即可。