爬虫 User-Agent 识别
粘一条或多条 User-Agent,判断命中哪些爬虫特征,给出 robots.txt 里该用的 User-agent 名、该反查哪个域名和官方核对说明,并说明为什么 UA 命中不能当证据。
0命中引擎
—主要类别
0检查条数
本页只认 UA 字符串
匹配的是人工维护的特征表,大小写不敏感、只看子串,所以伪造的 UA 一样能命中 —— 命中不等于它真是那个爬虫。
真要确认来源得反向解析:把来源 IP 反查成主机名,再正向解析回同一个 IP,两头对上才是真的。这一步需要联网,本页不做。
为什么不能只看 UA 就放行
UA 是请求方自己写的,任何人写什么都能通过,所以拿它当放行依据等于没有依据。反过来,拿它当封禁依据也会误伤正常用户的浏览器。
常见的稳妥做法是:先按 UA 粗筛(只对已知引擎提权重或降速),再用反向 DNS 做二次确认。
类别是干什么的
搜索引擎爬虫决定要不要被抓、要不要写进 robots.txt;AI 训练爬虫(GPTBot、ClaudeBot 等)是另一套许可口径,站方通常在 robots.txt 里单独表态。
社交与预览、监控可用性、SEO 抓取工具这几类的诉求又不一样,所以表里分了类别,方便你按用途决定。
常见问题
表里的收录范围是多少?
收录的是主流搜索引擎、AI 训练与搜索爬虫、社交预览、监控与 SEO 抓取几类里常见的 UA 特征,总条数见页面统计;不认识的 UA 一律报「没匹配到」,不会硬套一个引擎。
怎么自己验一个爬虫是真的?
查对应引擎官方给的反向 DNS 域,用 dig +short 反查来源 IP,再把得到的主机名正向解析回 IP,两次结果一致才算通过。报告里每条都写了该用哪个域。
命中了但我不认识这个 UA,正常吗?
正常。新爬虫天天有,表是人工维护的、必然滞后。报告里列出的 UA 片段就是判断依据,你自己核对一下即可。