识别Googlebot爬虫最可靠、最快的方法是什么?rDNS可以被欺骗,所以googlebot的ip列表看起来是最可靠的方式。是否有任何站点/资源,在那里可以获得真正的googlebot ips?欢迎任何其他想法。
发布于 2011-10-25 18:22:21
如果你真的想要硬编码IP (我不推荐这样做,因为它可以在没有通知的情况下随时改变),有一个可用的here列表。我的建议(还有,推荐的on Goggle Webmaster's blog)是你做一个反向域名系统,然后再做一个正向域名系统来验证这一点。这应该总是有效的,并且不能被欺骗。
发布于 2013-10-15 01:26:11
谷歌机器人使用以下范围-
更多信息在这里-
http://myip.ms/info/bots/Google_Bing_Yahoo_Facebook_etc_Bot_IP_Addresses.html
https://stackoverflow.com/questions/7887762
复制相似问题