我正在建立我的网页来支持ssr,我的问题来了,我能知道客户是否是一个网络爬虫,这样我就可以做ssr?
这样,我就可以为我的网页服务,就像它给不是web爬虫的客户端一样。
我已经看到过,要验证google-bot爬行器,可以使用https://stackoverflow.com/a/3308728/8991228。
但这样做是否有一般的方法呢?
发布于 2019-03-27 13:00:57
有一个标题:User-Agent,通常在他的帮助下,您能够识别它是浏览器还是机器人,但是.
伪造此标头的难度为0。
因此,使用了额外的验证方法,例如Google,如您所示。
但是..。并非所有的机器人都以机器人的形式出现。例如,谷歌倾向于检查是否有另一项内容被发送给机器人。
总之:如果你知道机器人接受它,你就可以这么做(例如对于Facebook链接共享者)
https://stackoverflow.com/questions/55377471
复制相似问题