回答情况：
提问时间：
问题标签：
近期发现大量网站采用相似的反爬技术，Heritrix提示412，网址http://www.xgrsks.cn/，还有湖北省编制网、检察院、政府网都采用这种，网上查不到相关办法
浏览 1014提问于2021-04-26
下面的代码只有当我查看Web页面(也就是Selenium操作的Chrome选项卡)时才能正常工作。(我想知道网站怎么知道我在看网页.)login_url = "https://mypage.levtech.jp/"
#I logged
浏览 0修改于2020-11-15得票数 0
回答已采纳
0回答
使用Python爬虫，怎么处理反爬机制？
python、爬虫、验证码、requests、数据
我用Python requests来请求数据，但经常出现bug，要没ip无效，要么需要验证码，怎么处理呢？
浏览 167提问于2025-07-19
我正在使用AWS爬虫爬行S3桶，它在雅典娜中创建表模式。据我所知，雅典娜不支持具有特殊字符的列名，比如(反斜杠)等等。这是一种可以在爬虫从S3桶中爬行时排除/重命名这些列名的方法。
浏览 3修改于2021-10-14得票数 2
回答已采纳
但是，一些放置内容的人在<a href""></a> URL的末尾没有添加反斜杠(尾斜杠)的情况下就生成了URL。它会自动添加一个反斜杠到末尾，这可以算作谷歌爬虫的重定向。TL；博士
如何在没有反斜杠的情况下替换WordPress内容中的所有URL，使用(https://test.com/testpage)并添加反斜杠(https://test.com/testpage/
浏览 0修改于2020-10-16得票数 0
我刚刚自己做了第一个网络爬虫，它上了维基百科，下载了整个页面的html。我设法获得了一个列表的内容。列表中的值包含正数或负数。但它给了我一个'\xe2\x88\x922'，而不是打印出一个'-2'。我尝试了string.replace("\xe2\x88\x92","-")，但由于反斜杠的原因，这似乎不起作用。你知道我怎样才能把这些utf东西转换成它们真正的符号吗？
浏览 18修改于2020-07-04得票数 3
javascript src=/static/js/app.335a9e9866cb7dc6a517.js></script> </html>我使用Abot框架爬行建议
浏览 7提问于2022-03-06得票数 0
回答已采纳
它看起来很漂亮，链接最糟糕的是后面跟着一个反斜杠。
我的客户发行的。他想知道为什么管理员和用户的后端界面仍然显示那些巨大的丑陋链接。这些是非常非常丑陋的链接，我说的是三到四个反斜杠，后面跟着不同的get序列等等，所以你可能会理解MOD_REWRITING背后的复杂性。一时冲动，我说我让它保持原样是为了确保后端接口不会被任何爬虫嗅探到。但我不确定这是否一定是真的。爬虫在哪里停下来？他们什么时候会放弃尝试解析链接呢？我知道我可以使用.robot文件来指定规则。
浏览 1提问于2012-03-16得票数 1
回答已采纳
我正在使用Service Fabric开发一个web数据爬虫。我已经将爬行过程划分为无状态服务管道。第一个服务加载HTML。(S1)第二个函数解析其中的数据。本身就是大量的数据，我不得不设置这种设计是反模式吗
浏览 0修改于2017-10-01得票数 0
1回答
当我遇到这个设计问题时，我一直在用php构建一个刮板和爬虫。我想知道创建一个分离爬行和抓取任务的系统(大多数专业系统似乎都是这样做的)和一个在爬虫爬行时抓取任务的系统之间的权衡。
浏览 4修改于2012-04-16得票数 2
回答已采纳
随着HTML流(例如反应18流)的兴起，我想知道爬虫是如何处理HTML的。谷歌爬虫是如何处理这个问题的？谷歌确实提到了流这里，但它没有说明谷歌爬虫如何处理HTML。
其他爬虫(DuckDuckGo，Bing，Facebook，Twitter等)怎么样？我假设爬虫会等到HTML流结束时，这个假设安全吗？
浏览 0提问于2021-07-27得票数 7
4回答
如何停止云主机上的爬虫？
云服务器
我在云主机上运行了一个scrapy爬虫，这个爬虫可以一直运行，假如我没有停止爬虫就和主机断开了连接，是不是除了关机就没有办法停止爬虫了？
浏览 494提问于2018-01-27
我想使用爬虫实验室仪表板与我的爬虫代码。爬虫实验室是爬虫仪表板。链接为
我要安装(？)docker(?)中的chromedriver。
浏览 44提问于2021-03-11得票数 0
我想让一个抓取爬虫在芹菜任务工人内部不断运行，可能使用。或者，正如所建议的，这个想法是使用爬虫程序来查询返回XML响应的外部API。一旦爬虫程序开始运行，我如何将我想要获取的这个新URL传递给爬虫程序。我不想在每次想要给爬虫一个新的URL时都重新启动爬虫，而是希望爬虫无所事事地等待URL爬行。我发现的在另一个python进程中运行scrapy的两个方法使用一个新进程来运行爬虫程序。我不希望每次我想要抓取一个URL时，都必须派生和拆卸一个新的进程，因为这
浏览 0修改于2017-05-23得票数 2
我测试其他网站程序都是正常的，所以我猜这可能是反爬虫策略。我希望你能帮我找出错误的原因或者我该怎么做。谢谢！
浏览 2提问于2017-08-11得票数 0
我注意到的是，与Ang1相反，现在我不能使用'#'字符来从一条路线导航到另一条路线。当然，在Ang1中，响应将是404 (除非我以前创建了一个静态的幽灵页面，例如用于爬虫)，但是使用Ang2，我得到了与我所要求的相同的html ( index.html)：
mydomain.com/app
浏览 0修改于2017-02-28得票数 1
我对基于PHP的网络爬虫有些怀疑，它能像基于java线程的爬虫一样运行吗？我之所以问这个问题，是因为在java中，线程可以一次又一次地执行，我不认为PHP有类似线程的功能，你们能说一下，哪个网络爬虫更能充分利用吗?基于PHP的爬虫还是基于Java的爬虫
浏览 1修改于2012-12-25得票数 0
回答已采纳
是否有可能阻止web爬虫在我的服务器上下载文件(如zip文件)？有可能阻止网络爬虫吗？或者，在下载最多3个文件后，是否还有其他选项可以将文件隐藏在web爬虫上？我可以很容易地创建一个PHP脚本，使用cookie强制访问者登录/注册，但是web爬虫呢？
顺便说一下，我用的是nginx和drupal CMS。如果这能帮上忙的话就给我
浏览 0提问于2013-07-27得票数 1
来自：User代理令牌在robots.txt中的用户代理:行中使用，以便在为站点编写爬行规则时匹配爬虫类型。有些爬虫有多个令牌，如表中所示；要应用规则，只需匹配一个爬虫令牌即可。此列表尚未完成，但涵盖了您可能在website.Full用户代理上看到的大多数爬虫字符串是对爬虫的完整描述，并显示在请求和web日志中。从上面的节选中我们可以看到，可以在robots.txt文件中使用用户代理令牌进行匹配，从而检测爬虫</
浏览 3修改于2019-11-01得票数 0
回答已采纳
我用python编写了一个爬虫，它可以访问60多个网站，解析HTML，并将数据保存到数据库。哪一个更有效率？无限循环还是cron作业？
浏览 7提问于2021-05-14得票数 0
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号