首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >如何设置Scrapy设置?

如何设置Scrapy设置?
EN

Stack Overflow用户
提问于 2015-07-10 03:46:20
回答 1查看 284关注 0票数 2

我在http://doc.scrapy.org/en/latest/topics/settings.html上浏览了一些简陋的文档,但我对“指定设置”一节感到困惑。有人能用简单的英语描述一下如何实现设置吗?我最初以为这只是对settings.py进行修改,但事实似乎并非如此。我试图做一个下载延迟,因为我被阻止从我正在抓取的网站。谢谢!

EN

回答 1

Stack Overflow用户

发布于 2015-07-10 13:50:53

好吧,这个描述有点令人困惑,但你是对的: settings.py是添加设置的正确文件。但是,有两个并行工作的设置:

DOWNLOAD_DELAYCONCURRENT_REQUESTS_PER_DOMAIN。对于后者,默认值为8。因此,我会覆盖这两个,它应该可以工作。

要了解有关某些默认并发设置的更多信息,请参阅文档:http://doc.scrapy.org/en/latest/topics/settings.html#concurrent-requests

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/31326880

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档