首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >:grequests与多线程请求?

:grequests与多线程请求?
EN

Stack Overflow用户
提问于 2020-08-14 19:34:51
回答 1查看 1.4K关注 0票数 1

我正在努力使我用Python编写的网络刮刀更快一些。

目前,我启动了一组刮板线程,创建了一个队列,其中包含了我想要抓取的URL列表,并允许它们去队列条目以便它们能够抓取。

grequests声明它是异步的,但我不确定除了触发多个线程(就像我正在做的那样)和在事件完成时使用gevent触发事件之外,sure意味着什么。

除了创建每个作业的线程之外,grequests还能做更多的事情吗?技术上,它会比我前面描述的程序运行得更快吗?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2021-05-05 15:12:34

看看这个:

https://adl1995.github.io/a-comparison-of-response-times-using-urllib-grequests-and-asyncio.html

TL;DR:

“使用aiohttpasyncio似乎是最好的选择。它的响应时间几乎比grequests少50%。”

票数 3
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/63419061

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档