首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >在处理Cloudflare服务器时,使用请求获取网页花费的时间太长,但在浏览器和curl中工作得很快。

在处理Cloudflare服务器时,使用请求获取网页花费的时间太长,但在浏览器和curl中工作得很快。
EN

Stack Overflow用户
提问于 2017-01-22 13:15:22
回答 1查看 593关注 0票数 0

我正在尝试使用feed解析器读取rss提要。但是当使用requestsfeedparserurlopen时,程序就会卡住。我想得到的页面是这里 (mangastream.com rss提要)。

我可以在浏览器中查看它,也可以在终端中使用curl来获取它。

代码语言:javascript
复制
>>> import feedparser
>>> feed = feedparser.parse('http://mangastream.com/rss')

过不了第2行。

编辑--这可能是cloudflare服务器的问题吗?DoS/bot的某种保护?但它在卷曲中起作用。不是在代理或什么后面。

编辑--不知怎么的,它正在工作,但仍然需要很多时间(超过2-3分钟)。卷发效果更快。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2017-01-22 17:32:13

这看起来像是Cloudflare在我这边的一个问题,它用IP地址替换主机名,并在host报头工作时传递域名。

代码语言:javascript
复制
>>> import requests
>>> requests.get("http://104.28.18.11/rss", headers={'host':'mangastream.com'})
<Response [200]>

来源

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/41791345

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档