我正在开发一个使用python 3.7的web抓取应用程序。我使用requests html来解析数据。到目前为止,我已经尝试了下面的代码,它试图使用render函数(因为fast.com上的速度数据是通过javascript加载的)。
from requests_html import HTMLSession
quote_page = 'https://fast.com'
session = HTMLSession()
r = session.get(quote_page)
r.html.render()
extract_value = r.html.find('#speed-value', first=True)
print(extract_value.text)speed-value是包含速度数据的div使用的id属性。
但它仍然将速度值打印为0。
发布于 2020-03-15 16:22:03
速度测试需要几秒钟,你需要在初始渲染后等待几秒钟,所以指定一个睡眠参数来渲染函数,这意味着在初始渲染后要休眠多少时间。
例如:修改r.html.render()为r.html.render(sleep=10)
在我的电脑上测试,我得到了一个速度数字。
https://stackoverflow.com/questions/54498046
复制相似问题