我正试着从不同的网页上学习抓取。我尝试从包含选项卡的页面中抓取数据,如下所示:
url = "https://www.bc.edu/bc-web/schools/mcas/departments/art/people/#par-bc_tabbed_content-tab-0"
page = requests.get(url)
content = page.content
tree = html.fromstring(page.content)
soup = BeautifulSoup(content,"html.parser")
p = soup.find_all('div',{"id":'e6bde0e9_358d_4966_8fde_be96e9dcad0b'})
print p这将返回空结果,尽管检查元素会显示内容,但源页面不会显示此数据。任何关于如何提取内容的指示。
发布于 2017-08-23 00:14:54
这是因为javascript渲染,这意味着你想要的数据不是来自原始请求,而是由该响应的javascript生成的请求。
要检查原始请求生成的所有请求,您必须在Chrome中使用类似于developer tools的东西。
对于这种特殊情况,您需要的实际请求是对此site的请求,它将为您提供所需的信息。
https://stackoverflow.com/questions/45822448
复制相似问题