使用selenium对javascript元素进行抓取尝试

Question

我是一个刮刮和硒的新手。我想要抓取的页面使用按钮上的js脚本转到下一页。我在SO上找到了部分代码(Click a Button in Scrapy)，但我似乎无法让它工作。

from selenium import webdriver

import scrapy

class chSpider(scrapy.Spider):
    name = 'spidypy'
    allowed_domains = ['117.145.177.252']
    start_urls = ['http://117.145.177.252/login.do?method=enterPdamccx']

    def __init__(self):
        self.driver = webdriver.Firefox()

    def parse(self,response):

        self.driver.get('http://117.145.177.252/login.do?method=enterPdamccx')

        while True:
            try:
                next = self.driver.find_element_by_xpath('/html/body/form/div[3]/div/div/a')
                url = 'http://117.145.177.252/login.do?method=enterPdamccx'
                yield Request(url,callback=self.parse2)
                next.click()
            except:
                break

        self.driver.close()

    def parse2(self,response):
        print('you are here!')

我多次收到以下错误消息：

selenium.common.exceptions.WebDriverException: Message: connection refused

Answer 1

它有一个onclick，所以你可以这样做：

driver.execute_script('doMccx()')