- 综合排序
- 最热优先
- 最新优先
- 来自专栏北山啦的博客
Selenium自动化爬虫
Python爬虫入门之 Selenium自动化爬虫 Selenium官方文档 1. Selenium的安装配置 pip install selenium selenium配置 2. browser.switch_to_frame('id name') 4. 查找节点 4.1 单个节点 做一个展示： 有多种方式，深入的方法可以通过官方文档进行系统的学习。 option.add_experimental_option('excludeSwitches', ['enable-automation']) browser = webdriver.Chrome(options=option) # 关闭自动化扩展信息 https://www.zhipin.com/' browser.get(url) # 输入职位 browser.find_element_by_xpath('//*[@id="wrap"]/div[4] form/div[2]/p/input').send_keys('Python') # 点击搜索 browser.find_element_by_xpath('//*[@id="wrap"]/div[4]
1.8K30编辑于 2022-11-27 - 来自专栏中间件的探究
python自动化爬虫实战
python自动化爬虫实战 偶然的一次机会再次用到爬虫，借此机会记录一下爬虫的学习经历，方便后续复用。 需求：爬取网站数据并存入的csv文件中，总体分为两步 爬取网站数据 存到到csv文件中 1、配置爬虫环境 1.1、下载自动化测试驱动 由于需要实现模拟手动点击浏览器的效果，因此笔者使用到了chromedriver.exe 自动化驱动文件。 window只有32位，因此不用犹豫直接下载chromedriver_win32.zip文件 1.2、下载需要的库文件 笔者这里用到了：request、 selenium、 beautifulsoup4 爬虫的基本逻辑： 配置谷歌浏览器的驱动文件和自动化测试文件 创建保存爬取数据的字典和设置读取的起始页码和结束页码 判断是否有下一页并进行等待，如果没有下一页则直接退出 解析读取到的页面信息 保存到csv
78130编辑于 2023-05-11 - 来自专栏python3
Python 爬虫（4）
webdriver Selenium是ThroughtWorks公司开发的一套Web自动化测试工具。 driver.find_element_by_tag_name(“input”) 3. find_element_by_class_name(‘input-class’) #根绝class定位 4. contiune并且type属性为button的input元素：//input[@name='continue'][@type='button'] 查找页面上id为loginForm的form元素下第4个 input元素：//form[@id='loginForm']/input[4] 控件操作： 输入框； element.clear() #清空输入框数据 element.sendkeys(“username xxxxxxxxxx") randomSleep(2, 5) browser.find_element_by_id("password").send_keys("xxxxxxxxx") randomSleep(1, 4)
1.4K30发布于 2020-01-10 - 来自专栏社区的朋友们
爬虫实战：爬虫之 web 自动化终极杀手 ( 上）
作者：陈象 9/14/2017 11:43:07 PM 导语： 最近写了好几个简单的爬虫，踩了好几个深坑，在这里总结一下，给大家在编写爬虫时候能给点思路。本次爬虫内容有：静态页面的爬取。 web自动化终极爬虫。 搜索框搜索歌曲（beat it），查看控制台 过滤请求：ctrl + f 输入搜索关键字 依照请求接口的特点，查看主请求 分析请求（reques headers、Query string、response） 4 4 .代码步骤实现： 初始化浏览器获取网页数据 def dynamic_view(url): ''' 使用自动化工具获取网页数据 :param url: 待获取网页url 接《爬虫实战 : 爬虫之 web 自动化终极杀手（下）》
5.7K10发布于 2017-09-19 - 来自专栏社区的朋友们
爬虫实战 : 爬虫之 web 自动化终极杀手（下）
作者：陈象 接《 爬虫实战：爬虫之 web 自动化终极杀手 ( 上）》 再理一下方案步骤： 模拟用户登录 进入个人播放页 获取cookies 获取token cookie,并将其添加到headers 6, u'网易') sheet.write(1, 4, u'歌曲名') sheet.write(1, 5, u'歌手') sheet.write ) > 0: ll = l for data in xiami_song: sheet.write(ll, 4, 在本次爬虫编写中，主要遇到的问题是在网易云音乐url加密解析的理解和破解能力。在上文贴出的代码可能有运行不成功的可能，这是从项目提取出来的相关代码。 如有错误请多多指教！ selenium库：可以模拟真实浏览器，自动化测试工具，支持多种浏览器，爬虫中主要用来解决JavaScript渲染问题。
4.8K10发布于 2017-09-20 - 来自专栏python3
web自动化爬虫selenium ce
解压此文件，并将文件移动到/usr/bin目录下 unzip chromedriver_linx64.zip mv chromedriver /usr/bin/ 4.测试selenium是否可用，请执行以下
80020发布于 2020-01-02 - 来自专栏python学习指南
Python爬虫(十五)_案例：使用bs4的爬虫
本章将从Python案例讲起：所使用bs4做一个简单的爬虫案例，更多内容请参考:Python学习指南 案例：使用BeautifulSoup的爬虫 我们已腾讯社招页面来做演示：http://hr.tencent.com 使用BeautifulSoup4解析器，将招聘网页上的职位名称、职位类别、招聘人数、工作地点、时间、以及每个职位详情的点击链接存储出来。 #-*- coding:utf-8 -*- from bs4 import BeautifulSoup import urllib2 import urllib import json #使用json get_text() workLocation = site.select('td')[3].get_text() publishTime = site.select('td')[4]
1.4K60发布于 2018-01-17 - 来自专栏python全栈教程专栏
爬虫学习（4）：error异常处理
首先要导入request模块，还有异常处理模块error.用try和except搭配，如果能正常访问呢，就正常执行，不能正常执行就打印出出错的原因（reason）和状态码(code)以及请求头(headers).关键字参数sep是实现分隔符，比如多个参数输出时想要输出中间的分隔字符，这里就是打印里的每一个都对应一个换行，看结果图就知道了。 上面我们用到HTTPError，他是URLError的子类，现在我把子类和父类加进来：
55030发布于 2021-10-18 爬虫策略规避：Python爬虫的浏览器自动化
网络爬虫作为一种自动化获取网页数据的技术，被广泛应用于数据挖掘、市场分析、竞争情报等领域。然而，随着反爬虫技术的不断进步，简单的爬虫程序往往难以突破网站的反爬虫策略。 因此，采用更高级的爬虫策略，如浏览器自动化，成为了爬虫开发者的必然选择。浏览器自动化概述浏览器自动化是指通过编程方式控制浏览器执行一系列操作的技术。 在爬虫领域，浏览器自动化可以帮助我们模拟真实用户的行为，从而规避一些简单的反爬虫检测。Python作为一门强大的编程语言，拥有多个库可以实现浏览器自动化，如Selenium、Pyppeteer等。 异常处理：使用try-except结构处理页面结构变化导致的异常，确保爬虫的健壮性。总结通过使用Selenium进行浏览器自动化，我们可以有效地规避一些简单的反爬虫策略，提高爬虫的抓取成功率。 然而，随着反爬虫技术的不断进步，单一的浏览器自动化技术可能难以应对所有挑战。因此，在实际应用中，我们需要结合多种技术，如IP代理、请求头伪装、行为分析等，来构建更加强大和稳健的爬虫系统。
93710编辑于 2024-11-08- 来自专栏python3
Python爬虫笔记4-Beautif
pip3 install beautifulsoup4 测试 python终端里导入beautifulsoup，无报错信息即安装成功。 >>from bs4 import BeautifulSoup >> BeautifulSoup对象 BeautifulSoup将复杂的HTML文档转换成一个复杂的树形结构,每个节点都是Python对象 ,所有对象可以归纳为4种: Tag NavigableString BeautifulSoup Comment BeautifulSoup 对象表示的是一个文档的内容。 获取Tags # 导入模块 from bs4 import BeautifulSoup html = """ <html><head><title>The Dormouse's story</title story
The Dormouse's story 关于BeautifulSoup的使用就这样吧，常用个人就觉得用好find_all即可(=.=~) 参考链接 崔庆才 [Python3网络爬虫开发实战1.2K40发布于 2020-01-03 - 来自专栏小徐学爬虫
PowerShell部署Windows爬虫自动化方案
在Windows系统中使用PowerShell部署爬虫自动化，通常涉及以下几个步骤：比如说安装必要的软（如Python、Chrome浏览器、ChromeDriver等），同时还要创建爬虫脚本（假设使用Python 那么在Windows系统中使用PowerShell部署爬虫自动化，如何对环境配置、脚本开发、任务调度和监控管理四个核心环节进行部署。 Python.Python.3.11pip install requests selenium beautifulsoup4 pandas1.2 配置WebDriver# 下载匹配Chrome版本的ChromeDriver target-class").text with open("output.txt", "w") as f: f.write(data)finally: driver.quit()3、自动化调度 结合我上面的程序，大家就可实现稳定高效的Windows爬虫自动化系统，适合数据采集、监控等场景。这样是不是觉得很有趣？不防跟着我一起尝试下看看。
53610编辑于 2025-08-06 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列4-子节点
这个string就是上面div的子节点（string通常看成是一个tag的子节点） 4." contents 1.tag对象contents可以获取所有的子节点，返回的是list 2.len()函数统计子节点的个数 3.通过下标可以取出对应的子节点 # coding:utf-8 from bs4 六、参考代码： # coding:utf-8 from bs4 import BeautifulSoup import requests r = requests.get("http://www.cnblogs.com
2.2K70发布于 2018-04-08 - 来自专栏python3
Python自动化开发学习-爬虫3
爬取多个网页 讲师的博客：https://www.cnblogs.com/wupeiqi/p/6229292.html 在编写爬虫时，性能的消耗主要在IO请求中，当单进程单线程模式下请求URL时必然会引起等待 这样的效率会很低： import requests from bs4 import BeautifulSoup url_list = [ 'https://github.com/explore import requests from bs4 import BeautifulSoup from concurrent.futures import ThreadPoolExecutor # from 下面是用 async/await 的例子： import aiohttp import asyncio from bs4 import BeautifulSoup url_list = [ ' 就写个例子： import grequests from bs4 import BeautifulSoup url_list = [ 'https://github.com/explore',
92610发布于 2020-01-06 - 来自专栏python3
Python爬虫4-URLError与H
GitHub代码练习地址：URLError：https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac06_URLError.py HTTPError：https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac07_HTTPError.py 模块：urllib.error 一、URLError 产生的原因： 没网
53520发布于 2020-01-17 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列1
前言 以博客园为例，爬取我的博客上首页的发布时间、标题、摘要，本篇先小试牛刀，先了解下它的强大之处，后面讲beautifulsoup4的详细功能。 一、安装 1.打开cmd用pip在线安装beautifulsoup4 >pip install beautifulsoup4 ? 2.用requests里的get方法打开博客首页，r.content返回整个html内容，返回类型为string 3.查找所有的class属性为dayTitle的Tag类 4.获取当前Tag的标签为 五、参考代码 # coding:utf-8 from bs4 import BeautifulSoup import requests r = requests.get("http://www.cnblogs.com
1.2K110发布于 2018-04-08 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列2
前言 本篇详细介绍beautifulsoup4的功能，从最基础的开始讲起，让小伙伴们都能入门 一、读取HTML页面 1.先写一个简单的html页面，把以下内容copy出来，保存为html格式文件 4.prettify()这个方法是把文件解析成html格式，用html的标准格式输出（有缩进的） ? 三、对象的种类 1.Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象,所有对象可以归纳为4种: Tag : 标签对象，如：<p class="title 2.那么获取其中的某一个属性，就跟操作字典一样，如：tag["href"] 3.由于class属性一般可以为多个，中间空格隔开，所以class属性获取的是一个list类型：[u'sister'] 4. 七、发福利 1.爬糗事百科首页的段子 # coding:utf-8 from bs4 import BeautifulSoup import requests r = requests.get("
92860发布于 2018-04-08 - 来自专栏技术大杂烩
【爬虫】（三）lo4d.com
前言 因为毕设是基于机器学习的，所以需要大量的样本来训练模型和检验成果，因此，通过爬虫，在合法合规的情况下，爬取自己所需要的资源，在此进行记录； 本次爬取的网站是 https://www.lo4d.com 分析 大致浏览之后，接下来就是进行分析以及分步操作了； 1、先请求一下网页，看看是否能请求成功； import requests url = "https://en.lo4d.com/windows 接下来随机点开一个文件的镜像网站看看能不能成功下载； import requests from lxml import etree url = "https://videopad-free.en.lo4d.com /get-file/videopad-free/507d856d49f52f00265b1037d4df1629/'} 6、最后一步，实现下载； def download(url): info 上篇精讲：【爬虫】（二）windows10download.com 我是 ，期待你的关注； 创作不易，请多多支持； 系列专栏： 爬虫专栏
66130编辑于 2023-08-26 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列3
find_all找出所有的标签 1.find_all(class_="lazy")获取所有的图片对象标签 2.从标签里面提出jpg的url地址和title # coding:utf-8 from bs4 os.getcwd()这个方法可以获取当前脚本的路径 3.用open打开写入本地电脑的文件路径，命名为：os.getcwd()+"\\jpg\\"+title+'.jpg'（命名重复的话，会被覆盖掉） 4. 四、参考代码 # coding:utf-8 from bs4 import BeautifulSoup import requests import os r = requests.get("http:
881100发布于 2018-04-08 - 来自专栏FunTester
基于爬虫的测试自动化经验分享
之前很难区分自动化测试和测试自动化之间的区别，一直傻傻分不清楚，最近在工作实践中，突然对测试自动化有了深入的理解。 个人理解：自动化测试侧重于测试，是一种测试技术。 测试自动化侧重于自动化，是一种测试工作方式或者思路。 下面分享一下我的测试自动化一段经历，抛砖引玉，欢迎一起交流。 测试自动化 通过痛点的整理归类，原因就是两只眼睛盯不住那些监控。所以想到一个解决思路：通过爬虫解决监控问题，结合机器人通知及时预警。 成果 极大减少了监控占用的精力，避免了遗漏 发现了几个线上服务的BUG 某几次服务异常，提前1 ~ 2分钟发出预警 报警文案增加小组标识，极大提升了存在感 做完这些总结突然发现如果把测试自动化和办公自动化放在一起
40920编辑于 2022-04-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号