- 综合排序
- 最热优先
- 最新优先
- 来自专栏python3
Python 爬虫（4）
driver.find_element_by_tag_name(“input”) 3. find_element_by_class_name(‘input-class’) #根绝class定位 4. contiune并且type属性为button的input元素：//input[@name='continue'][@type='button'] 查找页面上id为loginForm的form元素下第4个 input元素：//form[@id='loginForm']/input[4] 控件操作： 输入框； element.clear() #清空输入框数据 element.sendkeys(“username xxxxxxxxxx") randomSleep(2, 5) browser.find_element_by_id("password").send_keys("xxxxxxxxx") randomSleep(1, 4)
1.3K30发布于 2020-01-10 - 来自专栏python学习指南
Python爬虫(十五)_案例：使用bs4的爬虫
本章将从Python案例讲起：所使用bs4做一个简单的爬虫案例，更多内容请参考:Python学习指南 案例：使用BeautifulSoup的爬虫 我们已腾讯社招页面来做演示：http://hr.tencent.com 使用BeautifulSoup4解析器，将招聘网页上的职位名称、职位类别、招聘人数、工作地点、时间、以及每个职位详情的点击链接存储出来。 #-*- coding:utf-8 -*- from bs4 import BeautifulSoup import urllib2 import urllib import json #使用json get_text() workLocation = site.select('td')[3].get_text() publishTime = site.select('td')[4]
1.4K60发布于 2018-01-17 - 来自专栏python全栈教程专栏
爬虫学习（4）：error异常处理
首先要导入request模块，还有异常处理模块error.用try和except搭配，如果能正常访问呢，就正常执行，不能正常执行就打印出出错的原因（reason）和状态码(code)以及请求头(headers).关键字参数sep是实现分隔符，比如多个参数输出时想要输出中间的分隔字符，这里就是打印里的每一个都对应一个换行，看结果图就知道了。 上面我们用到HTTPError，他是URLError的子类，现在我把子类和父类加进来：
52330发布于 2021-10-18 - 来自专栏全栈程序员必看
python爬虫的4个实例
文章目录 1、京东商品页面的爬取 2、亚马逊商品页面的爬取 可以先看 网络爬虫基础知识，然后结合下面的实例学习爬虫的常用方法。 限制网络爬虫的方法： 来源审查： 检查来访HTTP协议头的User – Agent域，只响应浏览器或友好爬虫的访问。 发布公告： Robots协议，告知所有爬虫网站的爬取策略，要求爬虫遵守。 :50,startTimer:function(){a.ts++;setInterval(function(){d.ue&&a.pec<a.ec&&d.uex("at");a.pec=a.ec},1E4) Process finished with exit code 0 可见，更改User-Agent属性之后的爬虫可以正常爬取信息。 尝试和修改后的爬虫程序如下： import requests url = "https://www.amazon.cn/dp/B07G7K1Z98/ref=sr_1_3?
91820编辑于 2022-08-24 - 来自专栏python3
Python爬虫笔记4-Beautif
pip3 install beautifulsoup4 测试 python终端里导入beautifulsoup，无报错信息即安装成功。 >>from bs4 import BeautifulSoup >> BeautifulSoup对象 BeautifulSoup将复杂的HTML文档转换成一个复杂的树形结构,每个节点都是Python对象 ,所有对象可以归纳为4种: Tag NavigableString BeautifulSoup Comment BeautifulSoup 对象表示的是一个文档的内容。 获取Tags # 导入模块 from bs4 import BeautifulSoup html = """ <html><head><title>The Dormouse's story</title story
The Dormouse's story 关于BeautifulSoup的使用就这样吧，常用个人就觉得用好find_all即可(=.=~) 参考链接 崔庆才 [Python3网络爬虫开发实战1.2K40发布于 2020-01-03 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列4-子节点
这个string就是上面div的子节点（string通常看成是一个tag的子节点） 4." contents 1.tag对象contents可以获取所有的子节点，返回的是list 2.len()函数统计子节点的个数 3.通过下标可以取出对应的子节点 # coding:utf-8 from bs4 六、参考代码： # coding:utf-8 from bs4 import BeautifulSoup import requests r = requests.get("http://www.cnblogs.com
2.2K70发布于 2018-04-08 - 来自专栏python3
Python爬虫4-URLError与H
GitHub代码练习地址：URLError：https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac06_URLError.py HTTPError：https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac07_HTTPError.py 模块：urllib.error 一、URLError 产生的原因： 没网
52220发布于 2020-01-17 - 来自专栏爬虫逆向案例
012：tkinter+爬虫设计对联软件
今天用Python设计一个小的对联软件！ 其中运用到tkinter模块： tkinter是Python下面向tk的图形界面接口库，可以方便地进行图形界面设计和交互操作编程。 先看下我们的软件效果图： 首先，程序的界面设计还是利用tkinter来进行设计。 通过tkinter的Entry类来输入我们的上联，然后通过button按钮，来启动程序进行设计。 通过绑定的函数实现了爬虫的抓取和对联的保存。 row=1, column=0, sticky=W,pady=10) root.mainloop() 界面设计完成了，而且绑定的函数也已经确定，接下来就是如何利用绑定的函数，来实现我们的后续操作，也就是爬虫抓取和保存
1.3K10发布于 2021-11-22 - 来自专栏分布式爬虫
9、web爬虫讲解2—urllib库爬虫—实战爬取搜狗微信公众号—抓包软件安装Fiddler4讲解
import json import random import re import urllib.erro def hq_html(hq_url): """ hq_html()封装的爬虫函数 , like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5', 'Mozilla/5.0 (iPad; U; CPU OS 4_ type=1&query=%s&page=1' %(gjc) html = fzhpach.hq_html(url) #使用我们封装的爬虫模块 [image] 软件界面说明 [image] 清除请求 [image] 设置抓包浏览器 [image] 这样设置好后，这个浏览器访问的网址就会在抓包软件里看到信息了 设置抓取https协议的网站 [image] [image] 导出证书到桌面 [image] 将证书安装到浏览器 [image] 可以看到软件已经获取到https网站了 [image] 疑难问题解决： 有些可能已经按照流程在
96000发布于 2019-07-06 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列1
前言 以博客园为例，爬取我的博客上首页的发布时间、标题、摘要，本篇先小试牛刀，先了解下它的强大之处，后面讲beautifulsoup4的详细功能。 一、安装 1.打开cmd用pip在线安装beautifulsoup4 >pip install beautifulsoup4 ? 2.用requests里的get方法打开博客首页，r.content返回整个html内容，返回类型为string 3.查找所有的class属性为dayTitle的Tag类 4.获取当前Tag的标签为 五、参考代码 # coding:utf-8 from bs4 import BeautifulSoup import requests r = requests.get("http://www.cnblogs.com
1.2K110发布于 2018-04-08 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列2
前言 本篇详细介绍beautifulsoup4的功能，从最基础的开始讲起，让小伙伴们都能入门 一、读取HTML页面 1.先写一个简单的html页面，把以下内容copy出来，保存为html格式文件 4.prettify()这个方法是把文件解析成html格式，用html的标准格式输出（有缩进的） ? 三、对象的种类 1.Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象,所有对象可以归纳为4种: Tag : 标签对象，如：<p class="title 2.那么获取其中的某一个属性，就跟操作字典一样，如：tag["href"] 3.由于class属性一般可以为多个，中间空格隔开，所以class属性获取的是一个list类型：[u'sister'] 4. 七、发福利 1.爬糗事百科首页的段子 # coding:utf-8 from bs4 import BeautifulSoup import requests r = requests.get("
89360发布于 2018-04-08 - 来自专栏技术大杂烩
【爬虫】（三）lo4d.com
前言 因为毕设是基于机器学习的，所以需要大量的样本来训练模型和检验成果，因此，通过爬虫，在合法合规的情况下，爬取自己所需要的资源，在此进行记录； 本次爬取的网站是 https://www.lo4d.com 成果 观察 页面还是比较简洁的，可以直接按目录分类来进行之后的操作； 接下来就以 Audio & Video 目录为例进行操作； 进入单个软件的详情页； 同时观察下载区域，以及相关的 URL； 发现这个网站对于软件的详细信息展示的很到位，良心！ 获取某页中的所有软件下载地址； def get_detail_url(url): html = etree.HTML(requests.get(url, headers=headers, proxies 上篇精讲：【爬虫】（二）windows10download.com 我是 ，期待你的关注； 创作不易，请多多支持； 系列专栏： 爬虫专栏
61330编辑于 2023-08-26 - 来自专栏全栈程序员必看
python爬虫-数据解析（bs4）
文章目录 python爬虫-数据解析（bs4） 基本知识概念 bs4实例 —— 爬取三国演义所有章节 效果图 练习2—爬取多情剑客无情剑小说所有章节 效果图 python爬虫-数据解析（bs4 ） 基本知识概念 数据解析原理： 标签定位 提取标签、标签属性中存储的数据值 bs4数据解析原理： 1.实例化一个BeautifulSoup对象，并且将页面原码数据加载到该对象中 2.通过调用BeautifulSoup 对象中相关的属性或方法进行标签定位和数据提取 环境安装： pip install bs4 pip install lxml 如何实例化BeautifulSoup对象： from bs4 import - text/get_ text() :可以获取某一个标签中所有的文本内容 - string:只可以获取该标签下面直系的文本内容 - 获取标签中属性值: - soup.a['href'] bs4实例 练习2—爬取多情剑客无情剑小说所有章节 https://www.gulongwang.com/duo/ from bs4 import BeautifulSoup import requests
1.4K30发布于 2021-04-19 - 来自专栏从零开始学自动化测试
python爬虫beautifulsoup4系列3
find_all找出所有的标签 1.find_all(class_="lazy")获取所有的图片对象标签 2.从标签里面提出jpg的url地址和title # coding:utf-8 from bs4 os.getcwd()这个方法可以获取当前脚本的路径 3.用open打开写入本地电脑的文件路径，命名为：os.getcwd()+"\\jpg\\"+title+'.jpg'（命名重复的话，会被覆盖掉） 4. 四、参考代码 # coding:utf-8 from bs4 import BeautifulSoup import requests import os r = requests.get("http:
853100发布于 2018-04-08 - 来自专栏啄木鸟软件测试
软件性能测试（连载4）
（4）如果m测试通过，说明拐点比m大，对n进行并发/容量测试。 （5）如果n测试通过，说明拐点比m大比n小，选择新的n值a，a=(m+n)/2，返回第（1）步。 （4）选择新的m=(1000+3000)/2=2000，此时n-m=3000-2000=1000>50，对2000进行并发测试，持续10分钟，没有发现异常，测试通过，说明拐点比2000大但比3000小。
1.3K20发布于 2020-02-19 - 来自专栏机器学习与统计学
4 幅思维导图：学会 Python 爬虫
原创：ZOE酱 https://zhuanlan.zhihu.com/p/36204695 这次给大家带来的是4 幅思维导图，梳理了 Python 爬虫部分核心知识点：网络基础知识，Requests， BeautifulSoup，urllib 和 Scrapy 爬虫框架。 本文思维导图仅仅涉及了爬虫最核心基础的部分，但足够应对入门所需了~ 1 爬虫基础知识 ? 2 Requests 库 ? 3 BeautifulSoup & urllib ? 4 Scrapy 爬虫框架 ?
85630发布于 2019-07-05 - 来自专栏机器学习算法与Python学习
Python：爬虫系列笔记(4) -- URL异常处理
新创建资源的URI可在响应的实体中得到 处理方式：爬虫中不会遇到 202：请求被接受，但处理尚未完成 处理方式：阻塞等待 204：服务器端已经实现了请求，但是没有返回新的信 息。
2.4K90发布于 2018-04-04 - 来自专栏Python爬虫与数据挖掘
详解4种类型的爬虫技术
01 聚焦爬虫技术 聚焦网络爬虫（focused crawler）也就是主题网络爬虫。聚焦爬虫技术增加了链接评价和内容评价模块，其爬行策略实现要点就是评价页面内容以及链接的重要性。 面向主题爬虫，面向需求爬虫：会针对某种特定的内容去爬取信息，而且会保证信息和需求尽可能相关。一个简单的聚焦爬虫使用方法的示例如下所示。 js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20180815&ie=utf8&bcoffset=0&ntoffset=6&p4ppushleft 爬取京东商品信息： 请求url：https://www.jd.com/ 提取商品信息： 1.商品详情页 2.商品名称 3.商品价格 4. ="name"]/text()').extract_first() item['kind'] = response.xpath('//div[@class="ct-c"]/dl/dt[4]
2.9K50发布于 2021-03-29 - 来自专栏Rattenking
Python 爬虫 NO.4 HTTP 响应状态码
在爬虫中，我们可以根据状态码来判断服务器响应状态，如状态码为 200，则证明成功返回数据，再进行进一步的处理，否则直接忽略。下表列出了常见的错误代码及错误原因。 2. –499)和服务器错误 (500–599)： 分类 分类描述 1** 信息，服务器收到请求，需要请求者继续执行操作 2** 成功，操作被成功接收并处理 3** 重定向，需要进一步的操作以完成请求 4* * 客户端错误，请求包含语法错误或无法完成请求 5** 服务器错误，服务器在处理请求的过程中发生了错误 4.
2.3K10编辑于 2022-09-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号