首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏刷题笔记

    7-4 悄悄关注 (25 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/97864803 7-4 悄悄关注 (25 分) 新浪微博上有个“悄悄关注”,一个用户悄悄关注的人

    1.2K10发布于 2019-11-08
  • 来自专栏刷题笔记

    7-4 字符串排序

    点这里 7-4 字符串排序 本题要求编写程序,读入5个字符串,按由小到大的顺序输出。 输入格式: 输入为由空格分隔的5个非空字符串,每个字符串不包括空格、制表符、换行符等空白字符,长度小于80。

    97010发布于 2019-11-08
  • 来自专栏刷题笔记

    7-4 树的遍历 (20 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/102924283 7-4 树的遍历 (20 分) 给定一棵二叉树的后序遍历和中序遍历,请你输出其层序遍历的序列

    76410发布于 2019-11-07
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 7-4数据的前n个主成分

    前几个小节使用梯度上升法求一组数据的第一个主成分。本小节主要求解数据的前n个主成分,并使用编程实现。 在求出数据的第一个主成分之后,只需要将数据进行改变,也就是将数据的第一个主成分上的分量去掉即可。具体如下所示: ? i,这样一来我们又求出了一组新的数据样本,这组数据样本叫做Xi',这个X'就是X中所有样本都去除第一个主成分上分量最终的结果。 如果我们想要求第二个主成分非常简单,只需要在新的数据也就是X'上重新求一下第一主成分,此时在X'上求出的第一主成分就是我们原来数据的第二个主成分,对于n为数据这个过程依次类推,相应的可以求出第三个主成分 编程求解数据的前n个主成分 接下来还是通过创建的虚拟数据来进行测试。 ? ? ? ? ? ?

    73540发布于 2019-11-13
  • 来自专栏刷题笔记

    7-4 括号匹配 (25 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/101472923 7-4 括号匹配 (25 分) 给定一串字符,不超过100个字符,可能包括括号

    1K30发布于 2019-11-08
  • 来自专栏数据结构和算法

    7-4 学生成绩排序 (15分)

    7-4 学生成绩排序 (15分) 输入格式: 输入一个正整数n(n<50),下面n行输入n个学生的信息,包括:学号、姓名、三门课程成绩(整数)。

    45610编辑于 2023-11-30
  • 来自专栏算法与数据结构

    PTA 7-4 排座位(25 分)

    7-4 排座位(25 分) 布置宴席最微妙的事情,就是给前来参宴的各位宾客安排座位。无论如何,总不能把两个死对头排到同一张宴会桌旁!

    1.7K90发布于 2017-12-29
  • 来自专栏freesan44

    PTA 7-4 素数等差数列 (20 分)

    2004 年,陶哲轩(Terence Tao)和本·格林(Ben Green)证明了:对于任意大的 n,均存在 n 项全由素数组成的等差数列。例如 { 7,37,67,97,127,157 } 是 n=6 的解。本题就请你对给定的 n 在指定范围内找出一组最大的解。

    42700发布于 2021-09-10
  • 来自专栏短信接收服务

    爬虫数据采集

    经常有小伙伴需要将互联网上的数据保存的本地,而又不想自己一篇一篇的复制,我们第一个想到的就是爬虫爬虫可以说是组成了我们精彩的互联网世界。 这都是爬虫数据采集的功劳。 这篇文章我总结了爬虫数据采集的说有流程,从最开始的最简单的基本爬虫,到爬虫所采集到的数据如何存储,以及我们如何绕过一些反爬措施,来获取我们需要的数据,进行爬虫数据采集: 爬虫介绍:主要介绍了什么是爬虫 存储 CSV 文件:这篇文章介绍了如何将爬虫采集到的数据保存为 csv 文件,为我们后面的数据分析或者其他的一些要求做好铺垫。 使用 MySQL 存储数据:这篇文章详细介绍了如何将爬虫采集到的数据保存到数据库,可以提供给我们查询或者是分析等任务。 读取文档:这篇文章介绍了如何解析文档内容,并读取内容。

    2.8K10编辑于 2022-04-28
  • 来自专栏GopherCoder

    专栏:FROM 爬虫 TO 数据科学专栏:FROM 爬虫 TO 数据科学0123

    专栏:FROM 爬虫 TO 数据科学 共同成长社群,精进 专栏: 爬虫知识教程 0 关于本人: 初学者,同时喜欢编程和文艺书籍。 私下学些心理学,增强自己的认知能力。 摸滚打爬才学习了编程技术,写专栏的初衷是自己梳理爬虫知识。 走过许多弯路,可能也还在继续走着弯路。 01: CSDN专栏 02: 静觅爬虫专栏 03: 极客学院 2 专栏中技能概要 Git re BeautifulSoup xpath MySQL mongodb elasticsearch Scrapy 基本的匹配文本的方法| |03|requests模块的学习|网页下载器| |04|BeautifulSoup|解析器| |05|xpath|强大的解析器| |06|本地文本操作| |07|MySQL|关系型数据库 mongodb|No SQL| |09|elacsticsearch| |10|scrapy| |11|scrapy + Mongodb| |12|scrapy + Mongodb + redis| 数据科学专栏

    73370发布于 2018-06-06
  • 来自专栏二爷记

    Python爬虫,pentagram图片及数据采集爬虫

    很久没有写爬虫了,随手写了一个爬虫,分享给大家,目标是获取所有图片及数据内容,由于图片存在多张,故简单的采用了多线程来采集下载图片,同时也简单的运用python写入txt构建了一下爬取过程的日志文件,代码写的比较啰嗦 with open("log.txt", 'a+', encoding='utf-8') as f: f.write(f"{now()}-获取数据 listdatas.append(listdata) print(len(listdatas)) return listdatas #获取详情数据内容 微博爬虫,python微博用户主页小姐姐图片内容采集爬虫 ? 图片爬虫,手把手教你Python多线程下载获取图片 ? Python下载爬虫,解析跳转真实链接下载文件 ? Python爬虫,B站视频下载源码脚本工具助手附exe ·················END·················

    1K20发布于 2021-07-05
  • 来自专栏python学习指南

    python爬虫(一)_爬虫原理和数据抓取

    DT即数据技术,由数据在推倒人们的衣食住行,当今时代是一个大数据时代,数据从何而来? 企业产生的用户数据:百度指数、阿里指数、TBI腾讯浏览指数、新浪微博指数 数据平台购买数据数据堂、国云数据市场、贵阳大数据交易所 政府机构公开的数据:中华人民共和国国家统计局数据、世界银行公开数据 、联合国数据、纳斯达克 数据管理咨询公司:麦肯锡、埃森哲、艾瑞咨询 爬取网络数据:如果需要的数据市场上没有,或者不愿意购买,那么就可以招/做一名爬虫工程师,自己动手丰衣足食。 百度百科:网络爬虫 关于Python爬虫,我们需要学习的有: Python基础语法学习(基础知识) HTML页面的内容抓取(数据抓取) HTML页面的数据提取(数据清洗) Scrapy框架以及 通用爬虫和聚焦爬虫 网络爬虫可分为通用爬虫和聚焦爬虫两种。

    3.8K70发布于 2018-01-17
  • 来自专栏短信接收服务

    爬虫系列:数据采集

    在开始以前,还是要提醒大家:在网络爬虫的时候,你必须非常谨慎地考虑需要消耗多少网络流量,还要尽力思考能不能让采集目标的服务器负载更低一点。 在做数据采集以前,对网站经行分析,看看代码结构。 以上从网站结构开始分析,到具体代码实现,这是爬虫抽取网站内容的一个基本思路。 每个网站不同,结构也会有所不同,所以要针对性的编写代码。 以上代码已托管在 Github,地址:https://github.com/sycct/Scrape_1_1/ 文章来源:爬虫识别 - 爬虫系列:数据采集

    88320发布于 2021-10-19
  • 来自专栏我是思聪

    共享单车数据爬虫

    需要数据请联系微信bcdata 在线实时查看共享单车的位置,并提供了API供调用,方便进行研究,请查看体验:http://www.dancheditu.com/ 完整体验请在电脑上打开,手机可能显示不完整

    1.6K10发布于 2020-04-30
  • 来自专栏大数据杂谈

    Python 爬虫实战:股票数据定向爬虫

    选取方法: 打开网页,查看源代码,搜索网页的股票价格数据是否存在于源代码中。 所以判断该网页的数据使用js生成的,不适合本项目。因此换一个网页。 从上图中可以发现百度股票的数据是html代码生成的,符合我们本项目的要求,所以在本项目中选择百度股票的网址。 因此,在本项目中,使用字典来存储每只股票的信息,然后再用字典把所有股票的信息记录起来,最后将字典中的数据输出到文件中。 range(len(keyList)): key = keyList[i].text val = valueList[i].text infoDict[key] = val 6.最后把字典中的数据存入外部文件中

    1.8K40发布于 2018-06-11
  • 来自专栏北京马哥教育

    Python 爬虫实战:股票数据定向爬虫

    选取方法: 打开网页,查看源代码,搜索网页的股票价格数据是否存在于源代码中。 所以判断该网页的数据使用js生成的,不适合本项目。因此换一个网页。 从上图中可以发现百度股票的数据是html代码生成的,符合我们本项目的要求,所以在本项目中选择百度股票的网址。 因此,在本项目中,使用字典来存储每只股票的信息,然后再用字典把所有股票的信息记录起来,最后将字典中的数据输出到文件中。 range(len(keyList)): key = keyList[i].text val = valueList[i].text infoDict[key] = val 6.最后把字典中的数据存入外部文件中

    1.5K110发布于 2018-05-04
  • 来自专栏短信接收服务

    爬虫系列:数据清洗

    前面我们已经介绍了网络数据采集的一些基础知识,现在我们将进入高级数据采集部分。到目前为止,我们创建的网络爬虫都不是特别给力,如果网络服务器不能立即提供样式规范的信息,爬虫就不能采集正确的数据。 如果爬虫只能采集那些显而易见的信息,不经过处理就存储起来,那么迟早要被登录表单、网页交互以及 Javascript 困住手脚。 总之,目前爬虫还没有足够的实力去采集各种数据,只能处理那些愿意被采集的信息。 数据清洗 到目前为止,我们都没有处理过那些样式不规范的数据,要么使用的是样式规范的数据源,要么就是放弃样式不符合我们预期的数据。但在网络数据采集中,你通常无法对采集的数据样式太挑剔。 本期关于数据清洗就是如上内容,在接下来的内容中我会讲解数据标准化,以及存储的数据如何清洗。

    2.3K10编辑于 2022-01-12
  • 来自专栏python3

    爬虫数据解析

      一、啥是数据解析   在上一篇关于爬虫的博客里,我提到过,整个爬虫分为四个部分,上一篇博客已经完成了前两步,也就是我说的最难的地方,接下来这一步数据解析不是很难,但就是很烦人,但只要你有耐心,一步一步查找 、排除就会提取出目标信息,这一步就相当于从接收到的庞大数据中提取出真正想要、有意义的信息,所以对于爬虫来说,应该是很重要的。    数据解析有三种方式,一是通过正则表达式,在python中就是利用re模块;二是xpath;三是利用BeautifulSoup。    明显发现这就是登录请求的路径,数据结构拿到了,再去拿到请求的路径 ?    这下就可以发送请求,我最先访问的是login页面,得到cookie,带这个cookie和data数据,往登录的路径发送请求,但不得行。

    1.4K20发布于 2020-01-21
  • 数据爬虫基础

    目录 爬虫是什么? 发送网络请求 解析数据 正则表达式 正则表达式元字符 常用函数 Beautiful Soup find_all()函数 find()函数 select() xpath库: 爬虫是什么? 爬虫(Crawler),也被称为网络爬虫、网页蜘蛛或网络机器人,是一种按照既定规则在网络上自动爬取信息的程序或脚本。它模拟人类操作客户端(如浏览器或APP)向服务器发起网络请求,以抓取数据爬虫可以用于网站数据采集、内容监测等多种用途。 爬虫的工作流程: 选取目标数据源:确定要爬取的网站或网页。 发起网络请求:模拟浏览器向目标网站发送请求。 获取响应数据:接收目标网站返回的响应数据,通常是HTML、XML或JSON格式的数据。 解析数据:使用解析器(如BeautifulSoup、lxml等)解析响应数据,提取出所需的信息。

    1.5K21编辑于 2024-06-13
  • 来自专栏我和PYTHON有个约会

    爬虫0040:数据筛选爬虫处理之结构化数据操作

    爬虫处理之结构化数据操作 目录清单 正则表达式提取数据 正则表达式案例操作 Xpath提取数据 Xpath案例操作 BeautifulSoup4提取数据 BeautifulSoup4案例操作 章节内容 关于数据 爬虫程序,主要是运行在网络中进行数据采集的一种计算机程序,正常的一个爬虫采集数据的过程大致如下: 访问目标服务器 采集数据,获取访问url的数据 根据需要筛选数据 处理数据,存储到文件或者数据库 ,等待下一步进行数据分析或者数据展示 由于存在着不同的服务器和软件应用,所以爬虫获取到的数据就会出现各种不同的表现形式,但是总体来说还是有规律的,有规律就可以被掌握的 ---- 首先,关于爬虫处理的数据 ,这是爬虫在采集完数据之后,针对数据进行筛选必须要进行的操作 ---- 接下来,了解两种不同的数据的表现形式 非结构化数据 无格式字符串数据:用户名、邮箱、账号、电话号码、地址、电影名称、评分、评论、 简单etree操作 # -*- coding:utf-8 -*- from lxml import etree # 模拟得到爬虫数据 content = """ <html>

    4.6K10发布于 2018-08-27
领券