- 综合排序
- 最热优先
- 最新优先
- 来自专栏刷题笔记
7-9 人以群分 (25 分)
本文链接：https://blog.csdn.net/shiliang97/article/details/99688626 7-9 人以群分 (25 分) 社交网络中我们给每个人定义了一个“活跃度”
80120发布于 2019-11-08 - 来自专栏yuyy.info技术专栏
【笔记】Operator课程(7-9)
todo：后面了解更多后再来解答这个问题 indexer如何保存数据？ 主要涉及以下的数据结构 type threadSafeMap struct { lock sync.RWMutex // 保存k8s资源对象 items map[string]interface{} } return []string{meta.GetNamespace()}, nil } 由于命名太相似，容易混淆，通过画图才理清楚它们的关系 更新删除时都会通过updateIndices维护上诉数据结构 , key) delete(c.items, key) } } SharedInformer原理 Sharelnformer的作用 主要负责完成两大类功能： 缓存我们关注的资源对象的最新状态的数据 而client-go里创建的很多对象都是共享变量，有的用于缓存数据，为了复用共享一份数据，所以会存在数据竞争问题 创建informer func main() { config, err :=
46320编辑于 2023-04-12 - 来自专栏刷题笔记
7-9 最长对称子串
本文链接：https://blog.csdn.net/shiliang97/article/details/96307903 7-9 最长对称子串 对给定的字符串，本题要求你输出最长对称子串的长度。
79530发布于 2019-11-08 - 来自专栏刷题笔记
【未完成】7-9 目录树 (30 分)
本文链接：https://blog.csdn.net/shiliang97/article/details/102727548 7-9 目录树 (30 分) 在ZIP归档文件中，保留着所有压缩文件和目录的相对路径和名称
76510发布于 2019-11-07 - 来自专栏后端开发从入门到入魔
7-9 JAVA-水仙花数
水仙花数是指一个N位正整数（7≥N≥3），它的每个位上的数字的N次幂之和等于它本身。例如：153=13+53+33。 要求编写程序，计算所有N位水仙花数。
48710编辑于 2024-03-01 - 来自专栏AI机器学习与深度学习算法
机器学习入门 7-9 人脸识别与特征脸
01 特征脸 前几个小节再使用PCA用于降维的时候，样本数据X从n维空间映射到k维空间，我们只需要使用PCA算法求出样本数据矩阵的前k个主成分就行了。 sklearn对于如果第一次加载数据集，则会从相应的服务器上下载数据集并保存到指定数据集文件夹中，如果非第一次访问加载的话，会直接从指定数据集文件夹中加载。 对于人脸识别数据集而言，如果没有访问外国网站，虽然下载速度相对慢一点，但是还是能够下载的。 sklearn的人脸识别数据集大约200MB，相对而言数据集还是比较大的。 如果对人脸数据集中人物是谁感兴趣，可以通过下面属性进行查看。 此时得到的faces2中，一共有8个人，其中的每一个人在人脸数据集中所拥有的人脸图像数大于等于60。使用这种人脸图片足够的数据集进行人脸识别相对来说就比较靠谱。
1.5K20发布于 2019-11-23 - 来自专栏短信接收服务
爬虫数据采集
经常有小伙伴需要将互联网上的数据保存的本地，而又不想自己一篇一篇的复制，我们第一个想到的就是爬虫，爬虫可以说是组成了我们精彩的互联网世界。 这都是爬虫数据采集的功劳。 这篇文章我总结了爬虫数据采集的说有流程，从最开始的最简单的基本爬虫，到爬虫所采集到的数据如何存储，以及我们如何绕过一些反爬措施，来获取我们需要的数据，进行爬虫的数据采集： 爬虫介绍：主要介绍了什么是爬虫 存储 CSV 文件：这篇文章介绍了如何将爬虫采集到的数据保存为 csv 文件，为我们后面的数据分析或者其他的一些要求做好铺垫。 使用 MySQL 存储数据：这篇文章详细介绍了如何将爬虫采集到的数据保存到数据库，可以提供给我们查询或者是分析等任务。 读取文档：这篇文章介绍了如何解析文档内容，并读取内容。
2.8K10编辑于 2022-04-28 - 来自专栏yuyy.info技术专栏
《代码整洁之道》笔记（7-9章节）
例如：没有查询到数据时，就返回空列表。 别传递null值 如果禁止参数为null，如果为null，就抛出异常。此时可以使用更优雅的断言。 小结 整洁代码时可读的，但也是强固的。 为防止第三方提供的数据被随意修改，可将数据封装起来，提供操作数据的方法。例如以前提供一个Map，数据可能会被修改。现在将Map封装到类里，并提供可控的，有限的操作数据的方法，保证数据的安全。 另外还可提升扩展性，当存储数据的数据结构发生变动，不再是Map，此时只需修改操作数据的方法即可，不影响调用者。 不建议使用Map传参，这样传参，参数包含的数据是不可预知的。必要时可以封装下。 构建数据，执行测试目标方法，校验结果，这些该抽取就抽取，要让测试代码易读。 权衡优雅和性能。 每个测试一个断言 这样会造成重复代码，可通过模板模式来解决，共性放在基类，特性放到派生类。
63910编辑于 2022-06-28 - 来自专栏GopherCoder
专栏：FROM 爬虫 TO 数据科学专栏：FROM 爬虫 TO 数据科学0123
专栏：FROM 爬虫 TO 数据科学 共同成长社群，精进 专栏: 爬虫知识教程 0 关于本人： 初学者，同时喜欢编程和文艺书籍。 私下学些心理学，增强自己的认知能力。 摸滚打爬才学习了编程技术，写专栏的初衷是自己梳理爬虫知识。 走过许多弯路，可能也还在继续走着弯路。 01: CSDN专栏 02: 静觅爬虫专栏 03: 极客学院 2 专栏中技能概要 Git re BeautifulSoup xpath MySQL mongodb elasticsearch Scrapy 基本的匹配文本的方法| |03|requests模块的学习|网页下载器| |04|BeautifulSoup|解析器| |05|xpath|强大的解析器| |06|本地文本操作| |07|MySQL|关系型数据库 mongodb|No SQL| |09|elacsticsearch| |10|scrapy| |11|scrapy + Mongodb| |12|scrapy + Mongodb + redis| 数据科学专栏
73270发布于 2018-06-06 - 来自专栏二爷记
Python爬虫，pentagram图片及数据采集爬虫
很久没有写爬虫了，随手写了一个爬虫，分享给大家，目标是获取所有图片及数据内容，由于图片存在多张，故简单的采用了多线程来采集下载图片，同时也简单的运用python写入txt构建了一下爬取过程的日志文件，代码写的比较啰嗦 with open("log.txt", 'a+', encoding='utf-8') as f: f.write(f"{now()}-获取数据 listdatas.append(listdata) print(len(listdatas)) return listdatas #获取详情数据内容 微博爬虫，python微博用户主页小姐姐图片内容采集爬虫 ? 图片爬虫，手把手教你Python多线程下载获取图片 ? Python下载爬虫，解析跳转真实链接下载文件 ? Python爬虫，B站视频下载源码脚本工具助手附exe ·················END·················
1K20发布于 2021-07-05 - 来自专栏ReganYue's Blog
【PTA】7-9 递归实现逆序输出整数 (15point(s))
本题目要求读入1个正整数n，然后编写递归函数reverse(int n)实现将该正整数逆序输出。
1.5K10发布于 2021-09-16 - 来自专栏python学习指南
python爬虫(一)_爬虫原理和数据抓取
DT即数据技术，由数据在推倒人们的衣食住行，当今时代是一个大数据时代，数据从何而来？ 企业产生的用户数据：百度指数、阿里指数、TBI腾讯浏览指数、新浪微博指数 数据平台购买数据：数据堂、国云数据市场、贵阳大数据交易所 政府机构公开的数据：中华人民共和国国家统计局数据、世界银行公开数据 、联合国数据、纳斯达克 数据管理咨询公司：麦肯锡、埃森哲、艾瑞咨询 爬取网络数据：如果需要的数据市场上没有，或者不愿意购买，那么就可以招/做一名爬虫工程师，自己动手丰衣足食。 百度百科：网络爬虫 关于Python爬虫，我们需要学习的有： Python基础语法学习(基础知识) HTML页面的内容抓取(数据抓取) HTML页面的数据提取(数据清洗) Scrapy框架以及 通用爬虫和聚焦爬虫 网络爬虫可分为通用爬虫和聚焦爬虫两种。
3.8K70发布于 2018-01-17 - 来自专栏短信接收服务
爬虫系列：数据采集
在开始以前，还是要提醒大家：在网络爬虫的时候，你必须非常谨慎地考虑需要消耗多少网络流量，还要尽力思考能不能让采集目标的服务器负载更低一点。 在做数据采集以前，对网站经行分析，看看代码结构。 以上从网站结构开始分析，到具体代码实现，这是爬虫抽取网站内容的一个基本思路。 每个网站不同，结构也会有所不同，所以要针对性的编写代码。 以上代码已托管在 Github，地址：https://github.com/sycct/Scrape_1_1/ 文章来源：爬虫识别 - 爬虫系列：数据采集
88320发布于 2021-10-19 - 来自专栏我是思聪
共享单车数据爬虫
需要数据请联系微信bcdata 在线实时查看共享单车的位置，并提供了API供调用，方便进行研究，请查看体验：http://www.dancheditu.com/ 完整体验请在电脑上打开，手机可能显示不完整
1.6K10发布于 2020-04-30 - 来自专栏用户6093955的专栏
【7-9 有重复的数据I (20 分)】【此题卡输入，需要自己写个输入挂】
参考一个博客的输入挂，先挂在此处，以备以后使用。 import java.io.*; import java.util.*; import java.math.*; public class Main { public static void main(String[] args) { InputReader in = new InputReader(); PrintWriter out = new PrintWriter(System.out);
73820发布于 2019-09-30 大数据—爬虫基础
目录 爬虫是什么？ 发送网络请求 解析数据 正则表达式 正则表达式元字符 常用函数 Beautiful Soup find_all()函数 find()函数 select() xpath库： 爬虫是什么？ 爬虫（Crawler），也被称为网络爬虫、网页蜘蛛或网络机器人，是一种按照既定规则在网络上自动爬取信息的程序或脚本。它模拟人类操作客户端（如浏览器或APP）向服务器发起网络请求，以抓取数据。 爬虫可以用于网站数据采集、内容监测等多种用途。 爬虫的工作流程： 选取目标数据源：确定要爬取的网站或网页。 发起网络请求：模拟浏览器向目标网站发送请求。 获取响应数据：接收目标网站返回的响应数据，通常是HTML、XML或JSON格式的数据。 解析数据：使用解析器（如BeautifulSoup、lxml等）解析响应数据，提取出所需的信息。
1.5K21编辑于 2024-06-13- 来自专栏短信接收服务
爬虫系列：数据清洗
前面我们已经介绍了网络数据采集的一些基础知识，现在我们将进入高级数据采集部分。到目前为止，我们创建的网络爬虫都不是特别给力，如果网络服务器不能立即提供样式规范的信息，爬虫就不能采集正确的数据。 如果爬虫只能采集那些显而易见的信息，不经过处理就存储起来，那么迟早要被登录表单、网页交互以及 Javascript 困住手脚。 总之，目前爬虫还没有足够的实力去采集各种数据，只能处理那些愿意被采集的信息。 数据清洗 到目前为止，我们都没有处理过那些样式不规范的数据，要么使用的是样式规范的数据源，要么就是放弃样式不符合我们预期的数据。但在网络数据采集中，你通常无法对采集的数据样式太挑剔。 本期关于数据清洗就是如上内容，在接下来的内容中我会讲解数据标准化，以及存储的数据如何清洗。
2.3K10编辑于 2022-01-12 - 来自专栏python3
爬虫之数据解析
一、啥是数据解析 在上一篇关于爬虫的博客里，我提到过，整个爬虫分为四个部分，上一篇博客已经完成了前两步，也就是我说的最难的地方，接下来这一步数据解析不是很难，但就是很烦人，但只要你有耐心，一步一步查找 、排除就会提取出目标信息，这一步就相当于从接收到的庞大数据中提取出真正想要、有意义的信息，所以对于爬虫来说，应该是很重要的。 数据解析有三种方式，一是通过正则表达式，在python中就是利用re模块；二是xpath；三是利用BeautifulSoup。 明显发现这就是登录请求的路径，数据结构拿到了，再去拿到请求的路径 ? 这下就可以发送请求，我最先访问的是login页面，得到cookie，带这个cookie和data数据，往登录的路径发送请求，但不得行。
1.4K20发布于 2020-01-21 - 来自专栏大数据杂谈
Python 爬虫实战：股票数据定向爬虫
选取方法： 打开网页，查看源代码，搜索网页的股票价格数据是否存在于源代码中。 所以判断该网页的数据使用js生成的，不适合本项目。因此换一个网页。 从上图中可以发现百度股票的数据是html代码生成的，符合我们本项目的要求，所以在本项目中选择百度股票的网址。 因此，在本项目中，使用字典来存储每只股票的信息，然后再用字典把所有股票的信息记录起来，最后将字典中的数据输出到文件中。 range(len(keyList)): key = keyList[i].text val = valueList[i].text infoDict[key] = val 6.最后把字典中的数据存入外部文件中
1.8K40发布于 2018-06-11 - 来自专栏北京马哥教育
Python 爬虫实战：股票数据定向爬虫
选取方法： 打开网页，查看源代码，搜索网页的股票价格数据是否存在于源代码中。 所以判断该网页的数据使用js生成的，不适合本项目。因此换一个网页。 从上图中可以发现百度股票的数据是html代码生成的，符合我们本项目的要求，所以在本项目中选择百度股票的网址。 因此，在本项目中，使用字典来存储每只股票的信息，然后再用字典把所有股票的信息记录起来，最后将字典中的数据输出到文件中。 range(len(keyList)): key = keyList[i].text val = valueList[i].text infoDict[key] = val 6.最后把字典中的数据存入外部文件中
1.5K110发布于 2018-05-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号