首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏布衣者博客

    LeetCode-题库-刷题(6-7)

    将一个给定字符串 s 根据给定的行数 numRows ,以从上往下、从左到右进行 Z 字形排列。 具体题目链接

    51720发布于 2021-09-07
  • 来自专栏python3

    笨办法学Python - 习题6-7:

    学习目标:了解字符串的定义,学会使用复杂的字符串来建立一系列的变量。学会命名有意义的变量名

    77810发布于 2020-02-10
  • 来自专栏iOS面试

    iOS 面试策略之算法基础6-7节

    之前介绍了最简单的搜索法:二分搜索。虽然它的算法复杂度非常低只有 O(logn),但使用起来也有局限:只有在输入是排序的情况下才能使用。这次讲解两个更复杂的搜索算法:

    96130发布于 2021-04-22
  • 来自专栏AI SPPECH

    IO竞赛2025年题目解析:中级难度(6-7)

    2025年的中级难度(难度系数6-7)题目综合考察了选手的算法设计、数据结构应用、数学建模和问题分析能力。本文将深入解析2025年中级难度的IO竞赛题目,帮助选手们突破瓶颈,提升解题能力。 难度进阶路径: 入门(1-3) → 基础(4-5) → 中级(6-7) → 高级(8-10) 难度系数 考察重点 核心知识点 学习目标 6-7 高级算法、数据结构综合应用 高级动态规划、图论、数论、几何 8题) ├── 第四章:中级难度题目解题策略 └── 第五章:综合能力提升建议 第一章:2025年IO竞赛中级难度题目概述 根据2025年NOI修订版大纲,中级难度(CSP-S提高)的知识点难度系数为6-

    38110编辑于 2025-11-13
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 6-7 sklearn中的随机梯度下降法

    本系列是《玩转机器学习教程》一个整理的视频笔记。本小节主要介绍改进上一小节代码,封装自己的随机梯度下降法并应用,之后应用sklearn实现随机梯度下降法。

    1.3K20发布于 2019-11-13
  • 来自专栏linjinhe的专栏

    设计数据密集型应用(6-7):分片、事务

    随着业务发展,用户数量、商品数量、订单数量都在持续增长,数据库的负载越来越高。我们开始对数据库进行垂直拆分(垂直分片),把这三张表拆到三个数据库,而业务代码改改数据库的配置就好。

    83750发布于 2020-04-02
  • 来自专栏全栈开发那些事

    6-7 在一个数组中实现两个堆栈 (20分)

    其中Tag是堆栈编号,取1或2;MaxSize堆栈数组的规模;Stack结构定义如下:

    1.3K40编辑于 2023-02-27
  • 来自专栏python学习教程

    python爬虫学习:爬虫与反爬虫

    二.爬虫分类 网络爬虫按照实现的技术和结构一般分为通用网络爬虫、聚焦网络爬虫。从特性上也有增量式网络爬虫和深层网络爬虫等类别,在实际的网络爬虫中,通常是这几类爬虫的组合体。 通用网络爬虫 通用网络爬虫(General Purpose Web Crawler)。通用网络爬虫又叫作全网爬虫,顾名思义,通用网络爬虫爬取的目标资源在全互联网中。 聚焦网络爬虫 聚焦网络爬虫(Focused Crawler)也叫主题网络爬虫,顾名思义,聚焦网络爬虫是按照预先定义好的主题有选择地进行网页爬取的一种爬虫,聚焦网络爬虫不像通用网络爬虫一样将目标资源定位在全互联网中 一般反爬虫策略多数用在比较低级的爬虫上,这类爬虫多为简单粗暴的不顾服务器压力不停访问,再一种为失控的或被人遗忘的爬虫,这类爬虫一般需要在第一时间封锁掉。 越是高级的爬虫,越难被封锁,相应高级爬虫的开发成本也越高。 在对高级爬虫进行封锁时,如果成本高到一定程度,并且爬虫不会给自己带来大的性能压力和数据威胁时,这时就无需继续提升成本和爬虫对抗了。

    5.1K62发布于 2019-07-10
  • 来自专栏短信接收服务

    爬虫系列:爬虫介绍

    而数据采集采集就需要使用到网络爬虫(Web crawler),网络爬虫也会被称为:网络铲(Web scraper,可类比于考古用的洛阳铲)、网络蜘蛛(Web spider),其行为一般是先“爬”到对应的网页上 网络搜索引擎和其他一些网站使用网络爬虫或蜘蛛软件来更新他们的网络内容或其他网站的网络内容索引。网络爬虫复制页面以供搜索引擎处理,搜索引擎对下载的页面进行索引,以便用户可以更有效地搜索。 对于一些涉及查看当下热门话题的爬虫项目,还需要使用自然语言处理。 在网络爬虫抓取数据的时候,目标网站可能设置了验证码、网络爬虫陷阱,同时相同的 User-Agent 也会被视为非正常用户,这些都需要避开。 以上都是网络爬虫需要的技能,我会在接下来的章节中,详细介绍爬虫的每一个技术,使大家学会使用网络爬虫获取自己需要的数据。

    1.5K12发布于 2021-10-12
  • 来自专栏程序员的知识天地

    python爬虫入门:什么是爬虫,怎么玩爬虫?

    看到这两只爬虫没有? 两只爬虫 两只爬虫 跑得快 跑得快 一只没有.. 不好意思 跑题了... 别误会,今天不是要教你怎么玩上面这两只沙雕玩意。 我们刚刚提到的 一个自动化的程序 就是爬虫 知道了什么是爬虫之后 问题来了 爬虫怎么玩的? 爬虫可以用到一些 Http 库向指定的服务器偷偷摸摸的发起请求,这个时候爬虫可以假装自己是浏览器(添加一些header信息) 大多数的服务器呢,傻不拉的以为是浏览器发送请求 就直接返回数据给爬虫了 当然了 ,有一些网站比较精明 所以他们会建立一些反爬虫机制 但是,对于我们来说,不在话下 这个是后话了! 以上就是我们的爬虫的具体爬取流程,这是我们开启爬虫体系的第一篇,接下来我们将一步一

    1.2K20发布于 2019-05-31
  • 来自专栏编程

    小白爬虫之爬虫快跑

    今天就教大家来做一个多进程的爬虫(其实吧、可以用来做一个超简化版的分布式爬虫) 其实吧!还有一种加速的方法叫做“异步”!不过这玩意儿我没怎么整明白就不出来误人子弟了! (因为爬虫大部分时间都是在等待response中!‘异步’则能让程序在等待response的时间去做的其他事情。) 一个多进程多线的爬虫就完成了,(其实你可以设置一下MongoDB,然后调整一下连接配置,在多台机器上跑哦!!嗯,就是超级简化版的分布式爬虫了,虽然很是简陋。) 结束语 转载请注明:静觅»小白爬虫第四弹之爬虫快跑(多进程+多线程)

    1.5K80发布于 2018-01-29
  • 来自专栏入门到放弃之路

    自学爬虫 1 - What is 爬虫?

    前言 记得17年实习,刚听到爬虫这个词的时候,感觉特别遥远。那时还特地从网上下载了一本,在公司看了三天左右,用Java写下了人生的第一个爬虫PoiCrawler,记忆尤为深刻。 对于爬虫,我的定义就是:在Java中爬虫是Jsoup,在python中就是requests(urlib)库(Scrapy先不提)。 所以,在这里给爬虫粗略定义:爬虫 = 爬取网页 + 解析目标数据 + 数据存储 爬取网页 所谓的爬取网页,就是通过请求,将展示在浏览器的网页获取到。 结语 其实常见的爬虫简单的一,没有想象的那么复杂。入门的话用好requests和bs4就足够了。随着接触的爬虫越来越多,知识面越来越广泛,技术能力层面也会随之提升。 在以后的开发过程中,遇到的反爬虫技术也会让你快速成长。

    1.1K20编辑于 2022-05-09
  • 来自专栏用户8057608的专栏

    Python爬虫系列:浅谈爬虫

    Python系列写完后,想趁热打铁将爬虫系列也写了,这样大家以后也可以爬爬图片,音乐,视频啥的也方便,小**的视频也可哦 ,嘻嘻。 Python爬虫,顾名思义是爬取信息的。 学习爬虫,首先得先培养爬虫的思想,比如网络上的文本,图片,视频等等,其实都是由“某个东西”保存起来的,然后通过网络返回给用户。 URL是通用的资源定位符,URI同样也是资源定位符,由于URL包括URI,且URL适用范围广,所以URL就占了上风,爬虫是要有爬取的信息目标的,而目标就是URL包含的文件信息,这样就不难理解为什么爬虫一定要有确切的网址才能爬取到该文件了 那么爬虫简单来说就是某个虫子顺着这个路线找到我们想要的东西,然后将其解析,提取出来。 (Python爬虫系列)未完待续...

    2.1K30发布于 2021-01-25
  • 来自专栏程序员小王

    【Python爬虫】初识爬虫(1)

    写在前面 之前写了两篇关于爬虫的文章微信好友大揭秘,赵雷到底在唱什么,纯粹是自己的兴趣引导自己学习爬虫,关注里应该有好多对爬虫感兴趣的小伙伴,为了巩固自己的爬虫知识,从今天开始更新python爬虫这个基础教程 ,自己准备了挺长时间整理了自己的学习笔记,希望能给初学者带来一点帮助,在这个教程里我会给大家介绍爬虫常用的库跟大家做几个有意思的Demo。 这篇文章主要是让大家了解爬虫和爬虫需要的基础知识,话不多说,我们开始吧。 什么是爬虫? 在我们爬虫过程中url,响应内容,提取的数据都是字符串,因此我们需要去了解字符串的相关知识。 总结 1、爬虫流程: 请求--->获取响应--->解析--->存储 2、爬虫所需工具: 请求库:requests,selenium(可以驱动浏览器解析渲染CSS和JS,但有性能劣势(有用没用的网页都会加载

    2.3K20发布于 2019-07-02
  • 来自专栏海仔技术驿站

    Python爬虫之爬虫概述

    爬虫概述 知识点: 了解 爬虫的概念 了解 爬虫的作用 了解 爬虫的分类 掌握 爬虫的流程 ---- 1. 原则上,只要是客户端(浏览器)能做的事情,爬虫都能够做 爬虫也只能获取客户端(浏览器)所展示出来的数据 ---- 知识点:了解 爬虫的概念 ---- 2. 爬虫的作用 爬虫在互联网世界中有很多的作用,比如: 数据采集 抓取微博评论(机器学习舆情监控) 抓取招聘网站的招聘信息(数据分析、挖掘) 新浪滚动新闻 百度新闻网站 软件测试 爬虫之自动化测试 爬虫的分类 3.1 根据被爬取网站的数量不同,可以分为: 通用爬虫,如 搜索引擎 聚焦爬虫,如12306抢票,或专门抓取某一个(某一类)网站数据 3.2 根据是否以获取数据为目的,可以分为: 功能性爬虫 ---- 知识点:了解 爬虫的分类 ---- 4. 爬虫的流程 爬虫的基本流程如图所示 ?

    3K10发布于 2020-09-08
  • 来自专栏初见Linux

    爬虫小白:01-认识爬虫

    一、爬虫的概念:伪装成客户端与服务端进行数据交互的程序。 二、HTTP与HTTPS协议: 什么是协议? 网络协议是通信计算机双方必须共同遵从的一组约定。如怎么样建立连接、怎么样互相识别等。

    79710发布于 2020-08-05
  • 来自专栏兵马俑的CSDN

    python爬虫学习(1)——初识爬虫

    1、网络爬虫概述 网络爬虫(Web Crawler),也称为网页蜘蛛(spider)或机器人(bot),是一种自动浏览互联网的程序。 2、网络爬虫的类型: 通用爬虫:爬取互联网上广泛的网页,用于构建大型搜索引擎的索引。 聚焦爬虫:专注于特定主题或领域的网页,用于构建特定领域的搜索引擎或数据库。 增量爬虫:定期爬取网页,只更新那些自上次爬取以来发生变化的网页。 3、网络爬虫的工作原理: 选择起始点:爬虫从预定义的URL列表或种子URL开始。 发送请求:爬虫向目标网页发送HTTP请求。 解析内容:爬虫解析网页内容,提取有用的信息,如文本、图片、链接等。 存储数据:将提取的信息存储到数据库中。 发现新链接:分析网页中的链接,将新的URL添加到待爬取的队列中。 4、网络爬虫的设计考虑: 爬取策略:如何决定访问哪些网页,常见的策略有广度优先、深度优先等。 重复内容的处理:避免爬取重复内容,节省资源。

    70600编辑于 2024-05-27
  • 来自专栏李昂君

    爬虫+反爬虫+js代码混淆

    阅读量: 760 一、爬虫 1. 爬虫应用领域 爬虫的应用领域,从广义上来说,人类用网络能做啥,爬虫就能干啥。 4. 脚本爬虫 实战-可视化爬虫 5. 爬虫技术手段 根据关键字分析 断点分析 二、反爬虫 1. 对于反爬虫未来发展方向,个人认为更多的不是依赖于算法识别而是「机器学习」识别爬虫。

    12.9K30编辑于 2021-12-24
  • 来自专栏李昂君

    爬虫+反爬虫+js代码混淆

    新手写程序,都喜欢把代码全部写在一起,我个人认为这个是属于意识层面的,并需要太强的编程能力,通过看别人写的代码,还是能够明白如何去组织代码,拆分代码的。核心思想就是“尽量每一个变量名有意义,每一个函数名有意义,每一个函数只干一件事情”。

    3K20编辑于 2022-01-04
  • 来自专栏小詹同学

    发爬虫和反反爬虫(下篇)

    上篇从理论上总结讲述了反爬虫的原因、反爬虫的常用手段以及我们针对反爬虫进行的反反爬虫手段! 因为本爬虫系列曾爬取过头条上的妹子图,大部分步骤雷同,这里主要是针对上篇中的反爬与反反爬进行拓展,采取模块化的思路进行程序文档编写。 with open(filename,'wb') as f: img = url_open(each) f.write(img) 往期推荐 Python爬虫系列 ——入门到精通 Python爬虫实例之——小说下载 老司机带你用python来爬取妹子图 知乎大神爬取高颜值美女(Python爬虫+人脸检测+颜值检测) 千元资料免费送——人工智能相关(100G+) 资源福利第二弹 ——PPT模板和求职简历 资源福利第三弹——Python等教程(包括部分爬虫入门教程)

    93420发布于 2018-07-24
领券