首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏全栈开发日记

    【分享】抓取浏览器HTTPS请求数据

    2、浏览器安装证书 这里以Edge浏览器为例,打开浏览器设置并搜索证书设置项,将刚刚导出到桌面的证书导入即可,界面如下图所示。 在配置完后需要重启浏览器和Fiddler才可以生效。 保持Fiddler工具所在PC与手机所在同一局域网,并在手机浏览器访问Fiddler工具所在IP+端口号,正常情况下可以看到以下界面。

    1.1K30编辑于 2023-10-08
  • 来自专栏刷题笔记

    7-3 打印沙漏

    点这里 7-3 打印沙漏 本题要求你写个程序把给定的符号打印成沙漏的形状。

    81920发布于 2019-11-08
  • 2025年五大优秀抓取浏览器

    抓取浏览器通常会自动执行这些步骤,提供更高效、更可靠的抓取流程。如何选择网页抓取工具访问网络数据的方法有很多。 但是,如果您没有编程技能,您可能需要花费一些时间来习惯它,然后才能创建一个网页抓取机器人。为什么抓取浏览器可以增强您的工作? 抓取浏览器(例如 Puppeteer、Playwright 等)可以显著提高网页爬取效率,原因如下:支持动态内容: 抓取浏览器通过提供完整的浏览器渲染能力,可以处理使用 JavaScript 动态生成的页面内容 高并发支持: 一些抓取浏览器(例如 Browserless)还提供云服务,支持高并发爬取和大规模数据收集,适用于需要处理大量数据的场景。最后的想法哪种网页抓取工具最适合您,抓取浏览器还是抓取扩展程序? 您肯定希望使用最方便、最高效的工具来快速进行网页抓取。抓取浏览器 使网页抓取变得简单高效。通过绕过 CAPTCHA 和智能 IP 轮换,您可以避免网站封锁并轻松实现数据抓取。

    80510编辑于 2025-04-24
  • 来自专栏繁花云

    7-3笔记

    对数的定义:一般地,如果ax=N(a>0,且a≠1),那么数x叫做以a为底N的对数,记作x=logaN,读作以a为底N的对数,其中a叫做对数的底数,N叫做真数。

    62900发布于 2018-07-31
  • 来自专栏以终为始

    7-3 情人节 (15 分)

    输入按照点赞的先后顺序给出不知道多少个点赞的人名,每个人名占一行,为不超过10个英文字母的非空单词,以回车结束。一个英文句点.标志输入的结束,这个符号不算在点赞名单里。

    26620编辑于 2023-03-09
  • 来自专栏刷题笔记

    7-3 约瑟夫环 (25 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/101472782 7-3 约瑟夫环 (25 分) N个人围成一圈顺序编号,从1号开始按1、

    1.1K10发布于 2019-11-08
  • 来自专栏网络安全攻防

    【神兵利器】红队360浏览器密码抓取工具

    项目介绍 红队一键辅助抓取360安全浏览器密码的CobaltStrike脚本以及解密小工具,用于节省红队工作量,通过下载浏览器数据库、记录密钥来离线解密浏览器密码 360SafeBrowsergetpass.cna 主要用与记录解密所需要的信息用于离线解密,3Bpass主要用于解密浏览器密码,支持本机自动导出以及离线解密 基本用法 Aggressor scripts 搜集信息 加载Aggressor scripts 后,beacon右键打开菜单执行SafeBrowsergetpass即可 执行后将下载浏览器数据库,记录密钥MachineGuid到Credential Bpass解密数据库 3Bpass使用C#编写,

    76000编辑于 2025-01-09
  • 来自专栏刷题笔记

    7-3 电话聊天狂人 (25 分)

    点这里 7-3 电话聊天狂人 (25 分) 给定大量手机用户通话记录,找出其中通话次数最多的聊天狂人。 输入格式: 输入首先给出正整数N(≤10​5​​),为通话记录条数。

    1.1K20发布于 2019-11-08
  • 来自专栏刷题笔记

    7-3 寻找大富翁 (50分)

    胡润研究院的调查显示,截至2017年底,中国个人资产超过1亿元的高净值人群达15万人。假设给出N个人的个人资产值,请快速找出资产排前M位的大富翁。

    1.6K10发布于 2020-06-23
  • 来自专栏以终为始

    7-3 树的同构 (25 分)

    7-3 树的同构 (25 分) 给定两棵树T1和T2。如果T1可以通过若干次左右孩子互换就变成T2,则我们称两棵树是“同构”的。

    27310编辑于 2023-03-09
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 7-3 求数据的主成分pca

    首先创建一个虚拟的测试样本,样本具有两个特征,并且两个特征之间具有相应的线性关系。这里之所以让两个特征之间具有一定的线性关系是因为对这样的两个特征进行降维效果会比较明显。

    90050发布于 2019-11-13
  • 来自专栏爬虫资料

    使用Selenium与WebDriver实现跨浏览器自动化数据抓取

    为了应对不同浏览器环境下的兼容性问题,Selenium与WebDriver成为了开发者实现跨浏览器自动化数据抓取的首选工具。 本文将深入探讨如何利用Selenium和WebDriver实现跨浏览器的数据抓取,并结合代理IP技术提升数据抓取的稳定性与效率。 WebDriver是Selenium的一部分,支持多种浏览器(如Chrome、Firefox、Edge等)的自动化操作,使得开发者能够在不同的浏览器中执行一致的数据抓取流程。 实现跨浏览器自动化抓取的代码以下为使用Selenium与WebDriver实现的跨浏览器数据抓取代码,结合代理IP、user-agent和cookie的设置。 结论通过Selenium与WebDriver,我们能够轻松实现跨浏览器的数据抓取,并通过使用代理IP、设置user-agent与cookie等技术,提升了爬虫的稳定性和隐蔽性。

    1.2K10编辑于 2024-09-09
  • 应对反爬:使用Selenium模拟浏览器抓取12306动态旅游产品

    本文将详细介绍如何使用Selenium模拟真实浏览器行为,有效绕过这些限制,成功抓取12306旅游产品数据。 User-Agent、Referer等头部信息行为分析:检测鼠标移动、点击模式等人类特征IP限制:频繁请求会导致IP地址被暂时封锁Selenium技术简介Selenium是一个自动化Web测试工具,但其浏览器自动化能力使其成为应对反爬策略的利器 :真实浏览器环境:完全模拟用户操作,生成合法流量模式JavaScript执行:能够处理动态加载内容元素交互:可以模拟点击、输入等用户行为跨平台支持:支持Chrome、Firefox、Edge等主流浏览器环境准备与配置所需工具和库安装首先确保安装以下 Python库:bashpip install selenium beautifulsoup4 pandas webdriver-managerWebDriver管理Selenium需要对应浏览器的驱动程序 return f"http://{proxyUser}:{proxyPass}@{proxyHost}:{proxyPort}"def setup_driver(): """设置带代理的浏览器实例

    93310编辑于 2025-09-04
  • 来自专栏从零开始学自动化测试

    mitmproxy 抓包神器-1.环境准备与抓取浏览器请求

    mitmweb 是用于 mitmproxy 的基于 Web 的界面, 提供一个可视化界面帮助我们查看抓取的请求,可以修改返回内容。 http://127.0.0.1:8081/,显示如下 抓浏览器请求 mitmproxy 默认监听的端口是 8080 端口, 所以需要在浏览器上设置代理 开启代理,设置监听8080端口,点保存按钮 Mac 电脑端的配置 接下来浏览器访问一个http的请求,就可以捕获到了 打开百度https://www.baidu.com 页面是 https 请求,默认不会抓取 抓取https 请求 当打开一个 https 请求时,页面上出现”您的连接不是私密连接” mitmproxy 默认只抓取http的请求,https 的请求需要安装证书。 下一步 5.点完成 6.导入成功点确定 以上证书安装完成后,重新访问百度页面就可以抓包成功了 那就意味着浏览器上的所有https 请求都可以抓到了。

    2.8K20编辑于 2023-01-03
  • 2026年如何为AI Agent组合搜索、抓取与浏览器工具?

    搜索结果并非落地页的证据,静态抓取也无法覆盖所有交互页面。把所有网站一律交给浏览器,会增加执行步骤与调试工作;把所有任务都交给搜索摘要,又会遗漏页面正文和更新日期。 建议默认只开放搜索和单页抓取,在任务明确需要点击时才开放浏览器工具。对于已知的一批URL,可以用后端WebUnlockerAPI取得原始响应并统一解析。 公开网页并不意味着可以无限制抓取、存储、转载或训练模型。 按任务只开放所需的搜索、读取或浏览器工具,并限制域名、最大调用数及预算。涉及提交表单或交易的写入动作应另行审批。网页抓取的数据可以合法用于AI训练吗? 视频训练数据是否属于同一种网页抓取任务?不属于。

    14210编辑于 2026-10-28
  • 来自专栏刷题笔记

    7-3 堆栈操作合法性 (20 分)

    本文链接:https://blog.csdn.net/shiliang97/article/details/98609302 7-3 堆栈操作合法性 (20 分) 假设以S和X分别表示入栈和出栈操作。

    1.6K20发布于 2019-11-08
  • 来自专栏freesan44

    PTA 7-3 拼题 A 是真爱 (20 分)

    如果一个人在一段话里很多次提到 pintia,那对拼题 A 就是真爱啦~ 本题就请你检查一下给定的文字中出现了几次 pintia。

    51710编辑于 2021-12-06
  • “所见即所爬”:使用Pyppeteer无头浏览器抓取动态壁纸

    在数据抓取的领域中,我们常常会遇到一个棘手的难题:许多现代网站大量使用JavaScript在用户浏览器中动态地渲染内容。 此时,"无头浏览器"(Headless Browser)技术便成为了破解这一困境的钥匙。 它实现了"所见即所爬"的愿景,让你能抓取到任何在真实浏览器中能看到的内容。一、为何选择Pyppeteer? 逐个进入详情页,抓取高清壁纸资源(图片或视频)的真实URL。下载资源并保存到本地。 它完美地模拟了真实用户的行为:访问页面、滚动、点击、在新标签页中打开链接,最终精准地抓取到了由JavaScript动态生成的壁纸资源地址。

    78410编辑于 2025-09-11
  • 来自专栏数据结构和算法

    7-3 调查电视节目受欢迎程度 (15分)

    7-3 调查电视节目受欢迎程度 (15分) 某电视台要调查观众对该台8个栏目(设相应栏目编号为1~8)的受欢迎情况,共调查了n位观众(1≤n≤1000),现要求编写程序,输入每一位观众的投票情况(每位观众只能选择一个最喜欢的栏目投票

    39110编辑于 2023-11-30
  • 来自专栏freesan44

    PTA 7-3 拼题 A 是真爱 (20 分)

    如果一个人在一段话里很多次提到 pintia,那对拼题 A 就是真爱啦~ 本题就请你检查一下给定的文字中出现了几次 pintia。

    69500发布于 2021-09-10
领券