首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏全栈程序员必看

    网络爬虫必备知识之concurrent.futures库

    future.done())) print(future.result()) end = time.time() print('使用多线程--timestamp:{:.3f /Aland-Islands-2', 'http://example.webscraping.com/places/default/view/Albania-3', 'http://example.webscraping.com/places/default/view/Algeria-4', 'http://example.webscraping.com ' % (future.running(), future.done())) end = time.time() print('使用多线程--timestamp:{:.3f /Aland-Islands-2', 'http://example.webscraping.com/places/default/view/Albania-3',

    1.2K50编辑于 2021-12-31
  • 来自专栏牛牛资源

    基建软件Cilvil 3D:Autodesk Cilvil 3D 2023软件安装教程 Cilvil 3D下载Cilvil 3D软件

    Civil 3D是一款专为基础设施行业打造的建筑信息模型(BIM)软件。 Civil 3D是Autodesk公司开发的专业土木工程设计软件,它基于AutoCAD平台开发,主要适用于公路、桥梁、水利、排水、地形等土木工程设计和建模。 软件使用集成化工作流程,包括文档管理、概念设计、建模、协调和文档编制等环节,可加速设计流程并提高质量。 软件获取:复制箭头里面内容→%70%6f%70%6f%31%2e%74%6f%70←粘贴到浏览器搜索即可Civil 3D还提供了Geotechnical Modeler,土建工程师可以使用该工具有效地可视化和分析土工技术数据 11.Civil3D程序自动运行(期间请勿关闭,运行完成后自动退出)。12.双击Civil3D图标,启动软件。13.在使用网络许可栏,点击“选择”。

    1.5K30编辑于 2023-04-18
  • 来自专栏啄木鸟软件测试

    软件性能测试(连载3

    3-13 测试环境与工作环境在一起 ? 图3-14 测试环境各个客户端不在一个网下 在图3-13中,测试环境与工作环境在一起,既使得别人的正常工作不能进行,也使得测试的数据不准确。 在图3-14中,测试环境各个客户端在两个不同的网段下进行(这里是C类网),大家都知道跨网段是需要路由的,路由里面有软件,会干扰性能测试的数据,从而也会造成测试数据不准确。图3-15的环境是正确的。 图3-15 正确的性能测试环境 1.6 观察性能的四个维度 图3-16展示的是通过终端用户、系统运维人员、软件设计开发人员和性能测试人员四个维度来观察系统的性能。 ? 3.从软件设计开发人员角度看性能 软件设计开发人员角度需要从以下5个维度来看性能。 1)算法设计 •核心算法的设计与实现是否高效。 •必要时,设计上是否采用buffer机制以提高性能,降低 I/O。 5)软件性能的可测试性 •是否为性能分析(Profiler)提供必要的接口支持。 •是否支持高并发场景下的性能打点。 •是否支持全链路的性能分析。

    93520发布于 2020-02-19
  • 来自专栏人生代码

    python爬虫scrapy模拟登录demo

    测试登录地址:http://example.webscraping.com/places/default/user/login 测试主页:http://example.webscraping.com/user 3、parselogin方法是提交完表单后callback回调函数指定要执行的方法,为了验证是否成功。这里我们直接在response中搜索Welcome Liu这个字眼就证明登录成功。 Request class ExampleLoginSpider(scrapy.Spider): name = "login_" allowed_domains = ["example.webscraping.com "] start_urls = ['http://example.webscraping.com/user/profile'] login_url = 'http://example.webscraping.com callback=self.login) def login(self,response): formdata = { 'email':'liushuo@webscraping.com

    1.7K20发布于 2019-07-24
  • 来自专栏全栈程序员必看

    Scrapy库安装和项目创建建议收藏

    import scrapy class CountrySpider(scrapy.Spider): name = 'country' allowed_domains = ['example.webscraping.com '] start_urls = ['http://example.webscraping.com/'] def parse(self, response): pass 1. name作为爬虫名,必须指定名称,根据源码内容,若值为空会提示ValueErro 2. start_urls位爬取的网页 3. parse函数名不能修改,这是源码中指定的回调函数 测试爬虫 # - import etree class CountrySpider(scrapy.Spider): name = 'country' allowed_domains = ['example.webscraping.com '] start_urls = ['http://example.webscraping.com/places/default/view/Afghanistan-1'] #该函数名不能改变

    70320编辑于 2022-07-14
  • 来自专栏sktj

    python scrapy 模拟登录(最基础)

    basic loginspider example 2、设置setting.py:添加 USER_AGENT = 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_3) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.54 Safari/536.5' 3、vi spider/loginspider -- FormRequest class BasicloginSpider(scrapy.Spider): name = 'basiclogin' allowed_domains = ['example.webscraping.com = ['http://example.webscrping.com/'] def start_requests(self): return [Request("http://example.webscraping.com login",callback=self.login,meta={"cookiejar":1})] def login(self, response): data={"email":"liushuo@webscraping.com

    63950编辑于 2022-01-10
  • 来自专栏MyBlog

    软件测试方法课程笔记(3)

    软件测试方法课程笔记(3) 3. 白盒测试 这是一种验证技术,软件工程师可以用它来检查他们的代码是否按预期工作。 它考虑到系统或组件的内部机制。 集成测试 集成测试的概念: 集成测试是软件测试的阶段, 其中将各个软件模块作为一个组合进行测试. 集成测试在单元测试之后并且在系统测试之前. 在集成测试之前,单元测试已经完成。 系统测试对象是整个系统以及与系统交互的硬件软件平台,对系统能够做各种功能性和非功能性的验证 集成测试测试对象是模块与模块之间的接口,包括整体架构的问题。 软件测试介绍 软件缺陷的定义 从产品内部看,软件缺陷是产品开发或维护过程中所存在的错误、毛病等各种问题。 从产品外部看,软件缺陷是系统所需要实现的某种功能的失效或者违背。 软件质量 满足用户需求; 建立合理的进度、成本与功能的关系; 具备扩展性和灵活性; 能有效的处理例外情况; 保持成本和性能的平衡 软件质量保证 为了确保软件开发过程和结果符合预期的要求,而建立的一系列规程

    68650发布于 2018-10-09
  • 来自专栏Mac应用教程

    EdgeView 3 Mac(图片查看软件)

    一款图片查看软件—edgeview 3! EdgeView 3是一款运行在Mac系统上的图片查看器,不仅可以打开JPEG、PNG、TIFF、BMP、DSLR、EPS、PDF、AI(Adobe Illustrator)的RAW文件等各种图像文件, EdgeView 3 Mac图片edgeview 3软件亮点特征用户可以从 EdgeView 的文件浏览器打开文件、重命名文件、删除文件。还可以访问 SMB/AFP/FTP 网络卷。 EdgeView 3 将是查看和管理图像文件的最佳选择。

    1.5K20编辑于 2022-09-19
  • 来自专栏我的生物信息菜鸟学习笔记

    day3-Linux软件安装

    _64.sh sh是脚本后缀 这个是用来下载miniconda安装包的脚本 step、3安装miniconda 1、Linux下的安装要运行这句代码(bash+安装脚本) bash Miniconda3 -latest-Linux-x86_64.sh 2、按下q跳过版权信息,按不动q就按回车,看到问问题就yes 3、“Thank you for installing Miniconda3 !” conda list 2、安装软件 conda install fastqc -y #-y是yes,安装过程中conda问的问题全部回答yes 某些软件需要指定特定的版本使用,为防止bug出现,采用下面这种方式 : conda install fastqc=0.11.7 -y 3、确认fastq软件是否安装成功 在Linux上判定软件是否安装成功的方法就是查看帮助文档(help) 在R语言上是看是否安装成功是看 fastqc trimmomatic -y #建立一个名叫rnaseq的conda环境,然后指定python版本是3,安装软件fastqc、trimmomatic conda info --envs#查看创建好的环境

    42720编辑于 2024-10-23
  • 来自专栏漫漫生信路

    Day 3——Linux 软件安装:condaminiconda

    今日份学习内容将miniconda安装到服务器##登录你的服务器##下载miniconda软件必应搜索“miniconda 清华”,找到链接打开后找到最新版本选中-鼠标右键-复制链接-转到xshell-cd ~/biosoft 打开之前建立的biosoft目录-wget 左键-回车,等待下载安装minicondabash Miniconda3-latest-Linux-x86_64.sh,版权信息让enter 就enter,让yes就yes出现 #Thank you for installing Miniconda3! conda list安装软件conda install 软件名 -y ,-y#安装过程中所有协议均回答yes默认最新版本,若指定版本:conda install 软件名=版本信息 -y确认软件是否安装成功软件名 --help,若出现软件帮助文档表示安装成功卸载软件conda remove 软件名 -y

    91710编辑于 2023-11-29
  • 来自专栏全栈程序员必看

    网络爬虫之网站背景调研建议收藏

    输入http://example.webscraping.com/robots.txt 我们会看到以下内容:   section1:禁止用户代理为BadCrawler的爬虫爬取网站   section2 规定无论使用任何的代理,都应该在两次下载请求之间给出5秒的抓取延时,我们应该遵从该建议避免服务器过载,Disllow:/trap表示禁止爬取/trap链接,如果访问的画,服务器将会封你的ip   section3: protocol.html,打开sitemap看看   发现该网站地图提供了所有网页链接,虽然网站地图文件提供了一种爬取网站的有效方式,但是我们仍需对其谨慎处理,因为该文件经常存在缺失、过期或不完整的问题 3. 识别网站技术 import builtwith print(builtwith.parse("http://example.webscraping.com")) 5.

    98720编辑于 2021-12-19
  • Day3-Linux安装软件

    一、认识minicondaconda是一款软件管理软件,相当于windows里面的应用商店;anaconda包含了数据科学和机器学习要用到的很多软件;miniconda只包含了conda、python和一些必备的软件工具 # 进入biosoft目录,学会使用Tab键补全功能wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3- bash Miniconda3-latest-Linux-x86_64.sh # 进行安装source ~/.bashrc # 激活conda,注意空格conda # 如果出现满屏的信息就说明成功了 3.使用condaconda list # 查看安装的软件conda install fastqc -y # -y是yesconda install fastqc=0.11.7 -y -y # 创建一个名为“ran-seq”的conda环境,指定python版本3,安装软件fastqc和trimmomatic软件conda info --envs # 创建完成后

    37710编辑于 2024-03-06
  • 来自专栏全栈程序员必看

    python究竟要不要使用多线程

    3)python中多进程处理原理是怎么样的? 1. /20100101 Firefox/63.0', 'Connection':'keep-alive', 'Host':'example.webscraping.com /places/default/view/Afghanistan-1', 'http://example.webscraping.com/places/default/view /Aland-Islands-2', 'http://example.webscraping.com/places/default/view/Albania-3', 'http://example.webscraping.com/places/default/view/Algeria-4', 'http://example.webscraping.com

    1.1K20编辑于 2021-12-31
  • 来自专栏py+selenium

    【Download error:TOO MANY REQUESTS】&【TypeError:excepted string or buffer】

    Traceback(most recent call last):   File "1.py",line 52,in(module)     link_crawler('http://example.webscraping.com 下图是原代码(即出错的代码) 1 # encoding: UTF-8 2 import re 3 import urlparse 4 import urllib2 5 6 def download href="xxx"> 这样的字符串 36 return webpage_regex.findall(html) 37 38 link_crawler('http://example.webscraping.com

    75720发布于 2018-09-12
  • 来自专栏软件安装技巧

    3DSMax软件下载,3DSMax 3D动画制作软件 2023电脑版下载安装激活

    本文将探讨3DSMax软件在数字媒体设计中的应用,并通过实例说明如何利用3DSMax软件提高数字媒体设计的效率和质量。 3DSMax软件的特点和功能软件安装包:rcnzpk.souyun.work/3DSMax3d设计软件3DSMax软件作为数字媒体设计领域的佼佼者,具有以下特点和功能:(1)强大的建模功能:3DSMax 3DSMax软件在数字媒体设计中的应用3DSMax软件在数字媒体设计中的应用非常广泛,主要包括以下方面:(1)电影和电视剧制作:3DSMax软件可以实现电影和电视剧的特效制作,包括3D建模、动画、场景搭建 利用3DSMax软件,可以实现快速的3D场景设计。首先,将汽车广告的草图导入3DSMax软件中,然后利用3DSMax软件的建模功能,建立汽车和场景的3D模型。 在数字媒体设计的过程中,应该重视3DSMax软件的应用,学会如何使用3DSMax软件提高数字媒体设计的效率和质量。

    75430编辑于 2023-04-13
  • 来自专栏mac软件推荐

    Master of Typing 3 for Mac(打字学习软件)

    想要一款简单高效的打字学习软件?小编今天为大家分享Master of Typing 3 Mac。一款帮助用户提高打字技巧的打字游戏。它具有不同难度级别的多个级别,可以测试和提高用户的打字速度和准确性。 除了各种模式,打字大师 3 还包括各种统计数据和成就,可以跟踪您的进度并激励您不断提高打字技能。总的来说,这是一种提高打字能力的有趣且引人入胜的方式。 Master of Typing 3 for Mac(打字学习软件) 提高你的打字速度 各种练习:字母和特殊字符,单词和短语。 自动难度设置 如果练习成功,选择自动难度自动移动到下一课。 3个主题:光明,黑暗和东方 - 选择适合您需求的最普遍方便的主题。 轻扫和快捷键可快速切换窗口。 彩色键盘的方案来记住手指的位置。 适合随时自学。

    58510编辑于 2023-03-21
  • 来自专栏EdisonTalk

    重新温习软件设计之路(3

    本文是我学习课程《软件设计之美》的学习总结第三部分,分享面向对象的三个特点和五个设计原则的理解。 1 面向对象的三个特点 我们都知道面向对象有三个重要的特点:封装、继承 和 多态。 开放封闭原则 软件实体(类、模块、函数)应该对扩展开放,对修改封闭。 对扩展开放,就是新需求应该用新代码实现。 对修改封闭,就是不修改已有的代码。 实现开放封闭原则的前提是:在软件内部留好扩展点。 (var consumer in _consumers) { consumer.Consume(statistics); } } } (33 小结 本文我们学习了面向对象的三个特点和SOLID五个设计原则,它们可以指导我们如何设计可以应对长期变化的软件。 SRP,一个类的变化来源应该是单一的。 最后,感谢郑晔老师的这门《软件设计之美》课程,让我受益匪浅!我也诚心把它推荐给关注Edison的各位童鞋! 参考资料 郑晔,《软件设计之美》(极客时间课程,推荐订阅学习)

    64910发布于 2021-01-20
  • 来自专栏啄木鸟软件测试

    软件安全性测试(连载3

    2 软件安全测试 2.1 XSS注入 XSS(Cross SiteScripting),由于与层叠样式表(CascadingStyle Sheets,CSS)的缩写混淆。因此一般缩写为XSS。 3)DOM型 XSS 在讲解DOM型 XSS前先简单介绍一下什么是DOM树。对于任何一个HTML网页都可以看作是从<html>标签到文本节点的一颗“树”,这颗“树”叫做DOM树。 3. XSS会话挟持 如果将上面XSS PayLoad的alert(/XSS/)改为alert(document.cookie),看看会发现什么情形。代码如下。

    90631发布于 2019-12-12
  • 来自专栏全栈程序员必看

    Ubuntu卸载软件3种卸载方式

    1.使用Synaptic软件包管理器进行卸载 打开软件包管理器。 在管理菜单中,选择Synaptic软件包管理器。 某些较新版本的Ubuntu没有预装Synaptic。 右击你需要协助的软件包。在菜单中选择标记为移除。你可以选择为多个需要卸载的软件包重复该操作。 你还可以选择标记为完全移除,以便可以删除配置文件和程序文件。 2.使用软件中心进行卸载 打开软件中心。软件中心是一个可以安装和卸载Linux软件的GUI软件包管理器。 3.使用终端进行卸载 打开终端:Ctrl+Alt+T 打开终端。 要查看已安装的软件包列表,请输入以下命令。请注意你希望卸载的软件包的名称。输入命令:dpkg --list 卸载程序和所有配置文件。

    22.2K20编辑于 2022-08-23
  • 来自专栏Mac软件

    Archiver 3 for Mac(mac压缩解压软件)

    Archiver 3 mac版是一款好用的mac压缩解压软件,Archiver mac 的界面简单却又不失华丽,是您压缩解压缩不可或缺的助手。 id=MjU2NjEmXyYyNy4xODYuMTI0LjE2OQ%3D%3D功能介绍档案变得简单Archiver 2使归档工作变得简单。我们知道还有改进的余地,所以我们卷起袖子让档案 更容易处理。 Archiver 3为您带来流畅的界面,快速的工作流程和便捷的快速预览。拖放喜悦再也不用担心归档格式了 - Archiver的无缝拖放功能比以往任何时候都更加智能!

    1.3K40编辑于 2022-08-26
领券