- 综合排序
- 最热优先
- 最新优先
- 来自专栏用户9379187的专栏
Jenkins流水线
一、Jenkins流水线任务介绍之前采用Jenkins的自由风格构建的项目，每个步骤流程都要通过不同的方式设置，并且构建过程中整体流程是不可见的，无法确认每个流程花费的时间，并且问题不方便定位问题。 二、 Jenkins流水线任务1. 构建Jenkins流水线任务 构建任务 构建Jenkins流水线任务 生成Groovy脚本 Hello World脚本生成 构建后查看视图 构建后查看视图2. 每次构建会自动拉取项目并且获取项目中Jenkinsfile文件对项目进行构建 配置pipeline 配置pipeline 准备Jenkinsfile 准备Jenkinsfile文件 测试效果 测试效果三、Jenkins流水线任务实现 拉取Git代码通过流水线语法生成Checkout代码的脚本语法生成pipeline { agent any stages { stage('拉取Git代码') {
1.2K21编辑于 2022-08-24 - 来自专栏程序员
流水线、超流水线、超标量（superscalar）技术对比
市场上推出的各种不同的1 6位/ 3 2位微处理器基本上都采用了流水线技术。如8 0 4 8 6和P e n t i u m均使用了6步流水线结构，流水线的6步为： ( 1 ) 取指令。 当流水线完全装满时，每个时钟周期平均有一条指令从流水线上执行完毕，输出结果，就像轿车从组装线上开出来一样。 超流水线 超级流水线以增加流水线级数的方法来缩短机器周期，相同的时间内超级流水线执行了更多的机器指令。 采用简单指令以加快执行速度是所有流水线的共同特点，但超级流水线配置了多个功能部件和指令译码电路，采用多条流水线并行处理，还有多个寄存器端口和总线，可以同时执行多个操作，因此比普通流水线执行的更快，在一个机器周期内可以流出多条指令 这种将标准流水线细分的技术，就是超级流水线技术。当然，流水线和超级流 水线之间并没有很明显的区别。
7K31发布于 2020-08-17 - 来自专栏云云众生s
KitOps将DevOps流水线转变为MLOps流水线
然而，实现流线型 MLOps 工作流的主要障碍在于 DevOps 和机器学习流水线之间的传统分离。 在现有 DevOps 流水线旁边构建单独的 MLOps 流水线来管理这些方面会导致一些低效率： 重复工作：维护单独的流水线意味着为版本控制、部署和配置管理等任务重复工作。 想象一下为应用程序代码管理一个 DevOps 流水线，为训练好的模型、其依赖项和配置文件管理一个单独的 MLOps 流水线。这种冗余增加了开销，并在流水线之间引入了潜在的不一致性。 通过使用 KitOps 统一 DevOps 和 MLOps 流水线，团队可以获得以下好处： 降低复杂性：一个流水线简化了开发过程，减少了开销并简化了团队之间的协作。 提高一致性：一个统一的流水线确保了整个应用程序和 ML 模型生命周期中版本控制和配置管理的一致性。这降低了因管理单独的流水线而产生的错误和不一致的风险。
1.3K10编辑于 2024-06-24 - 来自专栏罗西的思考
深度学习流水线并行Gpipe(1)---流水线基本实现
[源码解析] 深度学习流水线并行Gpipe(1)---流水线基本实现 目录 [源码解析] 深度学习流水线并行Gpipe(1)---流水线基本实现 0x00 摘要 0x01 概述 1.1 什么是GPipe 必须同时计算多个 micro-batch 以确保流水线的各个阶段能并行计算。 流水线并行训练有可能在数据并行性困难时提供较高的DNN训练性能。 但是流水线并行依然有一些问题： 显存效率：流水线并行减少的显存与流水线的阶段数成正比，使模型的大小可以随 worker 的数量线性扩展。但是，流水线并行不会减少每一层的激活函数的显存占用量。 像模型并行一样，增加流水线大小会减少每个流水线阶段的计算量，这会降低计算与通信的比率。如果要实现好的计算效率，流水线并行还要求其每个阶段的计算负载完美的均衡。 此外，流水线并行性会在每个 batch 的开始和结束时因为需要重新填充或排空流水线而产生 bubble overhead。
2.1K20发布于 2021-08-24 - 来自专栏程序员
流水线、超流水线、超标量（superscalar）技术对比（转）
流水线 流水线技术是一种将每条指令分解为多步，并让各步操作重叠，从而实现几条指令并行处理的技术。 市场上推出的各种不同的1 6位/ 3 2位微处理器基本上都采用了流水线技术。如8 0 4 8 6和P e n t i u m均使用了6步流水线结构，流水线的6步为： ( 1 ) 取指令。 超流水线 超级流水线以增加流水线级数的方法来缩短机器周期，相同的时间内超级流水线执行了更多的机器指令。 采用简单指令以加快执行速度是所有流水线的共同特点，但超级流水线配置了多个功能部件和指令译码电路，采用多条流水线并行处理，还有多个寄存器端口和总线，可以同时执行多个操作，因此比普通流水线执行的更快，在一个机器周期内可以流出多条指令 这种将标准流水线细分的技术，就是超级流水线技术。当然，流水线和超级流 水线之间并没有很明显的区别。
2.7K20发布于 2020-08-17 - 来自专栏linux技术
jenkins流水线搭建
我这里采用的是 all-in-one 的配置，即所有操作都在一台主机上，如资源充足可以将 jenkins和gitlab 与后续项目容器分开部署
1.8K30编辑于 2023-03-17 - 来自专栏格物致知
CPU流水线详解
1条3级流水线，分别是车轮生产流水线，车门生产流水线以及组装流水线，整条流水线的周期选取为12s，注意，在此为什么设置整条流水线的周期为三个步骤中最长的12s呢？ ，所以在k级流水线中只能选择完成任务所需时间最常的那级流水线的时间作为整条流水线的周期。 此例虽然选取12s为整条流水线的周期，但这样又带来了另一个问题，在每个周期内车轮流水线与组装流水线为了等待车门流水线而造成了一定时间上的闲置，具体到CPU内部的流水线也同样存在这个问题，当然我们可以通过合理分配流水线和增加缓存来缓解此问题 30s，由此我们发现无论对于几级流水线，单个产品的生产时间并没有因流水线级数而改变，既然这样那流水线是通过什么方式提升工作效率的？ 3CPU内部的流水线与工厂流水线的区别和联系 CPU流水线属于工厂流水线的一种，具有流水线的一些共性，但与工厂流水线也具有一些区别，在本文中我们已得到增加流水线级数有助于提升CPU主频的结论，那为什么
88030编辑于 2022-08-19 - 来自专栏新亮笔记
部署流水线解析
什么是部署流水线 部署流水线是指软件从版本控制库到用户手中这一过程的自动化表现形式。 流水线的输入是版本控制中的某个具体版本。 部署流水线的相关实践 只生成一次二进制包； 对不同环境采用同一部署方式； 对部署进行冒烟测试； 向生产环境的副本中部署； 每次变更都要立即在流水线中传递； 只要有环节失败，就停止整个流水线； 提交阶段 每次提交都生成部署流水线的一个新实例。 缓解这类风险非常简单，只要把这个发布环节视为部署流水线的一个自然结果就行。 实现一个部署流水线 无论是从零创建新项目，还是想为已有的系统创建一个自动化的流水线，通常都应该使用增量方法来实现部署流水线。
78830编辑于 2022-05-17 - 来自专栏用户7873631的专栏
go 流水线模式
(out1)//全部+1后，关闭out通道. }() for v:=range out1{ fmt.Println(v) } } 解释： ，可以看到有两个goroutine构成了一个简单的流水线
26910编辑于 2024-03-24 - 来自专栏k8s技术圈
创建 Tekton 流水线
前面我们创建的两个任务 test 和 build-and-push 都已经完成了，我们还可以创建一个流水线来将这两个任务组织起来，形成一个流水线，这里就是我们要使用的 Pipeline 这个 CRD 对象 创建流水线 比如我们这里的流水线流程为先运行 test 任务，如果通过了再执行后面的 build-and-push 这个任务，那么我们可以创建一个名为 test-pipeline.yaml 的资源对象， - name: demo-git type: git - name: harbor-image type: image tasks: # 添加task到流水线中 我们创建了由两个任务组成的 Tektok 流水线，第一个任务是从 GitHub 克隆代码并运行应用程序测试，第二个任务是构建一个 Docker 镜像并将其推送到 Docker Hub 上。 到这里我们就完成了使用 Tekton 创建 CI/CD 流水线的一个简单示例，不过这个示例还比较简单，接下来我们再通过一个稍微复杂点的应用来完成我们前面的 Jenkins 流水线。
1.1K40发布于 2021-06-25 - 来自专栏瓜大三哥
HLS应用流水线
主要对于FOR循环进行优化
74460发布于 2018-02-26 - 来自专栏编舟记
流水线即代码
说得烂俗点，流水线已经是 CI/CD 实践过程中的“最后一公里”，让流水线变成软件开发中的“一等公民”（即代码）是大势所趋、民心所向。 这些问题会在流水线的演化过程中恶化得越来越严重。一般来讲，除非不再使用，否则流水线不会保持一成不变。 流水线自举 小结 流水线即代码是个新概念，也就意味着我们还需要花时间去探索与之相关的实践，比如，调试和测试（既然是代码就需要测试）。 一旦有了这些实践，我们就可以把流水线本身作为产品放到流水线上运作起来，那时将会看到一种很好玩的现象——旧的流水线会构建并部署新流水线，完成流水线的自举 (pipeline bootstrap) 。 此外，当流水线成为代码，它在最终的交付物中必然占据一席之地，其潜在的价值还等待我们挖掘，至少从精益的角度，流水线能做的事情还有很多。
94830发布于 2018-08-17 - 来自专栏希里安
流水线使用浅谈
## jenkins和gitlab-ci 有读者有疑惑，为什么先用gitlab-ci而不是jenkins，我这里就来简单对比下，gitlab的流水线和jenkins的流水线。 1. 与源码管理的结合: - GitLab CI:原生集成了Git,非常易于与GitLab仓库结合,可以自动检测仓库更改并运行流水线。 总之个人开发者或者小团队来讲可以选择gitlab的流水线足够使用，而规模大一点就根据实际选择gitlab或者jenkins流水线，结合使用。 所以,我们可以在同一个CI/CD流水线中,使用shell执行器构建应用,使用docker执行器部署应用。 如果一个Runner的job队列太长,可以注册更多Runner来提高CI流水线的处理能力。 . 不同机器资源。
90510编辑于 2023-10-30 - 来自专栏shigen的学习笔记
CICD流水线实战
先分享一下shigen的学习视频资源：CICD流水线实战git分布式版本控制器。gitlab可以创建私人的仓库，github私有仓库需要付费。SVN 不推荐！ 最后，总结一下jenkins的自动化流程的步骤：图片pipline流水线参考文章：pipeline流水线以上就是shigen最近几天学习的成果，关于CICD流水线实战的全部内容。
98620编辑于 2023-08-15 - 来自专栏ThoughtWorks
流水线即代码｜洞见
说得烂俗点，流水线已经是CI/CD实践过程中的“最后一公里”，让流水线变成软件开发中的“一等公民”（即代码）是大势所趋、民心所向。 ? 这些问题会在流水线的演化过程中恶化得越来越严重。 一般来讲，除非不再使用，否则流水线不会保持一成不变。 发布分支是主干分支某个时刻分出去的，它需要在那时的流水线上才能正常工作。由于前面所说雪花服务器的特征，重建这样一条流水线并不是一件容易的事情。 如何解决 其实，流水线即代码本身已经回答了这个问题。 一旦有了这些实践，我们就可以把流水线本身作为产品放到流水线上运作起来，那时将会看到一种很好玩的现象——旧的流水线会构建并部署新流水线，发生上文所说自举(bootstraping)现象，这也表明流水线是不断进化的 此外，当流水线成为代码，它在最终的交付物中必然占据一席之地，其潜在的价值还等待我们挖掘，至少从精益的角度，流水线能做的事情还有很多。
1.7K50发布于 2018-04-13 - 来自专栏叶子的开发者社区
计算机指令的流水线执行与流水线冒险
计算机指令流水线 流水线方式的洗衣房可以以并行的方式提高性能 计算机执行指令，同样可以以流水线的方式并行 MIPS 流水化的数据通路 流水线冒险 下一周期不能按时执行下一条指令 结构冒险 数据冒险 一种可行的BTB结构示意图如下： 在采用了BTB之后，在流水线各个阶段所进行的相关操作如下： 注意，为了填写BTB，需要额外一个周期。
96821编辑于 2023-11-19 - 来自专栏杂烩
Rancher流水线配置文档
一、概述 Rancher流水线从逻辑上可以分为两部分，即CI和CD。 CI，可分化为克隆代码、代码打包、发布镜像三部分。 CD，可分为部署镜像。 二、配置 完整的流水线脚本，类似如下： stages: - name: build steps: - runScriptConfig: image: maven:3.6.0-
2.3K20发布于 2019-03-12 - 来自专栏DevOps持续集成
加快GitLabCI流水线构建！
GitLab.com 提供共享的Runner程序供每个存储库使用，虽然这对于快速开始来说是很棒的，但我们发现最大的单项速度提升来自接待我们自己的Runner。对我们来说，瓶颈实际上不是CPU或RAM，而是网络。在私有云服务器上，网络速度大大提高。网络速度对于构建和部署尤其重要。构建通常需要下载库，依赖项，Docker映像等，而部署则需要将资源上传到其他位置。当网络挤满了GitLab的共享Runner时，这些阶段就会很慢。
1K10编辑于 2021-12-13 - 来自专栏立权的博客
Hadoop架构: 流水线(PipeLine)
整条流水线由若干个DataNode串联而成，数据由客户端流向PipeLine，在流水线上，假如DataNode A 比 DataNode B 更接近流水线 那么称A在B的上游(Upstream)，称B 当客户端收到第一个DataNode的ACK，表明此次Packet的传输成功 一.流水线基础概念 流水线就像一条水管，数据（Packets）从一端流进去，依次经过流水线上的各个DataNode。 流水线关闭，DataNode可以将块的状态设置为FINALIZED并且DataNode向NameNode汇报 四.流水线的建立 流水线建立的时机: 1.客户端请求新建一个Block，需要新建流水线， 最后一步： 如果建立的流水线是用来恢复或者Append的，那么将会通知NameNode，流水线完成，告知NameNode更新流水线信息(块的位置等)。 重新架构流水线： 如果上述所有步骤不成功，则会重新建立流水线(进行流水线恢复)。
91520发布于 2020-09-27 - 来自专栏ThoughtWorks
浅谈数据流水线
而对于数据的加工和处理流程，我们通常将其称为数据流水线，也就是 Data Pipeline。 什么是数据流水线 那么什么是数据流水线呢？ 数据流水线从广义来讲，会包含源数据的接入、数据的处理、数据交付、数据管理、数据治理以及数据的访问模式等，同时也包含狭义上的数据流水线，也即对数据做相应的ETL处理，本文我们将重点关注于狭义的数据流水线。 数据流水线通常也是实现机器学习模型、数据分析、业务报表等技术的基础。 数据流水线的复杂性取决于数据源的数据结构、数据质量以及我们要实现的业务需求。 ，很多时候我们就可以直接把 ETL 看做是数据流水线，而不是数据流水线所遵循的模式了。 如何管理数据流水线 随着组织内数据流水线的数量以及复杂性的增加，对数据流水线中的任务的管理也变得越来越复杂，这时就需要引入任务调度平台了，通过任务调度平台对数据流水线中的多个任务进行管理和调度。
88410发布于 2021-09-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号