首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏阿泽的学习笔记

    原生AI漫谈

    对于系统开发人员来说(比如云数据库, AI 平台),原生的趋势也会产生相应的影响。 具体的例子比如我们可以通过用户的数据查询看到经常使用的过滤维度,来重新安排数据的排序和分区,这样在同样的数据量情况下,系统可以花更少的计算资源来完成查询,增加系统的利润 :) 原生+AI 最后再来看下跟 AI 相关的部分。 而前面讲的“原生语言”,则更关注在程序具体执行层面的关注点分离。 把两者结合起来看,原生时代的 AI 平台开发会是一片巨大的未开垦之地,对于云和算法各自都有很宽很长的路可以走。 目前原生AI 结合的一个比较好的学习样例是 Kubeflow,之前春节期间读了一本《Kubeflow for Machine Learning[3]》,感觉收获还是挺多的,如Istio,CRD的应用等

    95130发布于 2021-07-06
  • 来自专栏CISG智能平台产品部

    腾讯小微AI语音助手原生之路

    背景云原生(CloudNative)是一个组合词,“”表示应用程序运行于分布式环境中,“原生”表示应用程序在设计之初就充分考虑到了平台的弹性,就是为设计的。 腾讯也制定了自己的原生成熟度模型:图片图片腾讯的成熟度模型,主要从研发效能和资源效能2个方面引导内部原生建设。 小微团队结合小微现状以及公司原生成熟度标准1.0和2.0的导向,横向对比业界做法,重点在原生5大核心能力上进行了建设:服务化、可观测性、韧性、弹性、自动化能力,并逐步提升可调度能力。 图片图片特色与沉淀AI大数据模型服务启动速度慢是个行业通性问题。通过上述的建设,小微的AI大数据模型服务,扩容速度从10分钟左右,优化到5分钟以内,命中缓存时可以达到1分钟左右。 当然随着对原生的实践越来越多,我们也发现小微在原生的资源利用率、可调度性等方面建设和实践相对比较薄弱。接下来我们也将继续原生的实践,不断完善自身的薄弱点,更好地服务客户和合作伙伴。

    17.1K124编辑于 2022-11-09
  • 来自专栏腾讯云原生团队

    原生 AI 前沿:Kubeflow Training Operator 统一AI 训练

    张望,腾讯高级工程师,从事上 GPU 和分布式训练加速,负责腾讯 TKE 在 AI 场景的研发和支持工作。 不仅各大公有厂商都已经基本收录或集成了 Kubeflow 的训练 operators,社区上其他与深度学习训练相关的项目(如用以自动机器学习的 Katib,又如提供自动化编排功能的 Flyte)都对接了 我们希望未来利用 Kubeflow Training Operator 来构建 AI 平台的开发者可以方便地将其与其他模块对接,实现诸如任务队列、流水线、超参数搜索等功能。 资源利用率提高67%,腾讯实时风控平台原生容器化之路 Getting Started and Beyond|原生应用负载均衡选型指南 被集群节点负载不均所困扰?

    2.1K60发布于 2021-09-09
  • 来自专栏CNCF

    原生AI平台的加速与实践

    : ---- 前言:12月19日,在 Cloud Native Days China -原生AI大数据专场,腾讯技术事业群高级工程师薛磊发表了《原生AI平台的加速与实践》主题演讲。 ? 演讲主要包含五部分的内容: Kubernetes介绍 AI离线计算 AI场景下Kubernetes的不足 Kubeflow 星辰算力平台的架构 Kubernetes介绍 K8s是生产级的容器编排系统,它也是原生应用最佳的一个平台 因此,对于我们而言在AI平台上面也可以基于K8s的架构进行额外的开发。 AI离线计算 ? 典型的AI场景 ? ? 分布式AI计算 为什么要分布式AI计算? 提供TensorFlow原生PS-worker架构 的多机训练 推荐将PS和worker一起启动 通过service做服务发现 在社区中最早期的Operator 星辰算力平台的架构 它为私有的一个离线计算平台

    2.5K31发布于 2021-01-27
  • 来自专栏云技术+云运维

    原生原生应用概念解析

    什么是原生原生(Cloud Native)是由 Pivotal 的Matt Stine在2013年提出的一个概念,是他多年的架构和咨询总结出来的一个思想的集合。 原生应用 原生应用是天然适合特点的应用,原生应用系统需要与操作系统等基础设施分离,不应该依赖Linux或Windows等底层平台,或依赖某个平台。 CNCF给出了原生应用的三大特征: 容器化封装:以容器为基础,提高整体开发水平,形成代码和组件重用,简化原生应用程序的维护。 原生应用和本地部署应用程序之间的差异 原生应用程序开发采用与传统企业应用程序完全不同的体系结构。 可更新 原生应用程序始终是最新的,原生应用始终可用。 本地部署应用程序需要更新,并且通常由供应商按订阅提供,并且在安装更新时需要停机。 弹性 原生应用程序通过在峰值期间增加的资源来利用的弹性。

    3.6K34发布于 2019-10-29
  • 来自专栏精益码农

    原生AI算力平台 阶段性解读

    给近半年做的原生AI算力平台做一个回顾, 思考和实践参考了溪大会上的分享:为大模型工程提效,基于阿里 ACK 的原生 AI 工程化实践[1],全文很长,我这边做一个牵引和解读。 1. 面对LLM和GAI这类对算力和数据都有极高需求的新负载,计算也迎来了“智算”时代, 一方面以服务化资源池的概念提供万卡算力、PB级存储、和单机TB级高速网络互联,另一方面以原生标准化交付算力给大模型的生产者和使用者 大模型带来的挑战 AI有工程化的要求,同时也对基础设施提出挑战。 3. 原生AI的能力 最近在做的“AI大模型基础设施”, 宏观目标也是帮助AI工程从小作坊向端到端原生解决方案演进。 原生AI的架构实践 我们的原生AI算力平台, 有参考上面的实践,针对企业业务的现状和侧重, 技术调研上做了调整和裁剪。 糟糕,我实现的k8s informer好像是依托答辩 参考资料 [1] 为大模型工程提效,基于阿里 ACK 的原生 AI 工程化实践: https://developer.aliyun.com/article

    15810编辑于 2026-01-16
  • 来自专栏深度学习与python

    vivo AI 计算平台原生自动化实践

    本文主要分享了 VContainer 原生相关基础组件的自动化实践,从半工具化人工维护,到白屏化流程的实践和落地。 和其他原生项目一样,rke 也使用 golang 开发,是一个命令行工具。 白屏化阶段实现变更原生组件平台化,制定标准流程,降低变更门槛和风险。 后续计划 自动化初期实现了原生基础组件日常运维管理工作的白屏化功能,提高了工作效率,降低操作风险,一定程度上提高了基础组件的稳定性。 在今后自动化建设过程中,我们希望丰富自动化的功能,探索半智能化方向,重点关注原生基础组件稳定性和可用性方面的自动化建设。

    1.5K20发布于 2021-06-08
  • 来自专栏绿盟科技研究通讯

    原生安全》之原生安全

    原生安全发展可谓方兴未艾,原生环境中的各类安全风险日益频发,上的对抗也成为现实,越来越多的企业开始探讨如何设计、规划原生环境中的安全架构,部署相应的安全能力。 原生安全的现在和未来如何,笔者不妨从一个较高的视角进行探讨。 与计算安全相似,原生安全也包含两层含义:“面向原生环境的安全”和“具有原生特征的安全”。 笔者看来,前者是必经之路,可以说是阶段1,而随着面向原生的安全越来越成熟,将会迸发出极大的驱动力来构建具有原生特征的安全能力,进入阶段2,当然这还远不够,原生安全才是原生安全的终篇。 1 面向原生环境的安全 总体而言,原生安全的第一阶段是安全赋能于原生体系,即构建原生的安全能力。 面向原生环境的安全,其目标是防护原生环境中的基础设施、编排系统和微服务等系统的安全。 既然未来云安全等价安全,而计算的下半场是原生,那不妨也做个推论,原生的未来也会等价于原生安全。

    2.1K40发布于 2021-11-10
  • 来自专栏Java技术

    原生技术

    云端存储和微服务架构以及现在的原生技术都是在实现编程范式的设计理念。原生是设计师的技术定义规范。原生技术的具体实现方式在不同的区域会有不同的实现产品落地。 桌面在现在的大众社会并不存在。互联网社会网络交通十分发达,本地存储可以节省很多的人力物力资源空间。云端存储的数据需要有大型的服务器集群提供服务。无服务架构是一种服务端节点部署机器的集群搭建。 原生技术是现在很多的不同互联网公司的产品发布定义。Springboot的启动框架构建需要有原生开发团队的维护支持。AI的技术实现在海量数据存储和实现服务方面为当地的社区提供不同的数据技术团队。 构建项目的服务需要在项目组本地部署实现。原生技术在远程,在本地部署推广。领域驱动模型的设计构建方式是产品设计是的一种原生的实现方案。 本地部署的方式有利于系统的原生落地。不同的区域的服务和数据都会根据用户的使用反馈进行变更和迁移。数据服务的开发需要有大型的机器集群和数据节点的服务基础设施的搭建。

    44110编辑于 2024-09-07
  • 来自专栏三木的博客

    原生概要

    什么是原生 设计目的 原生软件的设计目的是预测故障,并且即使当它所依赖的基础设施出现故障,或者发生其他变化时,它也依然能够保持稳定运行。 定义 原生软件是高度分布式的,必须在一个不断变化的环境中运行,而且自身也在不断地发生变化 不适合使用原生架构的情形 不需要计算的软件,例如嵌入到家电中的软件。 原生提供的是最终一致性,但如果需要数据强一致性的话,原生架构就不适用了。 用原生架构重写软件时并没有提供新的价值 原生的价值 原生的绝妙之处在于它最终是由许多不同组件组成的,即使其中一些组件的模式不是最新的,原生组件也可以与他们进行交互。 原生平台 原生平台的发展 AWS:软件架构、开发和运维并没有太多的改变。

    49610编辑于 2024-10-09
  • 来自专栏友弟技术工作室

    原生概念

    原生概念12个因素 简介 如今,软件通常会作为一种服务来交付,它们被称为网络应用程序,或软件即服务(SaaS)。 适合部署在现代的计算平台,从而在服务器和系统管理方面节省资源。 将开发环境和生产环境的差异降至最低,并使用持续交付实施敏捷开发。 可以在工具、架构和开发流程不发生明显变化的前提下实现扩展。 原生应用的12要素,原文 The Twelve Factors I. 相反的,应该借助操作系统的进程管理器(例如 Upstart ,分布式的进程管理平台,或是类似 Foreman 的工具),来管理 输出流 ,响应崩溃的进程,以及处理用户触发的重启和关闭超级进程的请求。

    4.9K51发布于 2018-07-04
  • 来自专栏顾宇的研习笔记

    原生 DevOps

    而率先完成 DevOps 转型 的企业在进行 原生 应用改造和技术革新过程中也面临着同样的问题。 这就对 DevOps 在原生环境下的应用提出了新的课题和实践诉求,我们如何在原生的环境下实践 DevOps 以达到更有生产力的表现? 本文将结合最新一期的技术雷达,试图勾画出 DevOps 在原生的环境下的特性、未来的趋势以及相应的实践。 背景:不断蔓延的环境复杂性 本期技术雷达主题之一是:不断蔓延的环境复杂性。 但在原生的场景下,我们无需去构造工具链,因为工具链本身是为最佳实践服务的。我们只需要根据自己的实践选择对应的服务就可以了,不光包含平台自身的,也包括外部的。 在原生的场景下,全球的竞争加速了技术实践的淘汰,有生命力的工具和服务在市场上生存了下来。并和它们所服务的客户一起创造了更加有生命力的技术实践。

    1.6K10发布于 2018-08-17
  • 来自专栏Bypass

    原生安全攻防》-- 原生攻防矩阵

    在本节课程中,我们将开始学习如何从攻击者的角度思考,一起探讨常见的容器和K8s攻击手法,包含以下两个主要内容: 原生环境的攻击路径: 了解原生环境的整体攻击流程。 原生攻防矩阵: 原生环境攻击路径的全景视图,清晰每一步采取的攻击技术。 目前,多个厂商和安全厂商都已经梳理了多个针对容器安全的威胁矩阵,我们可以参考这些成熟的模型,结合个人对原生安全的理解,构建自己的攻防矩阵。 针对原生环境的攻击技术,与传统的基于Windows和Linux的通用攻击技术有很大的不同,在这里,我们梳理了一个针对容器和K8s常见攻击技术的原生攻防矩阵。 视频版:《原生安全攻防》--原生攻防矩阵

    67011编辑于 2024-04-16
  • 来自专栏云计算与大数据

    原生|KubeVela

    在互联网与计算技术发展的日新月异过去五年中,应用研发人员对效率与敏捷的极致追求,终于把业界带进了一个崭新的原生时代。 而原生理念的迅速普及,火了 Docker,红了 Kubernetes ,也间接让一个编程语言成为了如今服务端的“当家花旦”。不消多讲,这位在原生领域里正红的发紫的“角儿”,就是 Golang。 基于这样一个引擎,平台团队可以快速、高效地以 Kubernetes 原生的方式在 KubeVela 中植入任何来自原生社区的应用管理能力,从而基于 KubeVela 打造出自己需要的原生平台,比如: 原生数据库 PaaS、原生 AI 平台、甚至 Serverless 服务。 ”为核心的原生应用层项目。

    1.5K30发布于 2020-12-14
  • 来自专栏云计算与大数据

    原生回顾

    原生历史 etcd性能优化 调度 Operator

    44520发布于 2021-07-30
  • 2024信创AI智能运维原生课程

    原生AI的重要承载。”青云科技原生产品负责人于爽举例说,“英伟达的整个技术栈就是围绕着Kubernetes原生架构构建的,并没有创造出一个新的软件平台将硬件能力变现。 四、AI原生的结合优势随着科技的不断发展,AI原生的结合已经成为了一种趋势。这种结合具有多方面的优势,下面我们将详细介绍。AI原生的结合能够满足大规模计算需求。 AI原生的结合能够实现AI模型的快速部署和更新。原生架构中的容器化技术使得AI模型可以快速打包和部署,同时可以实现模型的快速更新和升级。这大大缩短了AI模型的部署和更新周期,提高了开发效率。 AI原生的结合还具有高可用性和安全性。原生平台具有高可用性和弹性伸缩的能力,可以保证AI模型的高可用性。同时,原生平台还提供了安全机制,可以保护AI模型和数据的安全性。 同时,原生架构为智能制造提供了高效、稳定的基础设施,确保各项业务顺利进行。此外,AI原生的结合还有助于企业实现供应链优化,降低成本。智慧城市智慧城市是AI原生结合的另一个重要应用场景。

    31610编辑于 2025-02-11
  • 来自专栏SRE运维实践

    原生SRE

    风言风语 1 原生是什么? 最近原生大行其道,各种风吹草动,那么原生到底是什么,除了原生剩下的是不是都野生的? 原生本名cloud native,表示这个程序就是为定制化开发的,原生的发展经历了几个阶段:第一个阶段是在机房里面,包括所有的iaas,paas,saas,那是传统运维;第二个阶段是托管时代,这里面会把 2 为什么需要原生SRE? 所有的这些,也就促成了原生SRE的诞生,原生SRE属于平台级运维,属于数据化运维,如果这些SRE有脑子的话,那么可以摇身一变,变成智能化运维。 ? 高端的产品必然有高端的食材,这就是原生SRE的舞台。

    1.6K30发布于 2020-12-22
  • 来自专栏yeedomliu

    原生模式

    译者序 原生是一种行为方式和设计理念,究其本质,凡是能够提高云上资源利用率和应用交付效率的行为或方式都是原生原生应用追求的是快速构建高容错性、弹性的分布式应用,追求极致的研发效率和友好的上线与运维体验 ServiceMesher社区 ---- 第1部分 原生上下文 1 什么是“原生” ChaosKong演习 Netflix如何能够恢复得如此之快? 区域对应地理地区,而可用区在单个区域内提供进一步的冗余和隔离 原生软件的设计目的是预测故障,并且即使当它所依赖的基础设施出现故障,或者发生其他变化时,它也依然能够保持稳定运行 让面向失败的设计成为它们构建 这些需求,以及对一个运行这些软件的新平台的需求,直接导致了一种新的软件架构风格的出现,即原生软件 图1.4用户对软件的需求推动原生架构和相应管理方式的发展 图1.5从架构和管理方面我们理解了原生软件的核心特征 这是原生软件的口头禅,我希望你在阅读本书的过程中能够时刻谨记 面向失败设计最基本的模式之一,是实现回退的方法,即当主逻辑失败时执行的代码。

    98850发布于 2021-11-12
  • 来自专栏gopher云原生

    原生思想

    本人现在工作中负责原生服务管理平台的研发(主要管理各类原生基础设施,平台服务和第三方托管应用),但即便如此,常被问起原生是什么时,我也很难简洁的向人表述清楚,导致自我也经常问一遍,原生究竟是什么 [1] 一文中提到原生是一种构建和运行应用程序的方法,原生开发融合了 DevOps、持续交付、微服务和容器的概念在里面。 CNCF (原生计算基金会)在 cncf/toc[2] 给出了原生 V1.0 的定义: 原生技术有利于各组织在公有、私有云和混合等新型动态环境中,构建和运行可弹性扩展的应用。 结合可靠的自动化手段,原生技术使工程师能够轻松地对系统作出频繁和可预测的重大变更。 原生计算基金会(CNCF)致力于培育和维护一个厂商中立的开源生态系统,来推广原生技术。 只要符合这类思想的应用就可以称为原生应用。 原生技术体系 原生的一整套技术体系其实是紧密联系的,这得从软件架构的逐步演进说起。

    1.5K71发布于 2021-10-18
  • 来自专栏aoho求索

    原生概述

    什么是原生 1.1 CNCF组织 在讲原生之前,我们先了解一下CNCF,即原生计算基金会,2015年由谷歌牵头成立,基金会成员目前已有一百多企业与机构,包括亚马逊、微软。思科等巨头。 1.2 原生 CNCF给出了原生应用的三大特征: 容器化封装:以容器为基础,提高整体开发水平,形成代码和组件重用,简化原生应用程序的维护。 原生包含了一组应用的模式,用于帮助企业快速,持续,可靠,规模化地交付业务软件。原生由微服务架构,DevOps 和以容器为代表的敏捷基础架构组成。 本文主要是对原生的概述。原生应用的三大特征:容器化封装、动态管理、面向微服务。首先由CNCF组织介绍了原生的概念,然后分别对这三个特征进行详述。 原生架构是当下很火的讨论话题,是不同思想的集合,集目前各种热门技术之大成。 参考 原生应用之路 架构演化:原生时代正式开启 cncf/landscape

    4.8K93发布于 2018-04-03
领券