- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI研习社
手把手教你用 Flask，Docker 和 Kubernetes 部署Python机器学习模型（附代码）
为 Seldon 构建 ML 组件 要使用 Seldon 部署 ML 组件，我们需要创建 Seldon 兼容的 Docker 映像。 core Python 包 容器首先使用 seldon-core 包提供的 Seldon core microservice 入口点运行 Seldon 服务，它和上面的点都可以看到 DockerFile seldon-core 然后我们使用 Helm 部署 Seldon Core，并在 https://storage.googleapis.com/Seldon-charts 上部署 Seldon Helm ，我们应该看到 seldon core 已经部署好了，并且正在等待 seldon ML 组件的部署。 按照同样的模式移除 Seldon 核心操作器和 Ambassador： helm delete seldon-core --purge && kubectl delete namespace seldon-core
6.9K20发布于 2019-12-25 - 来自专栏用户6296428的专栏
有赞算法平台之模型部署演进
seldon 通过将你的模型部署为K8S上的微服务，来提供 HTTP/GRPC 接口给业务调用。 我们来看下 seldon 的核心模块， 如下图所示： seldon 的核心模块是它的 Seldon Core Controller, 即 operator 模块， 该模块用来管理 Seldon Deployment seldon 通过 CRD 向 K8S 注册自定义资源，Seldon Core Controller 负责处理该资源的 CRUD， 我们通过创建/删除/修改 Seldon Deployment 来达到创建 通过 kubectl get sdep 可以看到的 Seldon Deployment minist，该 Seldon Deployment 资源会管理对应的所需要的 Deployment、 Service 3.2 设计方案 基于公司内部 K8S 环境，在商量了如何部署seldon的后，我们最后决定的架构如图所示： 在引入 seldon 管理模型服务部署的同时，进行了以下的改造： 保留 ABox master
1.5K33编辑于 2022-02-09 - 来自专栏ATYUN订阅号
【平台】Seldon.io发布新开源平台，用于Kubernetes上的机器学习
机器学习部署有很多挑战，但是新的Seldon Core打算帮助它的新的开源平台，用于在Kubernetes上部署机器学习模型。 Seldon.io宣布了一个新的开源平台—Seldon Core，该平台可以让数据科学团队在规模上运行和管理模型。 安装 官方版本：https://storage.googleapis.com/seldon-charts 安装seldon-core: helm install seldon-core --name seldon-core : helm install seldon-core --name seldon-core \ --set grafana_prom_admin_password=password \ --set /github.com/SeldonIO/seldon-core
2K60发布于 2018-03-02 - 来自专栏数据科学和人工智能
原创翻译 | 机器学习模型服务工具对比：KServe,Seldon Core和BentoML
Seldon Core Seldon Core是由Seldon Technologies Ltd开发的开源工具，是大型（付费）Seldon部署解决方案的构建块。 Seldon Core Seldon Core可以方便地为Scikit Learn、XGBoost和TensorFlow模型提供服务。 Seldon Core 与KServe类似，Seldon Core不会影响现有的DevOps/软件工程工作流。从Kubernetes清单执行部署。 Seldon Core Seldon只要求Istio或Ambassador可用才能操作。监测也通过 Prometheus 完成。与KServe类似，可以使用任何Kubernetes部署解决方案。 Seldon Core 由于Seldon Core是Kubernetes原生的，因此可以使用标准的水平Pod自动缩放器，其中包含CPU和内存利用率等指标。
2.7K22编辑于 2022-06-27 - 来自专栏CNCF
基于 KubeVela 的机器学习实践
而模型服务插件基于 Seldon Core，可以便捷地使用模型启动模型服务，同时也支持流量分发，A/B 测试等高级功能。 模型服务会在模型训练完成后启动 dependsOn: - demo-training properties: # 启动模型服务使用的协议，可以不填，默认使用 seldon /default/demo-serving | | | Service/vela-system/ambassador | https://47.251.36.228/seldon /default/color-ab-serving | | | Service/vela-system/ambassador | https://47.251.36.228/seldon /default/color-ab-serving | | | Service/vela-system/ambassador | http://47.251.36.228/seldon
72850编辑于 2022-04-19 - 来自专栏目标检测和深度学习
谷歌再为机器学习贡献利器 并支持周边机器学习工具
另外一款工具则是开源机器学习部署平台Seldon Core，让机器学习模型可以部署于Kubernetes上运行。 而Seldon Core的目标，要让数据科学家可以用任何工具包、程序语言创建机器学习模型。 此外，Seldon Core也让机器学习模型可支持REST、gRPC，让用户可以更简单地集成相关企业应用。 不仅如此，Kubeflow 0.1版还有许多有意思的新功能、新特色。
1.5K20发布于 2018-07-20 - 来自专栏Loki
在 KubeGems 上快速体验 HuggingFace 模型
Seldon 项目 出于快速部署任意模型的目的，我们需要一套方案来快速集成主流的模型开发框架，同时还能为模型部署提供一些额外的监控数据，经过一些筛选，我们采用的是SeldonIO[2]这个项目。 seldon-core 是一个用于打包、部署、监控和管理数千个生产机器学习模型的 MLOps 框架，它主要支持两个类型的推理组件 Triton[3]和 MLServer[4]。 一点使用心得，seldon-core 的 operator 处理 SeldonDeployment 的时候，是通过硬编码编排内容的方式来提交Resource到 Kubernetes API Server V2 推理协议的目的是提供一种标准化协议来与不同的推理服务器（例如 MLServer、Triton 等）和编排框架（例如 Seldon Core、KServe 等）进行通信。 参考资料 [1] modelx: https://github.com/kubegems/modelx [2] seldon: https://github.com/SeldonIO/seldon-core
79210编辑于 2023-08-28 - 来自专栏云爬虫技术研究笔记
kubernetesv1.17集群生态搭建笔记
add incubator https://aliacs-app-catalog.oss-cn-hangzhou.aliyuncs.com/charts-incubator/ helm repo add seldon https://storage.googleapis.com/seldon-charts helm repo update 安装一个最简单的服务 helm install seldon-core seldon /seldon-core-operator 可以看到Helm已经和Kubernetes集群交互从而生成一个seldon-core的服务了 [root@master1 linux-amd64]# helm install seldon-core seldon/seldon-core-operator NAME: seldon-core LAST DEPLOYED: Tue Feb 4 22:43:58 default 1 2020-02-04 22:43:58.232906547 +0800 CST deployed seldon-core-operator-1.0.1 3
55520发布于 2020-02-19 - 来自专栏宗恩
字节跳动开源云原生机器学习平台 Klever
klever-web：前端组件 Istio：开源服务网格组件，模型服务通过 Istio 对外暴露模型服务地址，实现模型服务按内容分流和按比例分流 Harbor：模型底层存储组件，对模型配置和模型文件进行分层存储 Seldon Core：开源模型服务管理的 Seldon Deployment CRD 的 controller，通过 SeldonDeployment CR 实现模型服务的管理 CI 标准的模型仓库管理，用户可以像使用
1.6K10编辑于 2023-05-08 - 来自专栏深度学习与python
伴鱼机器学习预测服务：设计篇
将模型部署至 ModelServer（选用 Seldon Core 作为解决方案）。 用特征系统开发特征。 用 AB 平台创建实验。 doordash-prediction-service 机器学习特征系统在伴鱼的演进：https://tech.ipalfish.com/blog/2021/07/30/palfish-feature-system Seldon Core：https://github.com/SeldonIO/seldon-core 作者：陈易生 原文：伴鱼机器学习预测服务：设计篇 https://tech.ipalfish.com/blog
77410发布于 2021-09-22 - 来自专栏ATYUN订阅号
IBM推出AI OpenScale和Multi-cloud Manager，旨在简化AI和云部署
将于今年晚些时候推出，面向IBM Cloud和Cloud Private客户，通过在线仪表板运行，支持在众多开源框架上开发的AI模型，包括谷歌的TensorFlow，微软的AzureML，SparkML，Keras，Seldon 此外，它还有助于在IBM的Watson，Seldon和其他第三方平台等环境中部署这些模型。 这只是冰山一角。
86930发布于 2018-10-25 - 来自专栏AI科技大本营的专栏
周末漫谈｜XGBoost与深度学习到底孰优孰劣？都说XGBoost好用，为什么名气总不如深度学习？
xgboost/tree/master/demo#usecases） 使用XGBoost的Kaggle获奖方案可在这里找到 https://www.kaggle.com/kernels 使用XGBoost的Seldon 预测服务Iris http://docs.seldon.io/iris-demo.html XGBoost的分布式版本被用于阿里云大数据计算服务ODPS https://yq.aliyun.com/articles
6K90发布于 2018-04-27 - 来自专栏容器计算
Kubeflow v0.6.0 部署采坑记录
filename="kustomize/kustomize.go:430" INFO[0021] creating ServiceAccount/seldon-manager filename ="kustomize/kustomize.go:430" INFO[0021] creating ClusterRole/seldon-operator-manager-role filename= "kustomize/kustomize.go:430" INFO[0021] creating ClusterRoleBinding/seldon-operator-manager-rolebinding filename="kustomize/kustomize.go:430" INFO[0021] creating Secret/seldon-operator-webhook-server-secret filename="kustomize/kustomize.go:430" INFO[0021] creating Application/seldon-core-operator filename
1.1K10发布于 2020-08-06 - 来自专栏企鹅号快讯
未来技术变革带来的教育危机，人工智能是否是最佳解决方案？
这是英国教育专家Anthony Seldon在9月份的英国科技节上作出的大胆预测。 图英国教育专家Anthony Seldon Anthony Seldon可能是第一个为教育自动化设定这样一个具体的截止日期的人，但他并不是第一个注意到科技具有取代人类工作的潜力的人。
1K110发布于 2018-03-02 - 来自专栏Rainbond开源「容器云平台」
好雨案例 | 某大型金融数据公司利用Rainbond解决应用交付难题
，并直接削弱了核心业务的开发能力，急需资源管理平台进行统一管理 快速增长的业务需求导致现有开发节奏过于紧张，落地DevOps工作流进展不理想，急需生产就绪的开发运维平台来降本提效 需要实现Strom、Seldon
78130发布于 2018-05-31 - 来自专栏Rainbond开源「容器云平台」
案例|某大型金融数据公司利用Rainbond实现应用交付的提质增效
，并直接削弱了核心业务的开发能力，急需资源管理平台进行统一管理 快速增长的业务需求导致现有开发节奏过于紧张，落地DevOps工作流进展不理想，急需生产就绪的开发运维平台来降本提效 需要实现Strom、Seldon
1K100发布于 2018-05-17 - 来自专栏AI技术应用
AI智能体应用层的开发框架
7.2Seldon Core特点：用于部署和管理机器学习模型的 Kubernetes 原生框架。支持 A/B 测试、模型监控和反馈循环。适用场景：企业级 AI 模型部署。
1.4K10编辑于 2025-02-19 - 来自专栏云云众生s
边缘 AI：如何利用 Kubernetes 实现魔力
AI 引擎: 诸如 Seldon、BentoML 和 Kserve 等引擎需要不断维护、更新和调优以获得最佳性能。跨许多位置更新这些会变得乏味并容易出错。 Seldon、BentoML 和 Kserve 等 AI 引擎运行这些 AI 模型。可以这样思考：AI 模型是工作负载，AI 引擎是执行这些模型的运行时。
34810编辑于 2024-03-28 - 来自专栏FreeBuf
俄罗斯400多家工业企业遭遇网络钓鱼攻击
在此类案例中，除恶意软件组件和远程管理应用程序之外，Seldon 1.7（用于搜索招标信息的合法软件）也被安装在了受感染的系统中。 为了不让用户怀疑他们为什么没有获取到在钓鱼电子邮件中提到的采购招标信息，恶意程序所安装的这个Seldon 1.7软件实质上是一个恶意版本。 合法软件Seldon 1.7的窗口 在某些案例中，受害者看到的是一个部分损坏的图像。 恶意软件安装文件的内容 从上面屏幕截图中的命令可以看出，在复制文件后，脚本会删除自身文件，并在系统中启动合法软件——Seldon v.1.7和RMS，使攻击者能够在用户不知情的情况下控制受感染的系统
1.1K40发布于 2018-08-21 - 来自专栏AI研习社
2020 年最具潜力 44 个顶级开源项目，涵盖 11 类 AI 学习框架、平台（值得收藏）
GitHub 地址： https://github.com/onnx/onnx 四十四、Seldon star 1.4k fork 296 开源机器学习部署平台 Seldon Core，让机器学习模型可以部署于 Seldon Core 的目标，要让研究人员可以用任何工具包、程序语言建立机器学习模型。 此外，Seldon Core 也让机器学习模型可支援 REST、gRPC，让使用者可以更简单地整合相关企业应用。 GitHub 地址： https://github.com/SeldonIO/seldon-core
1.5K20发布于 2020-02-21
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号