来源:2025腾讯云城市峰会·上海峰会,分享人:刘翃(腾讯云TI平台资深产品经理) 一、产品定位与核心亮点 腾讯云TI平台TI-ONE 是一个面向实战的大模型精调部署平台,其核心定位是为具备一定算法知识和开发能力的 二、产品应用场景 TI-ONE 主要服务于AI工程师及企业技术团队,解决大模型落地过程中的不同阶段痛点: 阶段 目标受众 核心痛点 TI平台价值 启动阶段 技术决策者/开发者 不知如何基于R1蒸馏模型; 功能框架 TI-ONE 构建了“实用工具链 + 强大内核”的技术架构,支撑上层应用(如知识引擎、数智人、智能客服等)。 前端应用层:支持知识引擎、数智人、智能客服、DeepSeek联网助手等。
但是如果想要部署一个DeepSeek的云服务,随时随地可以使用DeepSeek的话,就可以考虑使用腾讯云的HAI或者TI平台。 腾讯云TI平台是为 AI 工程师打造的一站式机器学习平台,可以快速帮助用户实现模型训练、模型评估以及模型部署等工作。 DeepSeek作为大模型的后起之秀,腾讯云TI平台同样提供了一键式部署DeepSeek的能力。 腾讯云TI平台首次登录腾讯云TI平台时,需要创建服务角色,跟着流程指引完成授权之后,进入到TI平台的大模型广场。 这样,我们就完成了DeepSeek在腾讯云TI平台的部署。
一、 产品定位与核心亮点 本材料介绍了一套由腾讯提供的企业级AI解决方案,整合了智能体开发平台与TI训练平台。 企业级精细化运营(OP)系统:提供平台级、应用级的TPM/QPM(吞吐量/请求数)配置,支持企业自定义模型白名单管理。 全链路训推一体:TI平台支持潮汐调度,闲时算力可用于离线训练,实现资源最大化。 权限管理:支持平台级、应用级的用户角色关系与权限配置,包含用户管理、应用设置及应用端用户管理。 2. 硬核指标 语音识别(ASR): 在远场/噪音等复杂场景下,字错率下降20%+。 首Token延时 <2s、吐字速率 >=20Tokens/s(TI平台加速能力)。 模型训练(TI平台): 基于Ray分布式计算框架与自驾训练框架。 TI平台推理加速效果及QPM指标在典型场景中处于业界领先地位。
一、 产品定位与核心亮点 技术定义:腾讯云TI平台(TI-ONE)是一款面向实战的大模型开发与部署平台。 平台内聚了自研Angel推理加速框架,并纳管了X86与ARM异构算力集群,专为大模型(特别是DeepSeek全系等主流开源大模型)的精调与推理提供底层工程化支持。 商业差异化卖点:针对开源模型在业务落地中普遍存在的“过度推理、指令遵循弱、推理效率低”等问题,平台提供从全参/LoRA SFT微调到模型蒸馏的完整企业级工具链。 平台提供一键部署全系模型及开箱即用的蒸馏方案。 探索阶段:解决验证链路长耗时久、机型差异大导致选型难的痛点。通过统一资源纳管和工具链,支持灵活腾挪算力,快速验证模型并发与效果。 荣誉背书 平台内置加速能力达到 业内第一梯队的大模型加速效果。 (注:文档内容由腾讯云TI平台资深产品经理 刘翃 权威发布) 四、 典型案例 1.
依托腾讯觅影开放实验平台、腾讯云AI 、腾讯优图实验室、腾讯天衍实验室、腾讯AI Lab、腾讯云TI平台的技术支持,参赛者可以根据大赛提供的多模态、多中心医疗数据,在腾讯觅影开放实验平台上即可完成模型训练和验证 “觅影”医学人工智能算法大赛携手腾讯云TI平台中的TI-ONE平台(以下简称TI-ONE)、云对象存储COS,为选手提供百万级算力存储资源助力选手更好地完成比赛。 参赛地址: https://contest.taop.qq.com/ 为了帮助选手们更好地了解和使用TI-ONE,使TI-ONE成为选手们在赛场上披荆斩棘的“利器”,TI-ONE 特联合腾讯云+社区,准备了 建议选手们在开始比赛前,完整学习使用教程,方便后续快速上手使用平台。 在使用平台的过程中如遇任何问题,欢迎大家反馈,我们将帮助大家一起解决。
TI平台与DeepSeek的简介1、TI平台TI平台是腾讯云推出的AI开发和应用平台,提供丰富的AI模型、工具和服务,涵盖机器学习、深度学习、自然语言处理、计算机视觉等多个领域。 部署模型服务1、注册并登录TI平台登录腾讯云 TI 平台 https://console.cloud.tencent.com/tione/v2/aimarket? 算力规格:12C44GB A10*1,推理资源配置建议详见大模型推理所需资源指南。 使用TI平台的优势最后再来分享一下使用腾讯云TI平台的优势,从下面几点来看:便捷易用:TI平台提供图形化界面和丰富的API接口,方便开发者快速上手。 高效稳定:TI平台提供弹性可扩展的计算资源,确保模型推理的高效稳定。安全可靠:TI平台提供完善的安全机制,保障模型和数据的安全。
依托腾讯觅影开放实验平台、腾讯云AI 、腾讯优图实验室、腾讯天衍实验室、腾讯AI Lab、腾讯云TI平台的技术支持,参赛者可以根据大赛提供的多模态、多中心医疗数据,在腾讯觅影开放实验平台上即可完成模型训练和验证 “觅影”医学人工智能算法大赛携手腾讯云TI平台中的TI-ONE平台(以下简称TI-ONE)、云对象存储COS,为选手提供百万级算力存储资源助力选手更好地完成比赛。 参赛地址 https://contest.taop.qq.com/ 为了帮助选手们更好地了解和使用TI-ONE,使TI-ONE成为选手们在赛场上披荆斩棘的“利器”,TI-ONE 特联合腾讯云+社区,准备了 Notebook 功能相关 建议选手们在开始比赛前,完整学习使用教程,方便后续快速上手使用平台。 在使用平台的过程中如遇任何问题,欢迎大家反馈,我们将帮助大家一起解决。
近日,腾讯云TI平台入选雷锋网2022「产业科技 · 最具商用价值榜」,荣获最佳AI开发平台。 腾讯云TI平台作为一站式AI开发服务平台,能够运用先进AI技术帮助各行各业实现降本增效。 以TI平台公有云版为例,它具备五方面的技术优势,而这也是腾讯云TI平台荣获「最佳AI开发平台」奖的重要原因: 1 TI-ACC是TI平台的重要功能,它支持大规模训练和推理加速,其性能强大。 3 TI平台公有云版支持预付费和后付费两种计费模式,根据业务规模随时调解资源规模,计费灵活,满足用户弹性扩松的需求。 4 TI平台提供丰富的算法框架和预制算法模型,大大降低AI应用开发门槛。 5 TI平台提供标准化模型开发、部署以及运维工具,从而实现高效AI开发和运维管理。 未来,腾讯云TI平台还会持续打磨产品能力,共同推动行业转型升级,帮助更多企业提高AI开发效率,实现降本增效。
一、腾讯云 TI 平台:AI 开发的得力助手 腾讯云TI平台(Tencent Cloud TI Platform)是腾讯云推出的一个综合性AI开发平台,旨在为开发者和企业提供一站式的AI开发、训练和推理服务 在操作方面,腾讯云 TI 平台充分考虑了用户的使用习惯。 二、腾讯云 TI 平台部署 DeepSeek 优势 (一)便捷高效的部署流程 在腾讯云 TI 平台部署 DeepSeek 模型,操作流程极为简便。 -7B 模型选择 12C44GB A10 *1 的资源配置,确认费用后点击启动服务,即可完成部署。 算力规格:根据模型推荐,选择 12C44GB A10 *1 的算力规格。 授权并启动服务:阅读并同意《腾讯云 TI-ONE 训练平台服务协议》,点击底部的 “启动服务” 按钮,正式发起服务部署。
在11月4日召开的2021腾讯数字生态大会腾讯云智能专场上,腾讯云TI平台迎来全新升级发布,升级后的腾讯云TI平台包含三大能力平台,分别是机器学习平台TI-ONE,AI应用服务平台TI-Matrix,数据标注平台 其中,机器学习平台TI-ONE主要面向算法和模型开发者,可以为其提供从数据预处理、模型训练、自动学习、模型评估到模型发布部署的全流程支持;AI应用服务平台TI-Matrix则面向AI应用提供商,能够快速接入模型 ▲平台开发工具全面升级▲ 一个平台满足多维度开发需求 值得一提的是,此次升级中,腾讯云TI平台还以数据科学家、资深算法工程师等开发者为中心,全面升级了平台开发工具。 经过腾讯内部大量算法工程师和复杂真实业务的持续考验,目前,腾讯云TI平台已在泛政务,金融,传媒,工业,医疗等诸多行业被客户选为构建自有AI能力的唯一平台。 在腾讯内部,已经有超过100+可商用的算法通过腾讯云TI平台对外服务,不仅如此,今年基于升级后的TI平台已交付客户项目已超过30个,另外还有10多个行业合作伙伴基于新平台向客户交付AI解决方案。
在11月4日召开的2021腾讯数字生态大会腾讯云智能专场上,腾讯云TI平台迎来全新升级发布,升级后的腾讯云TI平台包含三大能力平台,分别是机器学习平台TI-ONE,AI应用服务平台TI-Matrix,数据标注平台 其中,机器学习平台TI-ONE主要面向算法和模型开发者,可以为其提供从数据预处理、模型训练、自动学习、模型评估到模型发布部署的全流程支持;AI应用服务平台TI-Matrix则面向AI应用提供商,能够快速接入模型 ▲平台开发工具全面升级▲ 一个平台满足多维度开发需求 值得一提的是,此次升级中,腾讯云TI平台还以数据科学家、资深算法工程师等开发者为中心,全面升级了平台开发工具。 经过腾讯内部大量算法工程师和复杂真实业务的持续考验,目前,腾讯云TI平台已在泛政务,金融,传媒,工业,医疗等诸多行业被客户选为构建自有AI能力的唯一平台。 在腾讯内部,已经有超过100+可商用的算法通过腾讯云TI平台对外服务,不仅如此,今年基于升级后的TI平台已交付客户项目已超过30个,另外还有10多个行业合作伙伴基于新平台向客户交付AI解决方案。
可以点击这个网址体验一下:https://cloud.tencent.com/product/ti点击立即使用之后,可以发现在大模型广场中,它已经集成好了DeepSeek系列模型,我们选择点击进入。 首先点击“新建在线服务”打开配置页面后,输入服务名称,然后我们这里选择“从TIONE平台购买”,再选择“按量计费”实际部署的时候,你可以先部署一个最小的模型1.5B来进行测试,然后选择GPU规格为A10 如果选择A10的话,一般一个小时要10元第二步,启动模型,进行在线体验。服务部署完成后,您可在"模型服务 > 在线服务"页面查看部署状态。 恰好TI平台也提供了一个接口,可以直接调用其API.我们回到在线服务板块,然后点击刚刚部署的服务。 写在最后通过腾讯云平台快速部署和体验DeepSeek大模型,不仅节省了本地部署的复杂步骤,还能灵活选择不同规模的模型进行测试和应用。
新模型在腾讯云TI平台上也第一时间上架,用户可以基于TI平台,快速部署专属DeepSeek-V3.1服务。 腾讯云智能体开发平台: https://cloud.tencent.com/product/tcadp 此外,DeepSeek新版模型在腾讯云TI平台上也第一时间上架,用户可一键部署DeepSeek-V3.1 TI平台在业内率先支持DeepSeek全系模型的企业级精调与推理全链路功能,为金融、医疗、制造、零售等多个行业提供了更高效、便捷的AI模型构建及应用方案,进一步降低企业在大模型应用中的技术门槛和研发成本 腾讯云TI平台: https://cloud.tencent.com/product/ti DeepSeek-V3.1在工具调用和智能体支持上进一步增强,思考效率也进一步提升,具体体现在: ● 混合推理架构 通过持续的技术优化和产品打磨,腾讯云DeepSeek API以及智能体开发平台、TI平台已经服务了众多客户,覆盖互联网、金融、零售、政务、出行、医疗等众多领域。
引言这篇教程聚焦于腾讯云 TI 平台部署 DeepSeek 的全流程,这是一个是为 AI 工程师打造的一站式机器学习服务平台。TI平台能提供更全面的选择,包括各种模型以及各种服务配置。 当然TI平台能做的还有很多,比如模型训练等功能。但是这篇文章针对第一次接触TI平台的用户,所以不深入去讲了。登录TI平台这是TI平台产品页,这里可以阅读一下简介。能有效的帮助你去认识这款产品。 2月3日TI平台开放了R1模型的体验,总共开放了两种体验。第一个是R1(671B)参数模型,第二个是R1(1.5B)参数。这里的671B就是说他模型训练的参数是6710亿参数,其他参数也同理。 结语这篇文章我们对TI平台有着简略的认识,我们用三分钟即可在TI平台搭建属于自己的模型和专属接口。 也希望这个平台能在你未来的开发之路上发挥重大作用,本篇文章虽然没有对TI平台做过多的介绍,但是依然是值得你去体验的。
腾讯云TI平台 腾讯云TI平台是基于腾讯AI能力与技术经验,为开发者和政企打造的全栈式开发服务平台。
而腾讯云TI平台,作为一个功能强大且易用的云服务平台,为提供了一个便捷的途径来体验和搭建这些先进的大模型。 DeepSeek的崛起,如同一颗璀璨的新星,照亮了AI领域的天空,也引发了美国科技股市的剧烈震动二、腾讯云TI平台腾讯云 TI 平台(TencentCloud TI Platform)是基于腾讯先进 AI 腾讯云 TI 平台系列产品支持公有云访问、私有化部署以及专属云部署。 2.1 使用腾讯云TI平台腾讯云TI平台全新上架DeepSeek系列模型,所以需要登录腾讯云TI平台,这是体验和搭建DeepSeek大模型的基础。 以上就是腾讯云TI平台体验DeepSeek模型,如果需要进行服务远程调用,可以在平台新建服务暴露API进行请求。
腾讯云TI平台的TI-ONE平台为赛事全程提供平台和算力保障,实现一站式、全方位的科研探索。 人工智能技术与临床医学的加速融合,正成为医疗健康领域当下高度关注的方向。 “一人战队”登顶 腾讯云TI平台成就AI科研低门槛 以往做医学AI科研,算法专家和医学专家各自有不同的“语言”,也缺乏对接平台,很多有意愿的科研人员无法便捷地参与课题研究,存在效率问题。 “觅影”医学人工智能算法大赛携手腾讯云TI平台中的TI-ONE平台、云对象存储COS,为选手提供百万级算力存储资源助力选手更好地完成比赛。 腾讯云TI平台不仅能满足构建AI平台,响应组织内各种AI功能的需求,同时还可以结合行业特点快速构建应用解决方案。 搭建起更通畅的人才交流与创新平台。
一、产品定位与核心亮点 腾讯云TI-ONE是腾讯云推出的大模型开发平台,核心定位为面向实战的企业级精调推理平台。 该平台通过提供完整的工具链和强大的技术内核,帮助企业用户高效完成大模型的精调与部署,构建高质量AI基座。 SFT、DPO/GRPO微调 成效: 结合R1思维链后,Instruct模型可在现有REACT框架下无痛升级 在复杂指令遵循任务中表现优异,综合得分达到0.699(基准模型为0.544) 总结 腾讯云TI-ONE 平台通过完整的企业级工具链和强大的技术内核,为大模型精调部署提供全流程解决方案。 在实际应用中,该平台在AI搜索、角色扮演、知识问答、交互式Agent等多个场景均展现出显著的效果提升,关键指标提升5-6%,为企业构建高质量AI基座提供了可靠的技术支撑。
同时,腾讯云旗下智能体开发平台(原大模型知识引擎)也接入了新版模型,通过平台内置的RAG、工作流和智能体开发的能力,用户可以快速搭建专属智能体应用。 用户可以登陆腾讯云官网调用新模型的接口;也可以基于腾讯云智能体开发平台内置的R1-0528新模型快速搭建智能体。 DeepSeek-R1-0528新模型在多个层面进一步优化。 此外,DeepSeek新版模型在腾讯云TI平台上也第一时间上架,并在业内率先实现企业级精调与推理全链路功能,为金融、医疗、制造、零售等多个行业提供了更高效、便捷的AI模型构建及应用方案,进一步降低企业在大模型应用中的技术门槛和研发成本 同时,腾讯云智能体开发平台也快速接入了DeepSeek的系列模型,帮助用户快速搭建智能体和AI应用。
支持的模型列表 腾讯云 TI 平台已上架 DeepSeek 全系模型,详见下表。 前置准备工作 模型:TI 平台已将 DeepSeek 模型内置在大模型广场中,您可直接选择模型并一键部署。 资源:1.5B 的 DeepSeek 模型对算力需求较小,单卡A10即可支持其推理服务。 该模式下需要您提前购买好 CVM 机器并添加至 TI 平台资源组,详细操作步骤请参考资源组管理。 如果您选择从“TIONE 平台购买”选项时无法选到您所需要的 GPU 机型,说明在 TI 平台中暂无该机型的库存,此时您须选择“从 CVM 机器中选择”,然后自行购买 CVM 机器并添加至 TI 平台资源组 算力规格:12C44GB A10*1,推理资源配置建议详见大模型推理所需资源指南。 5. 授权并同意《腾讯云 TI-ONE 训练平台服务协议》,单击底部启动服务,正式发起服务部署。