- 综合排序
- 最热优先
- 最新优先
生成式AI模型平台的技术架构与应用
某中心Bedrock平台提供多模型生成式AI服务AWS服务在稳健基础上推动机器学习创新企业利用高端机器学习模型转型的过程中面临新挑战：团队需要协助撰写文档、总结复杂内容、构建对话式AI代理或生成定制化视觉效果 该平台集成多家领先机构的模型，包括：Stability AI的文生图模型（含Stable Diffusion）AI21 Labs的多语言大语言模型Anthropic的对话式模型Claude系列Cohere 技术创新亮点分布式计算优化平台采用3-D并行技术，结合数据微批次并行、模型参数并行和分层流水线计算，通过Trainium和Inferentia专用加速器实现高效训练推理。 例如新闻机构可基于实时财经报告生成分析内容。可持续发展考量平台通过专用加速器降低单位推理成本，减少模型训练和运行时的能耗，从性能和可持续性双维度优化效率。 某中心持续扩展模型生态，致力于为客户提供更丰富的模型选择和技术支持，推动生成式AI技术在各行业的负责任应用。
30810编辑于 2025-09-27- 来自专栏云云众生s
可用于AI应用的5个开放式LLM推理平台
五个生成式 AI 推理平台，可使用开放式 LLM，如 Llama 3、Mistral 和 Gemma。有些还支持针对视觉的模型。 以下是五个生成式 AI 推理平台，可使用开放式 LLM，如 Llama 3、Mistral 和 Gemma。其中一些还支持针对视觉的基础模型。 1. 他们的旗舰产品是语言处理单元 (LPU) 推理引擎，这是一个硬件和软件平台，旨在为 AI 应用程序提供卓越的计算速度、质量和能效。开发人员喜爱 Groq 的速度和性能。 除了令牌费用外，在线模型每千次请求还会产生 5 美元的固定费用。 3. Fireworks AI Fireworks AI 是一个生成式 AI 平台，使开发人员能够为其应用程序利用最先进的开源模型。 AI 应用程序。
1.4K10编辑于 2024-06-08 - 来自专栏科技云报道
打造生成式AI应用，什么才是关键？
生成式AI作为当前人工智能的前沿领域，全球多家科技企业都在加大生成式AI的研发投入力度。 随着技术、产品及应用等方面不断推出重要成果，如今有更多的行业用户在思考该如何将生成式AI应用落地。 生成式AI应用构建的关键 高性价比的基础设施 都说算力、算法和数据是人工智能发展的三要素，想要让这些要素更好地与生成式AI应用匹配，高性价比的基础设施必不可少。 事实上，借助专门构建的生成式AI工具和基础设施，可以帮助企业快速构建高性价比的生成式AI应用。 数据服务为生成式AI打造基座 数据作为生成式AI的关键，也将推动生成式AI的广泛应用，对于所有的组织企业来说都十分重要。 构建生成式AI 应用的行业实践 目前，由生成式AI引导的企业变革序幕全面展开，以多元应用不断创新AI应用范式，并将实践成果逐步延伸至智慧教育、智能制造、医疗等领域，真正成为人们生产生活的得力助手。
51820编辑于 2023-11-01 - 来自专栏ooderAgent
生成式 AI 在低代码平台中的应用：开启高效开发新时代
在当今数字化快速发展的时代，低代码平台正逐渐成为企业数字化转型的重要工具。而生成式 AI 的出现，为低代码平台带来了全新的机遇和挑战。 本文将深入探讨生成式 AI 在低代码平台中的应用，展示其如何助力企业实现更高效的应用开发。一、引言随着企业对数字化应用的需求不断增长，传统的软件开发方式已经难以满足快速变化的市场需求。 在低代码平台中，元学习可以帮助生成式 AI 快速适应不同的业务需求和开发场景。 三、生成式 AI 在低代码平台中的应用（一）代码生成与优化自动生成代码片段：生成式 AI 能够依据用户输入的业务需求描述，自动生成相应的代码片段。 五、结论生成式 AI 在低代码平台中的应用为企业带来了巨大的价值和机遇。它不仅提高了开发效率、降低了开发门槛，还提升了应用质量和促进了创新与个性化定制。
70110编辑于 2024-12-21 - 来自专栏媒矿工厂
通过 ServiceNow 平台释放生成式 AI 的力量
内容整理：李雨航 在这场聚焦于平台和产品创新的主题演讲中，CJ Desai 将分享并展示世界上一些最大的公司如何在 ServiceNow 平台上使用生成式 AI 来赋予他们竞争优势，以及您如何也能做到这一点 引言 CJ Desai：本次主题演讲中我将向你们介绍我们的平台核心、服务管理、员工体验、顾客服务以及生成式AI，并且请到了一位特殊嘉宾，他将为我们分享 AI 的未来走向。 Greg Weiss：作为我们数字化转型的一部分，我们确实很希望利用平台来驱动更多的转型，我们部署了流程挖掘、预测智能等等，而生成式 AI 是该流程中自然而然的下一步，所以我们将目光投向了分析方案。 我们还在承保和运营方面进行了一些概念验证，此外，就像其他人一样，我们也在探索 AI。 生成式 AI 图5-1 CJ Desai：好的，谢谢Mojgan。 Jensen Huang：很高兴来到这里，ServiceNow 是第一家开始开发完整的生成性 AI 平台的企业软件公司，我们都知道，我们正在经历一个重大的平台转变，加速计算和生成性 AI，计算的每一层都在被改变
91500编辑于 2024-05-31 生成式AI时代的应用NLP实战策略
生成式AI时代的应用型自然语言处理视频资源: 观看完整讲座大型语言模型(LLM)和上下文学习为自然语言理解系统开发带来了新范式：提示工程(Prompt Engineering)成为核心方法。 本讲座分享从实际工业级信息抽取项目中总结的关键经验，展示在生成式AI时代设计健壮、模块化NLP流水线的新方法与思维模式。 核心挑战与技术方案将复杂业务问题分解为可执行的机器学习任务是应用自然语言处理的核心挑战。 ->|人机协同标注| H[Prodigy平台] D -->|模块化设计| I[高吞吐处理] E -->|私有化部署| J[安全合规]关键技术创新人机协同蒸馏技术：使用LLM加速标注流程将大模型知识蒸馏为专用小型组件实现 倍数据开发效率提升混合架构优势：保持99%精度的同时模型体积仅6MB处理速度达16,000词/秒支持实时商品交易分析等高安全场景持续优化方法论：分离通用特征与业务特定逻辑建立自动化评估基线支持快速迭代的业务需求适配工业级应用案例金融情报系统
25910编辑于 2025-08-14- 来自专栏若城技术专栏
基于Amazon Bedrock_构建生成式 AI 应用
请求参数 返回参数 参数说明说明 操作流程讲解 完整代码 总结 前言 随着生成式人工智能（AIGC）技术的蓬勃发展，技术创作者们再次涌入一个充满挑战与机遇的新领域。 Amazon Bedrock 是一个专为创新者设计的平台，它提供了构建生成式人工智能应用程序所需的一切工具和资源。 无论您的技术背景如何，Amazon Bedrock 都能让您快速上手并体验到最新的生成式人工智能技术。对于AI新手和希望提升技能的专家来说，Amazon Bedrock 都是一个强大的助力。 今天我们就来一场酣畅淋漓的手把手教程， 让我们快速轻松的感受生成式人工智能的构建 登录Amazon Bedrock 点击链接 如下图所示点击开始实验 进入操作页面开启生成式ai 之旅吧！！ read()) response_text=response_body['generation'] #从 JSON 中返回相应数据 print(response_text) 是不是很简单呢 总结 随着生成式人工智能的逐渐火爆
60110编辑于 2024-04-25 - 来自专栏慕枫技术笔记
深入理解生成式AI技术原理：初识生成式AI
真正的大师永远怀着一颗学徒的心 如果将人工智能按照用途进行简单分类的话，人工智能可以划分为决策式AI以及生成式AI两类。 而以ChatGPT为代表的生成式AI通过对大量数据的联合概率进行学习，对已有的数据和知识进行归纳总结，同时结合深度学习技术，自动生成新的内容，而新生成的内容可以是文字、图片甚至是视频等多模态内容。 深度学习 深度学习是生成式AI背后比较核心的实现技术，它是机器学习的重要优化手段，而机器学习又是人工智能领域重要的落地实现措施。 这就好比我们早期的烟囱式的技术架构，都是针对某一项特定的业务场景来进行系统平台的建设。 总结 本文主要对生成型AI进行了初步阐述，同时针对生成型AI最核心的两个技术点分别进行了初步说明，后面的专栏文章中将继续以深度学习以及大模型核心技术点作为切入点来深入分析生成型AI背后的技术原理。
2.3K30编辑于 2023-08-10 - 来自专栏自学气象人
生成式 AI 简介
现在让我们揭示真实的数据生成分布 pdata，并了解如何应用以上框架于此示例。从下图中我们可以看到，数据生成规则 pdata 是点只是在陆地上均匀分布，而不会出现在海洋中。 在此问题中，特征只有 5 个属于低维数据，朴素贝叶斯模型假设它们相互独立还算是合理，因此模型生成的结果还不错，下面来看一个模型崩塌的例子。 4. 下表列出前 10 张图像像素 1 到 5 的值。 用同样的模型生成 10 套全新的时尚搭配，下面是模型生成的结果，每张丑得都很类似，而且无法区分不同的特征，为什么会这样呢？ 5. 比如生成对抗网络 (generative adversarial network, GAN) 总结 生成式人工智能 (GenAI) 是一种可用于创建新的内容和想法 (包括文字、图像、视频和音乐) 的人工智能
68710编辑于 2023-09-05 - 来自专栏王的机器
生成式 AI 简介
现在让我们揭示真实的数据生成分布 pdata，并了解如何应用以上框架于此示例。从下图中我们可以看到，数据生成规则 pdata 是点只是在陆地上均匀分布，而不会出现在海洋中。 在此问题中，特征只有 5 个属于低维数据，朴素贝叶斯模型假设它们相互独立还算是合理，因此模型生成的结果还不错，下面来看一个模型崩塌的例子。 4. 下表列出前 10 张图像像素 1 到 5 的值。 用同样的模型生成 10 套全新的时尚搭配，下面是模型生成的结果，每张丑得都很类似，而且无法区分不同的特征，为什么会这样呢？ 5. 比如生成对抗网络 (generative adversarial network, GAN) 总结 生成式人工智能 (GenAI) 是一种可用于创建新的内容和想法 (包括文字、图像、视频和音乐) 的人工智能
69130编辑于 2023-09-02 生成式AI在金融反欺诈中的技术应用
随着AI和生成式AI现在被欺诈者用作武器，新的真正需求是金融机构需要加强自身对AI的防御性使用、部署、训练和演进，以阻止欺诈。 生成式AI的出现进一步改进了异常检测——通过学习真实交易的基本结构，生成模型可以检测出指示欺诈活动的细微偏差，补充传统的异常检测方法。 Elasticsearch在AI、生成式AI和金融欺诈检测中的作用从根本上说，欺诈无疑是一个数据问题。 生成式AI：Elasticsearch相关性引擎是一个强大的工具，它结合了人工智能和文本搜索能力，为金融服务创建更智能的生成式AI应用程序。 欺诈、AI和生成式AI的未来生成式AI在金融欺诈检测和预防中的作用是变革性的，为金融机构提供了以空前的速度、准确性和效率打击欺诈活动的能力。
16210编辑于 2026-04-15这款AI低代码平台火了：拖拽生成应用，一键输出WebH5UniApp
无需写代码，AI帮你从设计稿生成完整应用在数字化转型的浪潮中，低代码开发已成为企业降本增效的利器。今天要介绍的 VTJ.PRO，不仅是一个低代码平台，更是一个融合了 AI 能力的在线开发环境。 它让开发者（甚至非技术人员）能够通过可视化拖拽和 AI 对话的方式，快速构建跨平台应用。 它的核心亮点可以概括为三个关键词：可视化设计：拖拽式搭建页面，所见即所得AI 辅助生成：对话式生成代码和 DSL（领域特定语言）多平台输出：一键生成 Web、H5、UniApp 项目整个平台基于 Vue 核心管道：设计 → DSL → 运行时 / 代码生成2.2 AI 代码生成平台内置了 AI 代理系统，可以连接多种 LLM 模型。 代码生成管道可以将存储的 DSL 转换为独立的 Vue 项目，支持三个目标平台：Web：标准 Web 应用H5：移动端 Web 应用UniApp：跨平台原生应用（可编译到 iOS、Android 等）每个平台都有对应的脚手架模板
62810编辑于 2026-03-31- 来自专栏DevOps
【AI】生成式AI & Gemmi模型介绍
AI 人工智能 （AI） 被认为是机器（尤其是计算机系统）对人类智能过程的模拟。这些过程包括学习（获取信息和使用信息的规则）、推理（使用规则得出近似或明确的结论）和自我纠正。 人工智能被广泛用于各种应用，从语音识别和语言翻译到自动驾驶汽车和机器人技术。人工智能的目标是创建能够执行通常需要人类智能的任务的系统。在不同的领域使用了许多工具。 生成式AI 生成式人工智能最近变得非常流行，它被大众用来生成不同类型的内容，包括文本、图像、视频等。 生成式 AI 是人工智能 （AI） 技术的一个子集，专注于根据输入数据或从现有数据中学习的模式生成新的原创内容。 与专为分类或预测等特定任务而设计的传统 AI 模型不同，生成式 AI 模型能够创建全新的数据样本，这些样本类似于它们所接触的训练数据。它使用生成模型，这些模型根据现有数据的学习概率分布生成新内容。
95710编辑于 2024-05-06 - 来自专栏程序猿DD
项目前瞻｜Spring AI：在你的Spring应用中使用生成式AI
如果您是 Spring 开发人员，您可能想知道如何在 Spring 应用程序中实现生成式 AI。如果是这样，那么接下来这个视频一定适合您。 该视频介绍了 Spring AI，是全新的项目，可在 Spring Boot 中使用生成式 AI。目前能与OpenAI和Azure OpenAI交互，未来可能会与其他生成型AI API互动。 以下是视频总结： [00:00] 这段视频介绍了Spring AI项目，它可以在Spring Boot应用中实现生成式AI。 - Generative AI已经成为了热门话题，许多人都在思考如何在项目和日常生活中应用AI。 - Spring AI是一个相对较新的项目，可以在Spring Boot应用中实现生成式AI。 - 目前Spring AI支持与OpenAI和Azure OpenAI交互，未来可能会与其他生成式AI API进行交互。
1.7K10编辑于 2024-01-04 - 来自专栏学习
生成式AI在教育技术中的应用：变革与创新
生成式AI通过生成个性化的学习材料、模拟对话、自动解答学生问题等功能，可以帮助教师简化工作流程，提高学生的学习动力和参与度。 2. 个性化学习的变革与应用 个性化学习是现代教育的重要趋势之一。 这种体验式的学习方式不仅能够增加学生的学习兴趣，还能够帮助他们更好地记忆和理解所学的内容。 AI生成的沉浸式学习环境不仅限于科学领域，在历史、地理甚至文学教学中也有广泛的应用。 5. 教育中的道德问题与挑战 虽然生成式AI在教育中的应用前景广阔，但也存在一些道德和技术上的挑战。例如，AI生成的内容可能存在偏见，这会影响学生对某些问题的理解。 AIGC的代码实现示例（C++实现自适应测验生成） 为了帮助读者更好地理解生成式AI在教育中的应用，以下提供一个简单的C++代码示例，演示如何实现一个自适应测验生成器。 结语 生成式AI在教育技术中的应用仍处于发展初期，但其影响力不可忽视。通过合理地设计和应用AIGC，我们有机会创建一个更加高效、灵活和个性化的教育体系，为学生和教师带来更多的可能性。
1.4K10编辑于 2024-11-24 - 来自专栏资讯分享
生成式AI“进军”制造业：应用范式、趋势与问题
图2 生成式人工智能在制造业的市场规模生成式AI大模型短期趋势：拓展新场景并未出现替代小模型图3 生成式人工智能大模型在制造业的应用情况生成式AI大模型能力覆盖结构化数据、文本、图像、音视频等多个领域生成 例如创新奇智推出AInno-15B工业大模型，通过大模型服务引擎支撑生成式AI应用，实现工业机器人控制、企业私域数据分析、企业私域知识库等应用。 在CRM 领域，Salesforce、微软等均加强生成式AI在产品中的集成和应用。 生成式AI大模型在制造业领域仍需克服三大挑战人工智能在工业领域的应用仍具备非常广阔的空间，根据凯捷统计，只有欧洲顶级制造企业AI 应用普及率超过30%，日本制造企业AI 应用率达到30%；美国制造企业AI 但是生成式AI大模型的应用仍需面临一些挑战：图6 人工智能在制造业渗透率对比一是尚未出现投入产出比非常明确的场景。
1.3K20编辑于 2023-10-17 - 来自专栏AIGC
【AI】SLM，LLM，对话式AI，生成式AI的差异分析
它涵盖了所有旨在生成新内容的人工智能系统，这些内容可能是由人类创造的。一、生成式AI生成式 AI 旨在创建类似于真实的人类生成材料的新内容或数据。 我们的内部聊天机器人处理我们网页上的信息，包括数百篇博客文章，提供对数十人十年来生成的内容的最快访问。二、LLM VS SLM语言模型是特定类型的生成式 AI，专注于处理和生成文本。1. 尽管规模较小，但 SLM 旨在在各种自然语言处理任务（包括文本生成、分类和翻译）上保持高水平的性能。选择 SLM 可以使您的应用程序在更广泛的设备上更易于访问，甚至可以启用脱机功能。 三、对话式AI对话式 AI 是 AI 技术的一种应用，通常利用 LLM、SLM 或不同 AI 模型的组合来模拟类似人类的对话。 对话式 AI 使计算机能够模拟类似人类的对话。这包括一系列应用，包括聊天机器人、语音助手和交互式语音应答 （IVR） 系统。我正在参与2024腾讯技术创作特训营最新征文，快来和我瓜分大奖！
1.6K10编辑于 2024-05-06 - 来自专栏数据派THU
干货 | 智慧教育平台生成式人工智能应用的安全要求
第一部分：编制说明 标准制定的基本原则主要包括以下四个方面： 综合性：本标准全面漫盖了智慧教育平台ChatGPT安全保护的要求，以便用户参考，井有利于各类组织和第三方评估机构对慧教育平台的数据处理活动进行监督 实践性：制定本标准时充分考虑了我国的国情、实际应用环境以及相关国家法律法规和政策，确保指导基于智慧教育平台生成式人工智能应用保护和个人信息安全具有实际应用价值。 安全和隐私保护：本标准严格要求智慧教育平台的数据在整个生命周期中的安全性，确保数据处理过程的阶段都得到充分的安全保护。 合规性：本标准符合国家相关法律法规和现有标准规范的要求，确保智慧教育平台的数据处理中满足相应的法律法规和标准规范。
37020编辑于 2023-08-08 - 来自专栏云云众生s
用于生成式AI的OpenTelemetry
语义约定建立了跨平台遥测数据结构和收集的标准化指南，定义了输入、输出和操作细节。对于生成式AI，这些约定通过标准化模型参数、响应元数据和令牌使用等属性，简化了AI模型的监控、故障排除和优化。 这些见解对于调试和优化可能出现意外行为的AI应用程序非常宝贵。 注意：请注意，我们决定使用发出的事件以及生成式AI的语义约定中的日志API规范。 随着生成式AI应用程序的增长，其他语言的附加插桩库将陆续推出，从而扩展OpenTelemetry对更多工具和环境的支持。 示例用法 这是一个使用 OpenTelemetry Python 库监控带有 OpenAI 客户端的生成式 AI 应用程序的示例。 通过这种简单的插桩，可以开始捕获生成式 AI 应用程序的跟踪。以下是从Aspire 仪表板进行本地调试的示例。
1K10编辑于 2024-12-17 - 来自专栏程序猿DD
使用Spring AI让你的Spring Boot应用快速拥有生成式AI能力
之前分享了关于Spring新项目Spring AI的介绍视频： 视频里演示了关于使用Spring AI将Open AI的能力整合到Spring应用中的操作，但有不少读者提到是否有博客形式的学习内容。 所以，本文就将具体介绍如何使用 Spring AI 快速让您的Spring应用拥有生成式AI的强大能力。 动手试试 第一步：使用你最喜欢的IDE来生成一个基础的Spring Boot项目。 RequestParam(value = "message") String message){ return this.aiClient.generate(message); } 这是一个最简单的例子，而实际真正应用的时候 message)); return this.aiClient.generate(prompt); } 通过使用PromptTemplate创建一个模版，然后根据用户输入使用模版来创建具体的Prompt生成结果 完成这几个API的构建之后，您可以尝试启动它，并用API测试工具调用试试，体验一下生成式AI的强大能力。
1K10编辑于 2024-01-11
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号