- 综合排序
- 最热优先
- 最新优先
- 来自专栏对白的算法屋
AI 大模型创业的 10 个灵魂拷问
下面就这 10 个灵魂拷问，分享一些我自己的观点。 做不做基础大模型？ 如果做基础大模型，需要上亿美金的前期投入，如何融到这么多资，如何招到靠谱的算法、数据和 infra 团队？ 但这样的模型推理成本会很高，就像现在 GPT-4 读一篇论文要 10 美金，只有高净值客户和探索科学前沿的场景才消费得起。 大模型时代有没有 AI Native 的 app 呢？其实目前就有很多。 推理性能优化的空间更大，因为 Transformer 的结构，很多场景下有效算力只有 10%~20%。如果做 batching，时延和带宽又会成为 trade-off。 第一，如果读一篇论文还是像 GPT-4 那样需要 10 美金，生成一段 7.5 分钟的视频还是像 Runway ML 一样需要 95 美金，大多数人就不可能用得起大模型。
62930编辑于 2023-09-01 - 来自专栏JavaEdge
AI 大模型企业应用实战(10)-LLMs和Chat Models
1 模型 来看两种不同类型的模型--LLM 和聊天模型。然后，它将介绍如何使用提示模板来格式化这些模型的输入，以及如何使用输出解析器来处理输出。 LangChain 中的语言模型有两种类型： 1.1 Chat Models 聊天模型通常由 LLM 支持，但专门针对会话进行了调整。提供者 API 使用与纯文本补全模型不同的接口。 并非所有模型都一样。不同的模型有不同的最佳提示策略。如： Anthropic 模型最适合使用 XML OpenAI 的模型最适合使用 JSON 设计应用程序时牢记这点。 示例将使用聊天模型，并提供几种选择：使用 Anthropic 或 OpenAI 等 API，或通过 Ollama 使用本地开源模型。 作者简介：魔都架构师，多家大厂后端一线研发经验，在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。
40910编辑于 2025-06-01 - 来自专栏AIGC大模型应用
AI大模型企业应用实战(10)-LLMs和Chat Models
1 模型两种模型：LLM聊天模型然后，介绍咋用：提示模板格式化这些模型的输入输出解析器来处理输出LangChain 中的语言模型有两种类型：1.1 Chat Models聊天模型通常由 LLM 支持，但专门针对会话进行调整 提供者 API 使用与纯文本补全模型不同的接口。它们的输入不是单个字符串，而是聊天信息列表，输出则是一条人工智能信息。GPT-4 和 Anthropic 的 Claude-2 都是作为聊天模型实现。 这两种 API 类型具有不同的输入和输出模式，并非所有模型都一样。不同模型有不同的最佳提示策略，如：Anthropic 模型最适合用 XMLOpenAI 模型最适合用 JSON设计应用程序时牢记这点。 示例将使用聊天模型，并提供几种选择：使用 Anthropic 或 OpenAI 等 API，或通过 Ollama 使用本地开源模型。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。
41000编辑于 2024-08-15 - 来自专栏C++开发学习交流
【AI模型】AI模型部署概述
AI模型部署方法 在AI深度学习模型的训练中，一般会用Python语言实现，原因是其灵活、可读性强。但在AI模型实际部署中，主要会用到C++，原因在于其语言自身的高效性。 AI模型部署框架 模型部署常见的推理框架有：ONNX、NCNN、OpenVINO、 TensorRT、Mediapipe。 通过短短几年的发展，已经成为表示深度学习模型的实际标准，并且通过ONNX-ML，可以支持传统非神经网络机器学习模型，大有一统整个AI模型交换标准的趋势。 AI模型部署平台 AI 模型部署是将训练好的 AI 模型应用到实际场景中的过程。 以下是一些常见的 AI 模型部署平台： 云端部署 云端部署是最流行的 AI 模型部署方式之一，通常使用云计算平台来托管模型和处理请求。
1.8K10编辑于 2024-07-24 分享6类10种政务AI大模型应用场景
大模型是指具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数。大模型的设计目的是提高模型的表达能力和预测性能，能够处理更加复杂的任务和数据。 大模型在各种领域都有广泛的应用，包括自然语言处理、计算机视觉、语音识别和推荐系统等。大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测。 6类政务AI大模型的应用场景：政务咨询领域：通过构建具备深厚专业知识的智能助手，针对财务、环保等专业领域，提供精确的咨询和解答服务。这有助于提升企业和公众的办事体验，同时增强政府机构的工作效率。 辅助决策制定：依托大模型的逻辑推理和数学计算能力，通过智能问答形式，快速获取相关领域的发展信息，为决策提供参考和支持。 10种具体应用实例：政务服务- 智能问答系统：全天候提供咨询服务，解答政府服务相关问题。- 政策解读与推荐：自动解析政策文件，推荐与用户需求相关的政策信息。
2.6K10编辑于 2024-08-06- 来自专栏新智元
让ChatGPT自选10万+AI模型，HuggingFace官方出品
---- 新智元报道 编辑：编辑部 【新智元导读】ChatGPT调用众多开源AI模型，让HuggingFace给实现了。 全球最火的AI社区HuggingFace官方出品「Transformers Agent」，通过控制10万多个AI，也能实现魔法。 ChatGPT的「App Store」当然是AI工具生态系统应用的一个实例。OpenAI的下一步显然是meta app，能够在会话中使用很多插件。 全新Transformers Agent让你拥有超强buff，快速构建AI智能体。 当然对AI来说，检索到最后一行也是找到了答案。 用户在使用agent.run之前，需要将一个智能体实例化，也就是一个大型语言模型（LLM）。
70650编辑于 2023-05-22 - 来自专栏ATYUN订阅号
Facebook开发AI模型，旨在将MRI扫描速度提高10倍
Facebook AI Research正在与纽约大学医学院合作，通过AI将MRI扫描速度提高10倍。 在fastMRI项目中使用的AI模型通过纽约大学获得的10000例临床病例的脑，膝盖和肝脏的300万次MRI扫描进行训练。 使MRI速度提高10倍的目标是纽约大学和Facebook认为现在所需的速度，并将这项研究转移到临床实践和大规模采用。Facebook发言人表示，这项研究的初步结果将在一年内公布。 该学院的高级成像创新与研究中心（CAI²R）自2016年以来一直在探索使用AI来提高MRI扫描速度。 当取得更多的进展后，Facebook将分享研究中的AI模型，基线和评估指标，纽约大学将开源用于训练fastMRI的图像数据集，以加速在临床实践中采用所得方法。
49840发布于 2018-09-26 - 来自专栏Reck Zhang
Java 10 - 内存模型
内存模型 主存储器与工作存储器 主存储器 方法区(Method Area) 方法区用于存储类的信息, 常量, 静态变量, 即时编译器编译后的代码. 栈(Java Virtual Machine Stacks) 代表着Java方法执行的内存模型, 每个方法执行时都会创建一个栈帧来存储方法的变量表, 操作数栈, 动态链接方法, 返回值, 返回地址等信息
37720发布于 2021-08-11 - 来自专栏Python与算法之美
10，模型的优化
搜索超参数空间以优化超参数需要明确以下方面： 估计器 超参数空间 交叉验证方案 打分函数 搜寻或采样方法（网格搜索法或随机搜索法） 优化模型的常见方法包括 网格搜索法，随机搜索法，模型特定交叉验证， 三， 模型特定交叉验证 一些特定的模型，sklearn构建了一些内部含有交叉验证优化机制的估计器。 它们主要是在linear_model模块。 四， 信息准则优化 模型选择主要由两个思路。 解释性框架：好的模型应该是最能解释现有数据的模型。可以用似然函数来度量模型对数据集描述能力。 预测性框架：好的模型应该是最能预测结果的模型。 通常模型参数越多越复杂，越容易出现过拟合。 所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之间寻求最佳平衡。 AIC(赤池信息准则)和BIC(贝叶斯信息准则)对模型的选择提供了一种判据。 AIC信息准则选择AIC最大的模型。 BIC信息准则选择BIC最大的模型。
77421发布于 2020-07-17 - 来自专栏量子位
让ChatGPT调用10万+开源AI模型！HuggingFace新功能爆火：大模型可随取随用多模态AI工具
萧箫 发自 凹非寺 量子位 | 公众号 QbitAI 只需和ChatGPT聊聊天，它就能帮你调用10万+个HuggingFace模型！ 如何让大模型“指挥”各种AI？ 简单来说，Transformers Agents是一个大模型专属的“抱抱脸AI工具集成包”。 这样一来，只需要一段简单的代码+提示词，就能让大模型帮助你直接运行AI模型，并将输出结果实时返还给你，过程一共分为三步： 首先，设置自己想用的大模型，这里可以用OpenAI的大模型（当然，API要收费） 已设置一套默认AI模型 目前，Transformers Agents已经集成了一套默认AI模型，通过调用以下Transformer库中的AI模型来完成： 1、视觉文档理解模型Donut。 ”，它就会分别调用“文生图”和“图片理解”AI模型。
2.3K10编辑于 2023-05-12 100天跟着CP学PostgreSQL+AI,第10天 : 在 PostgreSQL 运行 AI 模型：PLPython 实战
系列文章介绍 第一阶段 : 基础筑基期（第 1-30 天：PostgreSQL 与 AI 技术扫盲） 主要内容 主题：在 PostgreSQL 中运行 AI 模型：PL/Python 实战 PostgreSQL 作为一款强大的开源关系型数据库，其丰富的扩展性为在数据库中直接运行 AI 模型提供了可能。 通过创建用户定义函数（UDF），我们可以将 AI 模型集成到数据库中，实现数据处理与模型预测的无缝衔接。 （一）环境准备 确保 PostgreSQL 已安装并启用 PL/Python 扩展。 ; 六、总结 通过 PL/Python 在 PostgreSQL 中运行 AI 模型，我们实现了数据处理与模型预测的深度整合，避免了数据在数据库与应用程序之间的频繁传输，提高了预测效率。 随着人工智能与数据库技术的不断发展，这种在数据库中直接运行 AI 模型的方式将在更多场景中得到应用，为数据分析和业务优化带来新的机遇。
36910编辑于 2025-08-27- 来自专栏开源心路
AI模型实战
背景 通过示例梳理AI模型训练流程，示例比较简单，方便演示。 流程 机器学习实战步骤 定义问题 数据收集和预处理 选择算法并建立模型 训练模型 模型评估和优化 示例 定义问题 根据公开数据集预测加州房价分布 数据收集 import pandas as pd df_housing.drop("median_house_value",axis = 1) #构建特征集X y = df_housing.median_house_value #构建标签集y 选择算法并建立模型 #导入线性回归算法模型 model = LinearRegression() #使用线性回归算法 model.fit(X_train, y_train) #用训练集数据，训练机器，拟合函数，确定参数 211157.06335417 218581.64298574 465317.31295563 ... 201751.23969631 160873.51846958 138847.26913352] 模型评估
33710编辑于 2023-06-30 - 来自专栏全栈程序员必看
Django（10）ORM模型介绍
所以我们采用ORM模型 ORM模型介绍 orm全称Object Relational Mapping，中文叫做对象关系映射，通过ORM我们可以通过类的方式去操作数据库，而不用再写原生的SQL语句。 通过把表映射成类，把行作实例，把字段作为属性，ORM在执行对象操作的时候最终还是会把对应的操作转换为数据库原生语句 ORM的优点 易用性：使用ORM做数据库的开发可以有效的减少重复SQL语句的概率，写出来的模型也更加直观 ORM的实现过程 （1）配置目标数据库，在setting.py中设置配置属性 （2）构建虚拟对象数据库，在App的model.py文件中以类的形式定义模型 （3）通过模型在目标数据库中创建对象的数据表 （4）在视图函数中使用模型来实现目标数据库的读写操作 发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/166174.html原文链接：https://javaforall.cn
36620编辑于 2022-09-20 - 来自专栏人工智能头条
Google AI 研发医疗新模型，预测死亡率比医院高出10%
编译 | 姗姗 出品 | 人工智能头条（公众号ID：AI_Thinker） 一名乳腺癌晚期的妇女来到市医院，她的肺部已经充满了液体。 ▌Google 研发一种模型预测系统作为医疗工具 今年5月，Google 发布了这位未透露身份的女性的令人心痛的死亡报告。 今年5月，Google 的 AI 负责人 Jeff Dean 对彭博谈到，Google 的下一步是将这个预测系统引入诊所。 自从2016年 Alphabet 旗下的 Google 公司宣布自己为 “ AI First” 的公司，它的大部分工作都在改进现有的互联网服务。 而另一位 Google 研究人员说，现有的模型会忽略重要的医学事件，比如病人是否做过手术。他将现有的手工编码模型描述为医疗保健中的“一个巨大的障碍”。
44720发布于 2018-07-20 - 来自专栏服务端技术杂谈
AI Agent：模型->工具->结果->模型
Reddit上有人说，AI Agent就是：模型->工具->结果->模型。 从程序员角度来说，就是拼接参数json，调用LLM，处理返回值json。 不需要用什么复杂的框架，基本上只需要串联： 用户输入目标Prompt->将提示词传递给LLM->模型决定下一步->需要工具（API调用、爬取网页、操作API）执行->将结果反馈给模型进行下一步->直到任务完成 即：模型 → 工具 → 结果 → 模型 关于记忆，先用短期记忆，比如最近几条上下文消息。 如果需要跨会话记忆，可以从持久存储获取，比如向量数据库。
13110编辑于 2026-03-11 使用Spring AI调用AI模型
简介Spring AI是Spring框架对人工智能和机器学习的支持模块,它提供了一套简单易用的API来集成各种AI服务和模型。 主要功能集成主流AI模型服务(如OpenAI、Azure、 Baidu千帆等)提供统一的API接口支持提示词工程内置向量存储功能支持文本嵌入和文本生成核心概念AI Client统一的客户端接口,用于调用 代码助手 代码解读复制代码spring.ai.openai.api-key=youkeyspring.ai.openai.base-url=https://api.deepseek.comspring.ai.openai.chat.options.model 对接阿里大模型Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践，提供高层次的 AI API 抽象与云原生基础设施集成方案 ，帮助开发者快速构建 AI 应用。
1.4K10编辑于 2025-03-27- 来自专栏机器之心
一键控制10万多个AI模型，HuggingFace给类ChatGPT模型们做了个「APP Store」
机器之心报道 编辑：张倩、蛋酱 通过 Transformers Agents，你可以控制 10 万多个 Hugging Face 模型完成各种多模态任务。 这也意味着 AI 聊天机器人正在进入一个新的进化阶段 ——「meta app」阶段。 HuggingGPT 让 ChatGPT 充当控制器（可以理解为管理层），由它来管理其他的大量 AI 模型，从而解决一些复杂的 AI 任务。 具体来说，HuggingGPT 在收到用户请求时使用 ChatGPT 进行任务规划，根据 HuggingFace 中可用的功能描述选择模型，用选定的 AI 模型执行每个子任务，并根据执行结果汇总响应。 通过 Transformers Agents，你可以控制 10 万多个 Hugging Face 模型完成各种多模态任务。
1.1K50编辑于 2023-05-16 - 来自专栏ADAS性能优化
AI weekly (10-26)
can stop a facial recognition network from identifying people in videos. https://venturebeat.com/2019/10 software tools for artificial intelligence deep learning applications. https://venturebeat.com/2019/10 verification solutions, has raised $10 million in seed funding. https://venturebeat.com/2019/10/24/incode-raises-10-million-to-verify-identities-with-ai Twitter now With the advent of AI, data access and accuracy are being improved even more How AI is transforming
35420编辑于 2022-05-13 - 来自专栏量子位
AI的大模型时代 ≠ 只有大模型的AI时代
从这个规律来看，大语言模型（简称LLM）出现后虽然霸占了所有与AI相关的关键词，吸引了所有人的注意力，但这并不代表“LLM之前无AI”。 所以，AI不是只有大模型。AI的大模型时代也 ≠ 只有大模型的AI时代。 成熟的AI，早就已经上岗了 或许你还不敢相信，现在哪怕小小的快递背后，都已经有AI技术在加持了。 △性能测试结果基于韵达于2022年10月进行的测试 而且OCR识别还仅仅是AI涉足物流行业的小小一隅，一张图来看感受下它现在所起到的power： 嗯，AI如此all in，怪不得国内物流的速度都要起飞了呢 这便是英特尔在AI大模型时代中的“加速之道”了。 还会带来怎样的变革？ 纵观AI技术的发展之路，不难发现英特尔在其中履行着一条非常清晰的准则——用起来才是硬道理。 更多《英特尔平台上的行业AI实战与大模型优化》相关内容，可扫描下方海报中的二维码获取。点击原文链接，阅读英特尔《最“in”大模型》专栏的所有文章。 — 完 —
64910编辑于 2023-09-27 - 来自专栏帅云霓的技术小屋
大模型与AI底层技术揭秘 (10) 工业化武装的巨龙 （下）
在大模型的计算中，还会涉及一个问题：存储。一个典型的场景是，海量图片数据保存在NVMe SSD中。有没有好的办法实现GPU高速访问NVMe SSD中的数据呢？ 请看下期。
54310编辑于 2023-11-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号