- 综合排序
- 最热优先
- 最新优先
- 来自专栏对白的算法屋
AI 大模型创业的 10 个灵魂拷问
下面就这 10 个灵魂拷问，分享一些我自己的观点。 做不做基础大模型？ 如果做基础大模型，需要上亿美金的前期投入，如何融到这么多资，如何招到靠谱的算法、数据和 infra 团队？ 但这样的模型推理成本会很高，就像现在 GPT-4 读一篇论文要 10 美金，只有高净值客户和探索科学前沿的场景才消费得起。 大模型时代有没有 AI Native 的 app 呢？其实目前就有很多。 这也正是做技术的好机会：这波 AI 浪潮将更多地有技术驱动，而不仅是由产品和商务驱动。 为什么 16 年这波 AI 浪潮不是移动互联网级别的机会，而大模型这波就是呢？ 第一，如果读一篇论文还是像 GPT-4 那样需要 10 美金，生成一段 7.5 分钟的视频还是像 Runway ML 一样需要 95 美金，大多数人就不可能用得起大模型。
63130编辑于 2023-09-01 - 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术：模型压缩和加速技术将继续发展，以减小大模型的计算和存储开销。 更好的计算平台支持：为了支持训练和部署大模型，计算平台将继续改进，提供更强大的计算资源和工具。
1.5K30编辑于 2023-10-10 - 来自专栏AIGC大模型应用
AI大模型企业应用实战(10)-LLMs和Chat Models
1 模型两种模型：LLM聊天模型然后，介绍咋用：提示模板格式化这些模型的输入输出解析器来处理输出LangChain 中的语言模型有两种类型：1.1 Chat Models聊天模型通常由 LLM 支持，但专门针对会话进行调整 这两种 API 类型具有不同的输入和输出模式，并非所有模型都一样。不同模型有不同的最佳提示策略，如：Anthropic 模型最适合用 XMLOpenAI 模型最适合用 JSON设计应用程序时牢记这点。 示例将使用聊天模型，并提供几种选择：使用 Anthropic 或 OpenAI 等 API，或通过 Ollama 使用本地开源模型。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。 # LLM类大模型的流式输出方法from langchain.llms import OpenAIimport osapi_base = os.getenv("OPENAI_PROXY")api_key
41000编辑于 2024-08-15 - 来自专栏JavaEdge
AI 大模型企业应用实战(10)-LLMs和Chat Models
1 模型 来看两种不同类型的模型--LLM 和聊天模型。然后，它将介绍如何使用提示模板来格式化这些模型的输入，以及如何使用输出解析器来处理输出。 并非所有模型都一样。不同的模型有不同的最佳提示策略。如： Anthropic 模型最适合使用 XML OpenAI 的模型最适合使用 JSON 设计应用程序时牢记这点。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。 #LLM类大模型的流式输出方法 from langchain.llms import OpenAI import os api_base = os.getenv("OPENAI_PROXY") api_key 作者简介：魔都架构师，多家大厂后端一线研发经验，在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。 各大技术社区头部专家博主。
40910编辑于 2025-06-01 - 来自专栏量子位
AI的大模型时代 ≠ 只有大模型的AI时代
从这个规律来看，大语言模型（简称LLM）出现后虽然霸占了所有与AI相关的关键词，吸引了所有人的注意力，但这并不代表“LLM之前无AI”。 所以，AI不是只有大模型。AI的大模型时代也 ≠ 只有大模型的AI时代。 成熟的AI，早就已经上岗了 或许你还不敢相信，现在哪怕小小的快递背后，都已经有AI技术在加持了。 △性能测试结果基于韵达于2022年10月进行的测试 而且OCR识别还仅仅是AI涉足物流行业的小小一隅，一张图来看感受下它现在所起到的power： 嗯，AI如此all in，怪不得国内物流的速度都要起飞了呢 然而，这些仅仅是已经成熟上岗的AI技术在英特尔®️ 平台得到的优化，英特尔的能力还远不止如此。 这就要说回大模型了。 更多《英特尔平台上的行业AI实战与大模型优化》相关内容，可扫描下方海报中的二维码获取。点击原文链接，阅读英特尔《最“in”大模型》专栏的所有文章。 — 完 —
65010编辑于 2023-09-27 - 来自专栏司钰秘籍
AI大模型学习
通过不断优化模型结构和算法，AI大模型学习能够不断提升模型的准确性和效率，为人类生活和工作带来更多便利。 AI大模型学习的理论基础 数学基础： 线性代数：AI 大模型中大量使用向量和矩阵运算，如矩阵乘法、向量点积等，用于表示和操作数据。 迁移学习：利用已有的预训练模型，在新的任务上进行微调，加快训练过程。 9. 并行计算：使用多线程、多进程或分布式计算框架，加速模型的训练。 10. AI大模型在特定领域的应用 在自然语言处理领域，AI 大模型如 GPT-3 被广泛应用于文本生成、机器翻译、问答系统等。 此外，模型的性能也受到计算资源、数据质量和算法优化等因素的影响 AI大模型学习的伦理与社会影响 AI 大模型学习确实带来了一些伦理和社会问题，我们需要认真对待： 1.
65710编辑于 2024-04-04 - 来自专栏人工智能领域
AI大模型学习
AI大模型学习 在当前技术环境下，AI大模型学习不仅要求研究者具备深厚的数学基础和编程能力，还需要对特定领域的业务场景有深入的了解。 方向一：AI大模型学习的理论基础 AI 大模型学习的理论基础涉及深度学习、神经网络、优化算法等多个方面。 ———————————————— 方向二：AI大模型的训练与优化 AI 大模型学习的理论基础涉及深度学习、神经网络、优化算法等多个方面。 ———————————————— 方向三：AI大模型在特定领域的应用 AI大模型的训练与优化是深度学习领域中至关重要的一部分。 ———————————————— 方向四：AI大模型学习的伦理与社会影响 AI大模型学习的伦理与社会影响是一个备受关注的话题，以下是一些关于这个方向的重要内容： 数据隐私：AI大模型需要大量的数据来训练
64110编辑于 2024-12-18 零基础学AI大模型之读懂AI大模型
大模型知识，因此希望可以通过自己学习然后以写文章的形式向大家同样想零基础学习大模型的同学进行互相交流，欢迎大家在评论区打出自己的疑问或者本文不正确的地方，我们一起学习 零基础学AI大模型之读懂AI大模型 甚至企业里说的“开发大模型”，真的是从头造一个“大脑”吗？ 今天就用通俗的语言，把AI大模型的核心逻辑、能力边界和落地场景讲透，最后再给大家一份主流模型的选择指南。 一、什么是AI大模型？ 就像一个听了10万个故事的人，哪怕你问一个他没听过的新问题，也能顺着逻辑给你一个靠谱的回答。 三、大模型不只是“聊天工具”：智能体如何解决实际问题？ 企业真正要开发的是AI智能体：大模型的“升级版” 所谓“AI智能体（Agent）”，是给大模型加上“手脚”“记忆”和“规划能力”，让它从“聊天工具”变成“能干活的助手”。 （70B）对硬件配置要求较高 最后：AI大模型的核心不是“越复杂越好”，而是“越实用越好” 看完这些，你会发现：AI大模型的本质是“用海量规律解决问题”，而它的落地关键是“智能体”——把“语言能力”变成
1.2K20编辑于 2025-12-22分享6类10种政务AI大模型应用场景
大模型是指具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数。大模型的设计目的是提高模型的表达能力和预测性能，能够处理更加复杂的任务和数据。 大模型在各种领域都有广泛的应用，包括自然语言处理、计算机视觉、语音识别和推荐系统等。大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测。 6类政务AI大模型的应用场景：政务咨询领域：通过构建具备深厚专业知识的智能助手，针对财务、环保等专业领域，提供精确的咨询和解答服务。这有助于提升企业和公众的办事体验，同时增强政府机构的工作效率。 机关运行优化：利用大模型技术，通过人机协作，减少公务人员在日常工作中的重复性劳动，使他们能更专注于核心职责，从而提升工作效率。 10种具体应用实例：政务服务- 智能问答系统：全天候提供咨询服务，解答政府服务相关问题。- 政策解读与推荐：自动解析政策文件，推荐与用户需求相关的政策信息。
2.6K10编辑于 2024-08-06- 来自专栏机器学习入门
【AI大模型】LLM主流开源大模型介绍
学习目标 了解LLM主流开源大模型. 掌握ChatGLM、LLaMA、Bloom等基础大模型的原理 LLM主流大模型类别 随着ChatGPT迅速火爆，引发了大模型的时代变革，国内外各大公司也快速跟进生成式AI市场，近百款大模型发布及应用 目前，市面上已经开源了各种类型的大语言模型，本章节我们主要介绍其中的三大类： ChatGLM-6B：衍生的大模型（wenda、ChatSQL等） LLaMA：衍生的大模型（Alpaca、Vicuna 梯度缩减的效果相当于把 embedding 层的梯度缩小了 10 倍，减小了梯度的范数。 闻达：大型语言模型调用平台，基于 ChatGLM-6B 实现了类 ChatPDF 功能 LLaMA模型 LLaMA（Large Language Model Meta AI），由 Meta AI 于2023
1.2K10编辑于 2024-09-24 零基础学AI大模型之AI大模型常见概念
大模型 零基础学AI大模型之SpringAI 前情摘要： 1、零基础学AI大模型之读懂AI大模型 2、零基础学AI大模型之从0到1调用大模型API 3、零基础学AI大模型之SpringAI 零基础学 AI大模型之AI大模型常见概念 一、先搞懂：什么是AI大模型？ AI大模型（AI Models）本质是具备大规模参数、能模拟人类认知功能的信息处理算法——它不仅能“读懂”输入（比如文本、语音、图像），还能“生成”符合需求的输出（比如对话、图片、代码），核心优势是“泛化能力强 二、AI大模型的6个核心概念 如果把AI大模型比作“智能大脑”，下面这些概念就是它的“神经中枢”——决定了它“怎么思考”“怎么干活”“怎么不犯错”。 1. 价值：让模型从“只懂理论”变成“能做实事”，比如自动查物流、生成实时报表。 6. AI大模型概念总结 觉得有用请点赞收藏！ 如果有相关问题，欢迎评论区留言讨论~
45210编辑于 2025-12-22- 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（八）：大模型微调之LoraConfig
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 LoRA是一种用于微调大型语言模型的轻量级方法，它通过添加低秩矩阵到预训练模型的权重上来实现适应性调整，从而在不显著增加模型大小的情况下提升特定任务的性能。 task_type: 指定任务类型，如'CAUSAL_LM'，以确保LoRA适应正确应用到模型的相应部分。 get_peft_model(model, config) print_trainable_parameters(model) 三、总结 本文简要介绍LoraConfig的配置参数情况，具体的机遇peft对大模型进行微调后面单独开一页详细讲解
95110编辑于 2024-08-13 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（二）：AutoModelForCausalLM
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 2.2 主要功能 这个类是基于`AutoModel`的，它能够根据指定的模型名称或路径自动加载相应的模型架构。 这里使用了Auto自动模型，transformers包括管道pipeline、自动模型auto以及具体模型三种模型实例化方法，如果同时有配套的分词工具（Tokenizer），需要使用同名调度。 管道(Pipline)方式：高度集成的使用方式，几行代码就可以实现一个NLP任务 自动模型(AutoModel)方式:自动载入并使用BERT等模型 具体模型方式：在使用时需要明确具体的模型，并按照特定参数进行调试 同时，列举了管道模型、自动模型、具体模型等三种transformers预训练大模型实例化方法。期待大家三连。
2.9K11编辑于 2024-08-13 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（四）：AutoTokenizer
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 这意味着，当你知道模型的名称时，你可以使用AutoTokenizer自动获取与该模型匹配的分词器，而不需要了解分词器的具体实现细节。 2.2 主要特点 模型兼容性：通过模型名称自动匹配合适的分词器，支持BERT、RoBERTa、Albert、DistilBERT、T5等众多模型。 灵活性：对于新发布的模型，只要其分词器在Hugging Face模型库中可用，AutoTokenizer.from_pretrained就能加载。 这意味着，当知道模型的名称时，可以使用AutoTokenizer自动获取与该模型匹配的分词器。
1.8K10编辑于 2024-08-13 - 来自专栏muller的测试分享
智谱 AI 大模型
简介智谱是清华大学技术成果转化公司中英双语千亿级大模型 GLM-130B对话模型 ChatGLM开源模型 ChatGLM-6BAI 提效助手智谱清言高效率代码模型 CodeGeeX多模态理解模型 CogVLM 文生图模型 CogView文生视频模型 CogVideo文生视频大模型开放平台 大模型体验中心编程调用# pip install zhipuai 请先在终端进行安装from zhipuai import temperature= 0.95, max_tokens=1024, stream=True)for trunk in response: print(trunk)总结国内开源大模型的领先者 ， 大模型领域的经典成功商业案例
53510编辑于 2024-10-28 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（一）：Tokenizer
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 Transformers 提供了数以千计的预训练模型，支持 100 多种语言的文本分类、信息抽取、问答、摘要、翻译、文本生成。它的宗旨是让最先进的 NLP 技术人人易用。 Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍Tokenizer类。 **编码**：将tokens转换为数字ID，这些ID是模型的输入。每个token在词汇表中有一个唯一的ID。 4.
1.7K12编辑于 2024-08-13 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（十二）：Evaluate模型评估
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍Evaluate模型评估。 二、Evaluate模型评估 2.1 概述 Transformers库中的evaluate API主要用于评估模型在特定数据集上的性能。 下面是一个使用Python和Transformers库进行模型评估的基本步骤，假设你已经有了一个预训练模型和相应的数据集处理器。 评估结果将包含各种指标，如准确率，具体指标还要取决于你的模型。
1K10编辑于 2024-08-13 - 来自专栏技术趋势
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large Language Model Meta AI是由meta（原facebook）开源的一个聊天对话大模型。 Linux图： 下载羊驼模型（有点大） 先建一个文件夹：path_to_original_llama_root_dir 在里面再建一个7B文件夹并把tokenizer.model挪进来。 /zh-models/7B/ggml-model-q4_0.bin 2 生成量化模型文件路径为zh-models/7B/ggml-model-q4_0.bin 运行模型 cd D:\ai\llama /alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 结果 最后 我知道很多同学可能觉得学习大模型需要懂python
1.5K30编辑于 2023-09-12 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（十三）：Datasets库
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 Transformers 提供了数以千计的预训练模型，支持 100 多种语言的文本分类、信息抽取、问答、摘要、翻译、文本生成。它的宗旨是让最先进的 NLP 技术人人易用。 Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 以下是如何使用datasets库加载数据集和进行基本预处理的步骤，以用于Transformers的模型训练和评估 2.2 使用方法 2.2.1 步骤1: 安装并导入datasets库 首先，确保你安装了
72710编辑于 2024-08-13 - 来自专栏人工智能极简应用
【AI大模型】Transformers大模型库（十五）：timm库
一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 Transformers 提供了便于快速下载和使用的API，让你可以把预训练模型用在给定文本、在你的数据集上微调然后通过 model hub 与社区共享。 你可以直接使用一个框架训练你的模型然后用另一个加载和推理。 本文重点介绍Hugging Face的timm库用法 二、timm库 2.1 概述 Hugging Face的timm库是一个用于计算机视觉的模型库，它提供了大量预训练的图像识别模型，以高效、易用为特点 timm库提供了很多模型，例如EfficientNet，ResNet等，这里以EfficientNet为例。
1.5K11编辑于 2024-08-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号