- 综合排序
- 最热优先
- 最新优先
本周10大融资：AI与自动驾驶领跑
本周十大融资事件：人工智能、自动驾驶与生物科技位居前列这是一份每周专题报道，盘点美国范围内已公布的十大融资轮次。 本周，十大融资轮次中仅有一半的融资额超过1亿美元，这在风险投资巨型轮盛行的当下略显不同寻常。不过，仍然出现了一些大额投资，由某机构对Anthropic的50亿美元投资及合作协议领衔。 其他较大规模的融资轮次涉及航空自动驾驶、视觉疗法和人工智能分析等领域的公司。 Orkes，6000万美元，工作流编排：人工智能软件工作流编排平台开发商Orkes获得了6000万美元的B轮融资。AVP领投了这家成立5年、总部位于硅谷的初创公司的本轮融资。 方法论我们追踪了相关数据库中，在4月18日至24日期间由美国公司筹集的最大已公布融资轮次。尽管大多数已公布的融资轮次都收录在数据库中，但由于部分融资轮次在当周较晚时间才被报道，可能会存在少量时间延迟。
22410编辑于 2026-04-25- 来自专栏技术趋势
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large Language Model Meta AI是由meta（原facebook）开源的一个聊天对话大模型。 ~all~sobaiduend~default-1-106591160-null-null.142^v88^control,239^v2^insert_chatgpt&utm_term=windows10% Linux图： 下载羊驼模型（有点大） 先建一个文件夹：path_to_original_llama_root_dir 在里面再建一个7B文件夹并把tokenizer.model挪进来。 -f prompts/alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 结果 最后 我知道很多同学可能觉得学习大模型需要懂
1.7K30编辑于 2023-09-12 - 来自专栏喔家ArchiSelf
大模型应用设计的10个思考
技术不是万能的，但没有技术却可能是万万不能的，对于大模型可能也是如此。 基于大模型的应用设计需要聚焦于所解决的问题，在自然语言处理领域，大模型本身在一定程度上只是将各种NLP任务统一成了sequence 到 sequence 的模型。 利用大模型， 我们是在解决具体的生产和生活中的问题，产品和技术上的设计仍然不可或缺。 那么，如果大模型正在重新构建软件工程的未来，我们是否应该遵循一些基本原则呢？ 1. 因此，只要我们对模型进行适当的控制和引导，它就能成为我们工作中得力的“助手”。而这种控制的基础，就是我们对模型内部机制和特点的深入了解和掌握。 10. 因此，我们在使用大模型时，应该保持理性和谨慎的态度，既要欣赏它们所带来的便利和进步，也要警惕它们的局限性和潜在风险。这样，才能更好地利用这些模型，推动基于大模型应用的健康发展。
66210编辑于 2023-12-04 - 来自专栏喔家ArchiSelf
大模型应用的10个架构挑战
基于笔者近年来的探索与实践，这里列举了面向大模型应用系统架构设计的10个挑战。 1. 生产环境的挑战——推理框架的选择 对于大模型应用而言，生成环境的运行时是一个推理架构。 大模型应用需要一个针对产品级大型语言模型的高效管理系统。 尽管我们已经有了一些探索，例如《大模型应用的10个架构模式》(https://mp.weixin.qq.com/s? 适用性挑战——大模型的应用边界 大模型在人工智能领域确实展现出了强大的能力，它们在各种控制平面和应用场景中都发挥着重要作用。然而，尽管大模型的应用范围广泛，但并不意味着它们是无所不能的。 虽然大模型在人工智能领域具有广泛的应用前景，但并不是所有场景都适合使用大模型。在设计系统架构时，我们需要根据具体需求和技术挑战来判断是否需要引入大模型，以确保系统的高效性和可靠性。 10.
1.3K10编辑于 2024-12-24 - 来自专栏大模型应用
大模型应用：大模型性能评估指标：CLUE任务与数据集详解.10
，应运而生，它就像一把精准的尺子，为中文大模型的性能评估提供了标准化方案。 同样，没有CLUE这样的基准，我们也难以比较不同大模型的优劣。CLUE不仅填补了中文自然语言处理评估的空白，更为模型研发提供了明确的方向指引。二. CLUE基准概述1. label] = metrics['f1-score'] if f1_scores: labels = list(f1_scores.keys())[:10 : 完整的评估流程8.2 完整的评估指标准确率、精确率、召回率、F1分数精确匹配率（阅读理解）NER任务的序列标注指标置信度分析七、总结 CLUE基准作为中文大模型评估的重要标准，不仅为技术发展提供了明确的导向 随着人工智能技术的不断演进，CLUE基准也将持续完善，更好地服务于大模型的研发和应用。 正如一句古语所说："工欲善其事，必先利其器。"CLUE基准就是我们评估和提升大模型能力的利器。
67132编辑于 2026-02-07 - 来自专栏机器学习/数据可视化
机器学习分类模型10大评价指标
公众号：尤而小屋作者：Peter编辑：Peter大家好，我是Peter~机器学习分类模型的评价指标是在衡量模型在未知数据集上的性能表现，通常基于混淆矩阵和相关的评价指标。 样本的真实类别是负类，但模型将其识别为正类。True Negative（TN）：真负类。样本的真实类别是负类，并且模型将其识别为负类。 ，精确率越高，表示模型越好。 ，也就是说精确率是模型在某个类别上的判断。 下图是来自维基百科对ROC-AUC的解释：图片通过对分类阈值$\theta$（默认情况下是0.5，范围是0到1）从大到小或者从小到大排列，就可以得到多组TPR和FPR的取值，在二维坐标系中绘制出来就可以得到一条
1.6K10编辑于 2023-10-13 - 来自专栏量子位
小冰最新融资10个亿，30万数字员工准备大升级
金磊 发自 凹非寺 量子位 | 公众号 QbitAI 小冰最新融资消息披露了——10亿元人民币。 至于这笔融资的主要投入之处，小冰公司也有所提及： 用于加速AI Being小冰框架技术研发，推动数字员工普及。 具体升级内容如下： 本次升级加强的技术包括大模型对话引擎、3D神经网络渲染、超级自然语音及AIGC人工智能内容生成。 小冰框架是全球实际落地及完备度最高的AI Being基础框架，覆盖中国、日本、印度尼西亚等国6.6亿在线用户、10亿台第三方智能设备和9亿内容观众，商业客户覆盖全球。 在声音方面，由小冰进行词曲创作及歌声生成的各类作品，先后被采用为上海大剧院演出季、成都大运会、世界人工智能大会等重要活动的主题曲，也是今年首届全民阅读大会推广曲集中，唯一入选的人工智能作品。
68420编辑于 2022-12-08 - 来自专栏对白的算法屋
AI 大模型创业的 10 个灵魂拷问
下面就这 10 个灵魂拷问，分享一些我自己的观点。 做不做基础大模型？ 如果做基础大模型，需要上亿美金的前期投入，如何融到这么多资，如何招到靠谱的算法、数据和 infra 团队？ 但这样的模型推理成本会很高，就像现在 GPT-4 读一篇论文要 10 美金，只有高净值客户和探索科学前沿的场景才消费得起。 CoreWeave 通过跟英伟达合作，拿已有的 AI 芯片抵押用来买新的 AI 芯片，已经融资 23 亿美金，比头部 AI 应用公司加起来的融资额都多，真是卖铲子的比淘金的赚钱了。 推理性能优化的空间更大，因为 Transformer 的结构，很多场景下有效算力只有 10%~20%。如果做 batching，时延和带宽又会成为 trade-off。 第一，如果读一篇论文还是像 GPT-4 那样需要 10 美金，生成一段 7.5 分钟的视频还是像 Runway ML 一样需要 95 美金，大多数人就不可能用得起大模型。
70830编辑于 2023-09-01 - 来自专栏喔家ArchiSelf
大模型应用的10种架构模式
作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。 2.大模型代理模式 想象一个生态系统，其中多个专门针对特定任务的生成式AI模型各自作为其领域内的专家，并行工作以处理查询。 10. 双重安全模式 围绕大型语言模型（LLM）的核心安全性至少包含两个关键组件：一是用户组件，我们将其称为用户Proxy代理；二是防火墙，它为模型提供了保护层。 随着我们们继续探索和创新，还会涌现出很多新的架构模式，而且这里的10个架构模式以及新涌现的架构模式可能成为人工智能服务的表现形态。 我希望能够持续更新本系列，也希望对此有兴趣的朋友联系我， 共同研究探索，致力于大模型应用的架构模式。
5.4K11编辑于 2024-04-03 - 来自专栏TechLead
大模型应用曙光 - 10X压缩技术
拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。 如何在不牺牲性能的情况下将大语言模型缩小十倍？ 不用说，大多数消费设备（如手机、平板电脑、笔记本电脑）无法处理如此庞大的模型。但……如果我们可以让模型变小呢？ 模型压缩 模型压缩旨在在不牺牲性能的前提下减少机器学习模型的大小。 量化——使用更低精度的数据类型表示模型 剪枝——从模型中删除不必要的组件 知识蒸馏——通过较大的模型训练较小的模型 _注意_：这些方法是相互独立的。 知识蒸馏 知识蒸馏是将知识从一个（较大的）教师模型传递到一个（较小的）学生模型。一种方法是通过教师模型生成预测，并使用这些预测来训练学生模型。 令人惊讶的是，训练结束时，学生模型在所有评估指标上都超过了教师模型！ 接下来，我们可以在独立的验证集上评估模型，即未用于训练模型参数或调整超参数的数据。
56310编辑于 2024-09-24 - 来自专栏喔家ArchiSelf
大模型应用的10种攻击方式
我们将探索的每种技术都揭示了这些模型如何思考和推理的迷人之处。我特别高兴能够分享这些见解，因为它们不仅帮助我们理解如何打破这些系统，而且帮助我们理解如何更好地构建大模型应用系统。 1. 对于使用不太广泛或缺乏强大保护措施的微调模型来说尤其如此。 影响的严重性和本质可能会有很大的不同，并且很大程度上取决于模型操作的业务上下文和模型架构的代理。 明显的无意义字符创建了一种标记混乱的形式，混淆了模型的安全层，同时保持了核心请求的完整性。 目前，这种技术对于顶层模型只是部分有效。 对于那些尚未针对提示词提取尝试进行特别强化的模型，这种技术已被证明特别有效。 10. 多智能体妥协攻击 多智能体妥协攻击利用人工智能系统的协作特性，通过它们的交互机制传播妥协行为。 虽然并非所有这些技术都在 OWASP 的 10 大 LLM 应用程序漏洞中被明确归类，但是许多技术都属于其更广泛的类别： 提示注入、数据中毒和系统提示泄漏。
15410编辑于 2026-06-15 - 来自专栏深度学习与python
大模型应用的 10 种架构模式
作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。 1. 大模型代理模式 想象一个生态系统，其中多个专门针对特定任务的生成式 AI 模型各自作为其领域内的专家，并行工作以处理查询。 通过将大模型与基于规则的逻辑结合，我们能够融合结构化的精确性，旨在创造出既富有创意又遵循规范的解决方案。 10. 双重安全模式 围绕大型语言模型（LLM）的核心安全性至少包含两个关键组件：一是用户组件，我们将其称为用户 Proxy 代理；二是防火墙，它为模型提供了保护层。 没有结束 老码农认为，这些大模型应用的架构模式不仅仅是一种范式，很可能成为未来智能系统赖以成长的框架。
95510编辑于 2024-04-12 - 来自专栏社区动态
AI日报｜文生语音大模型国内外均有突破，Pika完成6亿新融资，视频大模型也不远了！
AI日报｜智谱AI再降价，同时开源9B系列模型；国内外气象大模型竞逐升级字节推出文本到语音模型家族Seed-TTS：擅长情感表达，与真人几乎无异字节跳动推出文本到语音模型家族——SEED TTS，其核心亮点在于生成的语音音色高度接近人类 并且Stable Audio Open一大亮点是用户可基于个人音频资料微调模型，让生成的内容更加个性化。 https://techcrunch.com/2024/06/05/stability-ai-releases-a-sound-generator/Pika完成全新6亿融资，即将发布全新视频生成大模型AI 视频生成初创公司Pika日前已完成总额8000万美元的B轮融资，由Spark Capital领投，Greycroft、Lightspeed Venture Partners以及Jared Leto参投， 截至目前，Pika总融资额已达1.35亿美元。Pika用户数达到数百万，每周生成数百万个视频。同时，Pika已租用数百个量级的GPU（图形处理器）芯片，用于模型训练和推理计算。
57310编辑于 2024-06-07 - 来自专栏AI科技评论
独家｜非 Transformer 开源大模型 RWKV 元始智能已完成种子轮融资
RWKV是国产开源的首个非Transformer架构的大语言模型，目前已经迭代到第六代RWKV-6。 彭博6岁开始编程，拥有30多年编程经验，迄今RWKV的基底模型都是由他一个人训练的。他认为，大模型被少数公司垄断会对于人类存在风险，所以训练出RWKV后便开源了，目的是想创建一个更开放的模型生态。 他认为目前的OpenAI过于封闭，他希望做更开放的事情，所以给出的回复是“如果以后OpenAI愿意做开源的大模型，欢迎合作”。 国内已经有一些公司在尝试用RWKV来训练模型，国外拿RWKV开源进行创业，拿到融资的，据罗璇了解已经超过10家。 据罗璇透露，此次融资的钱主要用于工具栈建设、孵化生态、孵化应用，模型训练主要靠赞助和合作，现在最大的阻碍是需要更多算力，所以训练出千亿模型仍然是他们当前最具挑战性的任务。
1.8K10编辑于 2024-01-23 - 来自专栏喔家ArchiSelf
10个构建Agent的大模型应用框架
LangChain LangChain是目前最受欢迎的大模型应用开发框架之一，几乎成为了构建大模型应用的行业标准。 增强的大模型推理 API优化大语言模型的推理性能，同时降低成本。 Autogen 特别适合与 开源系统 和 微软生态系统 结合使用，是构建 Agentic AI 和大模型应用的理想选择。 10. Haystack Haystack 是由 deepset 开发的一个开源框架，专门帮助企业构建生产级的 大模型应用、RAG（检索增强生成）流水线以及复杂的搜索应用。 大模型应用的10个架构挑战 浅析面向场景的大模型应用框架选择 解读小模型——SLM 大模型应用系列：从Ranking到Reranking 大模型应用系列：Query 变换的示例浅析 初探大模型压缩 解读大模型应用的可观测性 大模型应用的10种架构模式 LLM运行框架对比：ollama与vllm浅析
12.6K30编辑于 2025-03-24 - 来自专栏量子位
清华大模型人才遭哄抢！盘点5大学术重镇10大产业玩家
量子位独家获悉，背靠清华的大模型研究团队，计算机系教授唐杰牵头的创业公司智谱AI，身价水涨船高，在几近哄抢的状态中接近完成一轮新融资，估值已超30亿元。 唐杰的学生同样有市无价。 国内大模型力量百家争鸣：5大学术重镇，10大产业巨头 清华不是这轮浪潮中唯一的宠儿。随着AIGC和类ChatGPT产品相关话题日益高涨的热度，国内大模型人才市场好不热闹。 为此，量子位梳理了百家争鸣的国内产学研界大模型重镇，代表性机构和代表性人物，共计5支学术界团队和10大产业界力量，排名不分先后。当然极有可能挂一漏万，欢迎在评论区中补充。 △太乙根据提示次“小桥流水人家，水彩”生成的画作 接下来聊聊10家极具代表性的产业界力量： 01：百度 提起百度的NLP技术，最被人熟知的是文心大模型。 10：浪潮信息 去年年中，浪潮信息推出了4个技能大模型（SkillModel），分别为对话模型“源晓问”、问答模型“源晓搜”、翻译模型“源晓译”、古文模型“源晓文”，它们4个都基于“源1.0”大模型生成
2.1K20编辑于 2023-02-24 - 来自专栏菜鸟小白的学习分享
OWASP大模型安全Top 10分析与实践
OWASP大模型安全Top 10LLM01：提示注入定义• 攻击者通过恶意输入（文本/图像/音频）覆盖系统指令，操控模型执行越权操作典型场景• 图像隐写指令：CT扫描图中嵌入代码，诱导医疗模型误诊 • LLM03：供应链漏洞定义• 第三方组件（模型/数据/工具链）漏洞导致后门植入或数据污染。典型场景• Hugging Face恶意模型植入后门（如LoRA适配器投毒）。 • 设备端劫持：篡改量化模型参数操控自动驾驶决策。防御方案• SBOM物料清单审计：扫描200+子类依赖漏洞。 • 模型水印+签名验证：追踪模型流向防篡改。 LLM04：数据和模型投毒定义• 训练数据或微调过程被注入恶意样本，扭曲模型行为或植入后门。典型场景• 对抗样本触发后门：特定像素图案使安防模型漏检危险品。 合规关联• 《互联网算法推荐规定》要求“标注虚假信息”（第12条）LLM10：无界消费定义• 资源滥用导致服务拒绝（DoS）、经济损耗或模型被盗。
1.1K10编辑于 2025-10-27 - 来自专栏AIGC大模型应用
AI大模型企业应用实战(10)-LLMs和Chat Models
1 模型 两种模型： LLM 聊天模型 咋用： 提示模板格式化这些模型的输入 输出解析器来处理输出 LangChain 中的语言模型有两种类型： 1.1 Chat Models 通常由 LLM 支持，但针对会话进行调整 不同模型有不同最佳提示策略，如： Anthropic 模型最适合用 XML OpenAI 模型最适合用 JSON 示例将使用聊天模型，可用 Anthropic 或 OpenAI 等 API 或通过 Ollama 使用本地开源模型。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。 # LLM类大模型的流式输出方法 from shared.llm_utils import create_qwen_model #构造一个llm llm = create_qwen_model(
52800编辑于 2026-04-24 - 来自专栏钱塘大数据
10大经典管理分析模型，让工作事半功倍
模型分析法就是依据各种成熟的、经过实践论证的管理模型对问题进行分析的方法。 这些管理模型有的是由高校研究机构建立的,也有一部分是由大企业或者管理咨询机构建立的,它们在长时间的企业管理理论研究和实践过程中,将企业经营管理中一些经典的相关关系以一个固定模型的方式描述出来,揭示企业系统内部很多本质性的关系 4、SCP分析模型 SCP（structure、conduct、performance）模型，分析在行业或者企业收到表面冲击时，可能的战略调整及行为变化。 9、价值链模型 价值链模型最早是由波特提出的。 10、ROS/RMS矩阵 ROS/RMS（Return Of Sales/Relative Market Share）矩阵也称做销售回报和相对市场份额矩阵，主要是用来分析企业的不同业务单元或产品的发展战略
4.3K70发布于 2018-03-06 - 来自专栏JavaEdge
AI 大模型企业应用实战(10)-LLMs和Chat Models
1 模型 来看两种不同类型的模型--LLM 和聊天模型。然后，它将介绍如何使用提示模板来格式化这些模型的输入，以及如何使用输出解析器来处理输出。 LangChain 中的语言模型有两种类型： 1.1 Chat Models 聊天模型通常由 LLM 支持，但专门针对会话进行了调整。提供者 API 使用与纯文本补全模型不同的接口。 并非所有模型都一样。不同的模型有不同的最佳提示策略。如： Anthropic 模型最适合使用 XML OpenAI 的模型最适合使用 JSON 设计应用程序时牢记这点。 大模型都是一个个字打出来，免得让你觉得他每次神经网络计算太慢了，让你感觉他一直在持续输出。 #LLM类大模型的流式输出方法 from langchain.llms import OpenAI import os api_base = os.getenv("OPENAI_PROXY") api_key
47410编辑于 2025-06-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号