首页
学习
活动
专区
圈层
工具
发布

#LLM

一年像过了三年!Simon Willison复盘LLM与Agent的狂飙时刻

极客杰尼

昨天读了 Simon Willison 的一篇文章:2026 in LLMs (so far),这个博客我基本每次必看,写的很不错。

7922

接国内 8 家 AI 的联网回答,超时、字段和引用该怎么设?用 26 天 8,232 条记录算了一遍(附 pandas)

用户12830378

拿真实记录一对,这三行都有问题。智谱的成功回答里有 30% 超过 120 秒,元宝有 14%。超过 4,000 字的回答,智谱占 23.6%,DeepSeek ...

2600

资料检索 1|直接放入全文、按需读文件和先检索,有什么区别?

cc_carman

假设你给个人资料助手两份读书会通知,问报名截止日期。把两份正文一起交给模型,就能让它依据这些材料回答。

3510

GEO多语言技术文档怎么做?hreflang配置与术语校验

AB客

多语言 GEO(Generative Engine Optimization)是指面向不同语言用户的 AI 搜索与问答场景,优化技术文档的语言组织、页面对应关系...

6120

AI 回答里的引用链接怎么清洗:跟踪参数、同站多域名、临时链接和失效率(附 Python)

用户12830378

我第一次给 AI 回答里的引用做排行,排在最前面的一项是 https://mp.weixin.qq.com/s,后面一个参数都没有。这当然不是哪篇文章,是一千多...

12810

检索增强生成(RAG):从离线索引到在线重排的工程实现

晒太阳的蓝金猫

想象一个学生,背过很多书,但有两个毛病:记不准细节,也记不住昨天才发生的事。你问他"公司上季度营收是多少",他可能凭印象编一个数字——听起来合理,其实是错的。大...

9710

How to Reduce Token Cost for LLM Agents: A Practical Guide

gavin1024

If you've been building with LLM agents for a while, you've probably noticed the...

15010

LLM Agent 上下文过长怎么办:Token 压缩与记忆管理实践

hollyx

Agent 用着用着,对话历史从几轮涨到几十轮,Token 消耗从几千涨到几十万——成本飙升,响应变慢,还可能撞上模型上下文窗口上限。 这是 2026 年 Ag...

11810

门禁工程:人做人该做的事——工业/工贸CRM订单导入的LLM确定性范式

超兔一体云

摘要:把 LLM 接进一个已有 22 年沉淀的事务型 CRM,真正的难点不是让模型看懂表格,而是让一个概率组件产出的判决,安全地穿过解析、实体解析、引用完整性、...

17810

LLM 开发工程师入行:从“会调 API”到“能上生产”

IT大佬 jzit-top

LLM 开发工程师不是训练大模型的算法岗,而是把模型能力工程化为可靠产品的人:检索、编排、结构化输出、评估、成本与延迟优化。入行的分水岭只有一条——能不能交付一...

9510

未来的模型,出厂即“出厂设置”,越用越聪明

用户11752729

过去两年,我们解决这个问题的方式很“工程师思维”:既然模型记不住,那我就给它外挂一个知识库(RAG),或者把几十页的文档塞进长上下文(Long Context)...

8310

Chunking 切片的四种策略:从小块到大块到语义分块

A小码哥

之前已经讲过按照固定chunk大小切块,和按照段落分明切块。现在补齐另外两种模式。

13610

AI 回答里的品牌提及怎么判:别名归一、否定语境和排名位置的解析实现

用户12830378

做 AI 回答监测,大家讨论得多的是采样:问哪些问题、问几次、哪些平台。我自己踩坑最多的却是采样之后的那一步:拿到一段回答,怎么判断它「提到了某个品牌」,是好话...

16610

LLM 可解释性方案总览:用可核验引用拆解 CoT 思维链迷思

用户6808650

对于云端 AI 应用,LLM 可解释性不能只看输出是否连贯。2026年10月的 arXiv 2610.02480 讨论了 LLM 自我解释不忠实问题:模型生成的...

15010

工具调用 7|第一轮完整实战:让助手查找、读取资料并给出回答

cc_carman

这次不把通知全文直接放进问题里。我们给助手两个工具:一个查找通知,一个读取正文。模型先看到问题和工具说明,再根据每次取得的结果选择下一步;Python 程序负责...

9500

工具调用 6|助手什么时候该停下来?

cc_carman

助手可以搜索通知、读取正文。每次工具执行后,程序把结果交给模型,让模型决定继续查,还是给出回答。

8210

推理成本下降 68%:多 Agent 代码审查系统的缓存对齐与降本实践

七牛开发者

多 Agent 代码审查系统的成本会随模型调用次数和上下文长度增长。即使大量输入命中缓存,反复读取会话历史仍会产生较高费用。

12010

7 个阶段,27 篇经典论文,一文看懂 Transformer 如何催生现代 LLM

AI-Frontiers

原文:​https://mp.weixin.qq.com/s/FyxeVIPXFxgJKueRkozMIw

15110
领券