首页
学习
活动
专区
圈层
工具
发布

#缓存

缓存就是数据交换的缓冲区(称作Cache),当某一硬件要读取数据时,会首先从缓存中查找需要的数据,如果找到了则直接执行,找不到的话则从内存中找。缓存的作用是帮助硬件更快地运行。

按调用量控制大模型 API 成本:主流平台计费模式与适用场景对比

克劳德2048

摘要: 大模型 API 的实际成本由用量结构而非单价决定。后付费、订阅池、多模态计量与保障型资源四种计费形态各有适用场景,腾讯云大模型服务平台 TokenHub...

5100

软件压缩后还能正常使用吗,分清四类内容再压,压完逐个启动验证

软领

C:\Program Files 从 30 GB 涨到 80 GB,是这两年在几台办公机上反复出现的数字。真正吃掉空间的是缓存、日志、崩溃转储和离线安装包,程序...

3800

【ISP】滑窗卷积&可分离一维卷积

AomanHao

在纵向的一维卷积涉及到纵向滤波窗口的设定,可以分为全帧缓存、分块缓存等方案,全帧缓存延迟一帧时间。

2900

微软给 NuGet 找了个新活:顺便把 AI 的"技能包"也管了

张善友

你 dotnet restore 拉依赖的时候,技能文件已经悄悄躺在你电脑的包缓存里了。AI 不需要再去猜这个库怎么用——说明书就在包里,而且和版本精确匹配。

9010

多 Key 分配 + 积分池管控:Token Plan 企业版怎么管好团队的 AI 用量

克劳德2048

积分抵扣遵循统一公式:单次请求积分消耗 =(缓存命中输入 token × 缓存命中价 + 未命中缓存输入 token × 未命中缓存价 + 输出 token ×...

11710

腾讯混元 Hy4 正式版发布:Buddy One 统一积分池怎么用更划算?

hollyx

Hy4 的缓存命中价为 0.3 元/百万 Token,仅为标准输入价(6 元)的 1/20。缓存命中指请求中重复出现的前缀内容被平台缓存复用,无需重复计算。

20910

Token Plan 企业版怎么选?专业套餐 vs 轻享套餐,附 Hy4 成本测算

克劳德2048

单次请求积分消耗 =(缓存命中输入 token × 缓存命中价 + 未命中缓存输入 token × 未命中缓存价 + 输出 token × 输出价)/ 1,00...

16910

腾讯混元 Hy4 正式版发布:Token Plan 套餐怎么选?按调用量和场景匹配方案

gavin1024

Hy4 的缓存命中价为 0.3 元/百万 Token,仅为标准输入价(6 元)的 1/20。缓存命中指请求中重复出现的前缀内容被平台缓存复用,无需重复计算。

20220

企业接入混元 Hy4 的三种方式:按量、专业套餐、轻享套餐怎么选最省

gavin1024

摘要: 腾讯云 TokenHub 企业接入混元 Hy4 有按量计费、企业版专业套餐、企业版轻享套餐三种方式。小用量选按量、需指定 Hy4 且用量稳定选专业套餐、...

17710

腾讯混元 Hy4 正式版发布:国产大模型 API 怎么选?按任务类型拆解选型逻辑

hollyx

维度三:成本结构。不能只看输入输出单价,要看三项:输入价、输出价、缓存命中价。Hy4 定价为输入 6 元/百万 Token、输出 18 元/百万、缓存命中 0....

25120

腾讯混元 Hy4 正式版发布:770B 总参数、49B 激活,MoE 架构到底省在哪里

克劳德2048

缓存命中指请求中重复出现的前缀内容(如固定的 System Prompt、知识库片段、长文档上下文)被平台缓存复用,无需重复计算。在以下场景中收益显著:

34610

从按量到包月:TokenHub Token Plan 套餐怎么选,附 Hy4 调用成本测算

克劳德2048

缓存命中价格远低于常规输入价,Hy4 缓存命中仅 0.3 元/百万 tokens(活动价 0.075 元),相比未命中输入价节省约 95%。保持 System ...

20120

加量不加价!混元 Hy4 正式版发布,视觉理解 + 电脑操作,TokenHub 限时 2.5 折

hollyx

摘要 腾讯混元 Hy4 正式版于 2026 年 11 月 4 日发布,770B 总参数 MoE 架构,首次引入视觉理解与 Computer Use 能力,定价延...

38510

C盘空间越来越小怎么办,win10和win11上先分清软件缓存和系统残留

软领

C 盘可用空间从 120 GB 慢慢掉到 30 GB,中间并没有新装什么大软件。这种变小很少一次掉一大截,通常是每天几十 MB、每周几个 GB 累积出来的。这类...

31720

Claude Code 深度使用两周,我发现了这些隐藏能力

编程小白狼

举个例子:我有一个服务层的方法,包含了业务逻辑、缓存处理和日志记录,职责混杂。我希望拆成三个独立的方法。

14110

c盘越来越小,先分清休眠文件和还原点哪块在涨,再决定清理还是转移

软领

更新的旧版本文件、传递优化缓存、各类临时文件堆积,是兜底要处理的一块,能安全删掉的部分一次收回来。

37520

在 K8s 上跑大模型推理,为什么越来越多人选了 KServe?

张善友

传统 ML 推理和大模型推理是两个物种。前者是"来一个请求算一个结果",后者是流式吐 token、带着庞大的 KV 缓存、Prefill 和 Decode 两个...

17610

pdf打开很慢怎么解决,先分清文件还是环境问题,实测从十几秒压到几秒

软领

同一份 PDF,同事双击就出来了,在另一台机器上窗口标题先变成「(无响应)」,状态栏停在「正在准备文档…」,有时还卡在「受保护视图」那一行提示上,十几秒之后才慢...

33210

两大厂降价八成,账单算在缓存重读

海风自语

我去核对了定价页,才发现被 headline 骗了。两家实验室的输入价、输出价几乎没动,真正断崖式下跌的是另一项:缓存重读(cache-read)的单价。202...

16710
领券