首页
学习
活动
专区
圈层
工具
发布
首页标签腾讯云

#腾讯云

混元加知识引擎能替代传统RAG吗?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
知识引擎本质就是把RAG链路托管了:解析、切片、检索、重排、生成一套全包。标准知识问答场景直接用,能省大量自建工作。但别用替代这个词,想边界更实际:权限过滤要做到行级、增量更新实时性要求高、私有化合规硬性要求、低延迟高并发这些场景,自建链路掌控力更强。落地常见的路子是混合:先用知识引擎快速上线验证业务,跑通后把高频问答对缓存下来,复杂检索回源自建向量库加重排。建议用真实业务语料做容器化压测,看检索准确率和P99延迟,数据说话再定架构,别在选型阶段拍脑袋。... 展开详请

腾讯云HAI真能撑起大模型微调吗?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
7B-13B的LoRA微调,HAI的GPU开发环境完全够用,预置镜像省掉一堆环境配置功夫,Jupyter里直接开干。单卡显存够的话,几个小时就能出适配层。 但HAI的定位是实验加Demo,不是生产训练平台。你要上分布式、大batch、多机多卡,或者要完整的MLOps管线,HAI的编排能力就不够了,这时候切TI-ONE或者自建K8s加Kubeflow更合理。 另外冷启动和显存峰值要注意,HAI的容器化服务如果配置没留余量,推理时容易OOM。建议先做小规模验证,吞吐和延迟达标了再考虑是否留在HAI上serving。短期实验选HAI,长期运营得换平台。... 展开详请

腾讯云AI产品评测只看准确率吗?

李福春code for life . 用代码解决碰到的问题。
正面看,准确率是AI产品评测的起点,但腾讯混元、知识引擎、OCR、语音识别和智能客服的考核指标并不相同。问答要看忠实度与引用,OCR要看字符准确率和版面还原,语音要看WER和响应时延,客服还要看解决率与转人工率。分层指标才能反映真实体验。 反面看,只看准确率会漏掉幻觉、拒答、安全拦截、并发稳定性和成本。一个模型在离线标注集上得分高,线上遇到长文本、方言、表格或诱导提问时可能明显下降;若不测P95时延、错误率、敏感内容拦截率和单次成本,上线后容易被投诉和账单反噬。 定论是,评测应覆盖功能、性能、安全、体验和成本五层。可执行验证:准备200条标注集和50条对抗样本,统计准确率、忠实度、幻觉率、拒答率、P95时延、敏感拦截率与单次成本;对腾讯云AI产品逐项打分,再决定是否进入灰度。... 展开详请

腾讯云智算能扛住推理洪峰吗?

李福春code for life . 用代码解决碰到的问题。
正面看,腾讯云智算配合弹性容器和HAI/TI平台,具备承接大模型推理洪峰的潜力:GPU资源池可扩缩容,网关可做限流,缓存可挡重复请求,监控能观察GPU利用率、显存和队列深度。对波峰明显的营销、客服和内容生成场景,按量弹性比固定买卡更灵活。 反面看,洪峰真正压垮系统的往往不是算力总量,而是冷启动、模型加载、排队策略和下游依赖。若没有预留实例、多级缓存、熔断降级和优先级队列,扩容速度跟不上流量,P95时延会迅速恶化;成本也会因长时间占卡而失控。 定论是,智算能扛洪峰的前提是SLO、压测和自动扩缩容同时到位。可执行验证:做阶梯加压,从50到500并发,记录QPS、P95、GPU利用率、错误率、扩容耗时和单位请求成本;再演练模型降级、缓存击穿和节点故障,确认熔断与限流阈值。... 展开详请

【全球可用区】调度总是往国外节点跑怎么办?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
这是中国大陆加速需要单独备案的问题。EdgeOne要启用中国大陆加速,域名必须完成ICP备案,且接入备案主体要和EdgeOne账号一致。你现在只有全球可用区和不含中国大陆两个选项,说明域名没做腾讯云侧的接入备案或者没关联上。解决路径:先在腾讯云完成ICP接入备案,通过后加速区域就能勾选中国大陆,调度会自动回到国内节点,回源到你北京源站的链路也会明显变快。提醒一点,中国大陆加速是单独计费的档位,价格和全球可用区不一样,切换前先看下计费文档,别上线才发现账单翻倍。... 展开详请

腾讯云的云主机无法使用公版Ubuntu26 LTS?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
云厂商镜像上架永远比官方发布晚,这是常态。新LTS要过安全加固、内核适配、virtio驱动、cloud-init兼容性一整套验证,通常要几个月。着急的话两条路:一是先用24.04,业务上没实际差别,内核特性需求用HWE内核基本能覆盖;二是在CVM上通过自定义镜像导入公版cloud image,但得自己处理cloud-init和驱动,生产环境不建议。如果只是想尝鲜验证,开个按量计费的实例导镜像折腾,测完销毁。正经业务等官方镜像上架再切,迁移前打快照,平滑换镜像就行。给云平台提需求可以,但别把生产计划押在镜像上架时间上。... 展开详请

为啥现在还没有腾讯云 ADP 前沿部署工程师 (FDE) 认证的购买链接?

构建产物有404.html,访问不存在url仍返回到首页?

用kiki部署在腾讯云上的dify登不上了怎么办?

用EdgeOne怎么实现内网穿透呢?

用 EdgeOne 做内网穿透,前提是回源地址必须公网可达。你跟着阿雷那篇教程(家庭宽带 IPv6 场景)没成功,大概率是环境不匹配。按这个顺序排查: 1. 先确认服务器有没有公网 IP 在公司那台服务器上打开 https://ip.sb 看 IPv4,打开 https://test-ipv6.com 看 IPv6。 如果显示的是 192.168.x.x / 10.x.x.x → 纯内网,EdgeOne 回源方案行不通(它找不到你的服务器) 有公网 IPv4 或 IPv6 → 才具备穿透基础 2. 确认域名是否 ICP 备案 EdgeOne 选「全球可用区 / 中国大陆可用区」必须备案。未备案只能走"不含中国大陆",国内访问基本不通,表现就是"无法连接"。在腾讯云控制台「备案」里查一下。 3. 检查 CNAME 解析是否生效 DNSPod 里二级域名的记录类型应为 CNAME,值填 EdgeOne 给的地址。nslookup 你的二级域名 看是否指向 EdgeOne。 4. 如果是纯内网无公网 IP(公司常见) EdgeOne 回源模式搞不定,建议换方案: frp / nps:需一台有公网 IP 的 VPS 中转,最稳 Cloudflare Tunnel:免费、无需公网 IP,但国内慢 ZeroTier / Tailscale:组虚拟局域网,适合团队内部访问 你描述"无法连接"且环境不清,优先排查第 1 步(公网 IP)和第 2 步(备案),这两步定生死。... 展开详请

如何把我们公司的MCP上传到腾讯云MCP广场?

在使用腾讯云 AI 模型服务时,如何有效降低 Token 消耗?有什么最佳实践可以减少不必要的成本支出?

提示词尽量准确,补充边界, 不给大模型发散、泛化的空间。

如何查看 MCP 工具入驻申请的进度?申请信息需要修改时该如何操作?

如何配置COSBrowser 访问由EO 加速的COS 存储桶?

EdgeOne 小助手

腾讯云 | 产品运营 (已认证)

您好,您可以参考下这个文档,在EO将源站配置为对象存储类型:https://cloud.tencent.com/document/product/1552/122800

上机考试所需硬件环境腾讯云考试中心提供,还是考生自己解决?

腾讯云 EdgeOne 加速域名 www.clearpayout.net 和 clearpayout.net 无法访问,浏览器报错怎么办?

使用了腾讯云边缘安全加速平台EO,部分接口出现525状态?

EdgeOne 小助手

腾讯云 | 产品运营 (已认证)

您好,525报错您可以参考排障指南进行排查:https://cloud.tencent.com/document/product/1552/112498... 展开详请

如何使用腾讯云日志MCP服务 SSE托管服务?

如何在腾讯云调用自己的同花顺软件?

腾讯云openclaw和自研lightclaw ACE哪个镜像比较好用?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
领券