首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >腾讯云AI代码助手+DeepSeek-R1出发~

腾讯云AI代码助手+DeepSeek-R1出发~

原创
作者头像
用户10648046
发布2025-02-26 15:19:25
发布2025-02-26 15:19:25
2707
举报

#腾讯云AI代码助手# @ 腾讯云 AI 代码助手

使用感受:

作为一款主打搜索增强数学推理的中文大模型,总结关键体验如下:

▶ 环境部署

  • 通过Hugging Face快速获取模型权重(支持FP16量化版本)
  • 使用vLLM推理框架部署,3090显卡显存占用约10GB
  • 需自行配置搜索引擎API(测试中接入Google Programmable Search)

▶ 核心能力实测

  • 复杂数学推理
  • 搜索增强验证

▶ 性能表现

  • 处理2k字上下文时生成速度达28字/秒(fp16精度)
  • 长文本处理:在8k token的合同文本中定位关键条款准确率92%

▶ 显著优势

  • 数学符号处理超越Llama 2同尺寸模型(测试20题正确率85% vs 68%)
  • 搜索指令智能触发机制(减少无效API调用)
  • 支持中文思维链推理(CoT)提示

下面分享一个简单的实例👇🏻

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档