1. 库内推理路径
- 将 Embedding 生成、语义打分、内容分类、结果重排等轻量 AI 算子下沉至数据库内核
- 数据无需离开数据库即可完成推理,降低时延并保障数据安全
2. API 代理路径
- 数据库负责请求编排、上下文封装与结果解析
- 实际推理调用外部大模型服务,适合需要通用知识的复杂任务
3. 模型托管
- 部分系统支持将轻量模型直接部署在内核,查询时同步完成推理(查数据即出智能结论)
- 风控、预测类场景可在库内闭环,省去中间存储中转
4. 价值与边界
- 库内推理适合高频低延迟轻量任务,API 代理适合重复杂务
- 降低原始数据外传风险,缩短交互链路,提升边缘与轻量智能体落地效率