首页
学习
活动
专区
圈层
工具
发布

最贵的AI 才是最便宜的

由于 Seedance 一块多一秒,我们每天跑 2、300 条,每天烧 5k 有点肉疼所以,我决定去研究平替。例如用wan做动作迁移,改语言,再做配音等等。。就这样一顿操作算下来,工作量翻了几倍,但价格好像更贵了。。于是,我就这样浪费了半天时间更肉疼了这个时候才理解这个定价的性价比:一个模型就把动作参考、声音复刻、人物替换、创意实现等一系列的功能合并在一起了。简单到一句话就能把过去一整个工作流给替换了。。。所以现在我觉得很便宜了前晚在厦门夜话会的时候,我也说过这句话大家很认可尤其是关于「抽卡」好模型抽卡率低,算下来肯定是比“便宜”模型更划算的再比如现在没人提的知识库问答。之前我做的时候也想过省钱。想着不就是 RAG 吗?切文档、做 embedding、上向量库、加 rerank、再接一个便宜模型回答。看起来每一步都很便宜,很工程化,很有性价比。结果真跑起来才发现,便宜的是单次调用,贵的是整个系统。文档切碎了,关键信息丢了。召回多了,噪音一堆。召回少了,答案缺胳膊少腿。rerank 要调。prompt 要调。模型回答不稳,还要再加校验。最后为了让它少胡说,还得补规则、补测试、补人工审核。一套下来,链路越来越长,bug 越来越多,人也越来越累。后来 Gemini 更贵的大上下文模型出来了,把原始文档、表格、截图、业务规则一起塞进去,让它先读,再总结,再结构化,再回答,再自己检查引用来源。单次看是贵了。但答案稳定很多,系统复杂度直接降下来了。以前是用十几个便宜环节,拼一个看起来省钱的方案。现在是用一个更强的模型,直接吃掉中间大量胶水工程。这时候我才意识到,很多便宜方案不是便宜,只是把成本藏起来了。藏在调参里。藏在返工里。藏在坏答案里。藏在你每天盯着系统擦屁股的时间里。所以 AI 这件事,不能只看单价。要看最终能不能一次过。好模型贵,但它把不确定性买走了。而不确定性,才是最贵的。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O03_nKSq17Pi5trgmTf_QPZg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券