首页
学习
活动
专区
圈层
工具
发布

Karpathy说:“别写prompt了,先聊起来!”

Hello啊朋友们,我是Simonlin,你身边那个会用AI的朋友。

昨天刷到 Karpathy 一条推,311万浏览。

他说跟大模型协作有个特别有用的模式,就是先别急着下指令,跟它来一场漫长的、随意的闲聊。让模型慢慢理解你的背景和偏好,然后再进正题。

评论区一片「大师悟了」。

我看完第一反应,对,确实是这样。

第二反应,等等,token 不要钱吗?

一场「漫长的闲聊」轻松吃掉两三万 token。后面每轮对话都带着这段历史跑,你每一次请求都在为前面的闲聊付费。

聊得越深,后面越贵。

Karpathy 不心疼,人家大概率用自家额度,你我是按量付费的普通人。

但仔细想,他真正在说的不是「多聊天」。

他说的是,一次性写一个完美 prompt 太难了。你自己都没想清楚要什么,怎么可能一上来就给模型精确指令?所以需要一个渐进式上下文构建的过程,先聊几轮让模型理解你,然后它出的东西越来越对味。

关键词是「渐进式」,不是说一股脑倒完,是一层一层搭。

我自己现在的用法就是这样。

桌面上跑着一个 AI 助手,它有持久化记忆。

我跟它聊过的东西不会忘,下次开新对话它已经知道我是谁、在做什么、上次踩了什么坑。不用每次重新聊。

这才是终极形态,不是每次从零开始闲聊,而是让上下文自己长出来,越用越厚,越用越准。

那如果你没有这种系统,每次都是新对话,怎么省着干?

三步。

探索阶段用便宜模型。Flash级别就行,试错成本低,这个阶段不需要最聪明的脑子,需要一个愿意陪你聊的搭子。

然后把聊出来的东西压缩成一份 brief。二十分钟里真正有用的信息可能就五六条,提炼成三五百字的结构化文档。

正式干活时只带 brief,不带原始对话。效果差不多,成本砍掉七八成。

Karpathy 说得对,先建立理解再干活,比上来甩指令强。但他没说的是,这个过程不需要每次重新来一遍。

真正高效的用法,是让上下文像滚雪球一样越滚越大,而不是每次堆个雪人然后看着它化掉。

我是Simonlin,下次见。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O-2WX74zJmy8DTEAlth7pwYQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券