小龙虾挺火的,各种意义的火,但是更多的人是在卖铲子,赚知识信息差的钱。我们今天认真的谈一下,企业级的“龙虾”该怎么养,又会如何进化。
和AI Coding一样,现在小龙虾是给个人用的产品,还没有看到成熟的企业产品出现。企业级应用的第一个核心门槛就是“安全”,第二个门槛是可审计,对于特殊行业而言,还会有更严格的监管等要求。
就此而言,现在的小龙虾是不合格的,毕竟只是一个开源产品,但是这部分并没有什么技术难度,运行环境也可以放到企业级的沙盒中,获得更大的安全性。
我们想象一下,比如,一台服务器(本地或云),一个或多个跑在沙盒中的小龙虾,每个人类员工有账号可以和他们对话,同时给人分配两个文件夹,一个对龙虾只读,一个则是龙虾可写。员工可以告诉服务器里面的某只小龙虾:“帮我把我上传到文件夹的文件处理一下,把其中的发票文件夹下的PDF文件都识别一下,然后把文件名改为YYMMDD_总金额_税率_类型,放到输出文件夹,再做一个Excel把他们分类填一下”。实测下来,这类动作其实能够大幅提高日常办公效率的。
从小龙虾目前的应用效果来看,它应该是个试错和Skill生成工具,这也是“养”的真正意义:一旦有一个好的功能跑通了,我们可以定期整理Skill,分门别类,这些经验以后可以复用。
为什么要复用?因为小龙虾在探索某一个能力的时候,可能会有大量试错,这个非常消耗Token,很多人惊呼的天价账单,就是这么来的。
一旦我们构建了这么一个小龙虾池,我们当然希望能够具备企业级的健壮性,例如某个订阅的Token不够了咋办;某个LLM无法访问了怎么办;对于用途不同的任务,不同大模型有不同的优势和成本,又该怎么优化。
另外,一些企业级的知识,我们可以通过各种方式整理后,让小龙虾能够访问,但为了节省上下文,我们不应该只让一只龙虾啥都懂,而是不同龙虾有不同的知识范围。这些知识还可以通过本体论的结构加以描述,进一步减少幻觉。
所以这里我们还应该构建一个框架,解决这些“健壮性”问题,其实就是一个路由,一个问题和龙虾特长的路由。
如果龙虾之间还可以互相交流,接到命令的龙虾可以将复杂任务分解给不同的龙虾完成,这样,协作体系也就搭起来了。
当以上工作都已经完成,我们如果给每只小龙虾起个拟人化的名字,换上AI生成的帅哥美女头像,再根据不同名字的小龙虾有擅长的skill(对应不同的Token成本和智能程度),给他们挂上对应部门的头衔,那,这就是数字员工的雏形了。
这也是小龙虾的终极进化目的:企业数字员工(主管)。
总结一下:从个人应用到企业级应用,我们要做的就是:安全、健壮、可控、可持续迭代、可持续学习,经验持久化。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。