前几天发了Dify创始人张路宇的一些语录,很多朋友表示很感兴趣,今天又在网上找了些张路宇的访谈,提取一些有意思的点。
张路宇其人

出生于1991年,因为接触电脑比较早,12岁做个人站长,初中毕业后没有上高中和大学,做了几年个人开发者,帮人家攒电脑、弄软件、本地社区等。
2009年,张路宇去到苏州,入职了一家叫蜗牛的做游戏的公司,成为了20人团队的技术主管,做游戏发行线的基础设施。
2018年,27岁的张路宇创办了飞蛾,这是一个面向开发者的软件测试协作SaaS产品(是DevOps环节中的一环),之后被Coding收购,原因是张路宇认为Coding是一家很好品位的公司,Coding CEO张海龙和他很像都有产品思维,也喜欢和开发者群体打交道。
后Coding又被腾讯收购,于是张路宇又在腾讯工作了几年,在此期间,张路宇带了更大的团队,对中国软件开发者群体理解也更深刻,也弥补了对商业化和规模化的经验。
2023年,32岁的张路宇从腾讯出来,第二次创业创办了Dify。
关于创业动机,张路宇说是源于对现状的不满,现状没办法把自己的潜力全部发挥出来。
比如做技术的时候,不满技术人员每天面临的混乱和低效,于是想办法做管理。后来发现问题不是出在技术上,而是出在产品,于是就去解决产品问题,后来又发现公司的组织、文化、立足点错了,于是就去做CEO。
都是源于不能掌控自己的命运,这一点和同样只有高中毕业的李想很像,李想经常说的就是:掌控自己的命运,挑战成长的极限。
Dify的思考
最初的Dify是核心功能是基于Rag快速搭建ChatBot产品,之后推出了Dify workflow,这样用户可以更灵活的定制和开发基于AI的Agent。
Dify workflow推出之后迅速得到了社区的反响,Dify创立12个月就获得了3w star,全球安装量超过了40w,成为了开源大模型中间件全球第一。
张路宇最初将Dify定义为AI应用开发平台,就是将之前做过多年的DevOps中的研发管理、持续发布、数字化的东西,换到大模型范式下。
大模型的范式是配套的Prompt工程、应用的链接和数据的加工,类似的Ops的范式转移,这在当时是一个未被满足的需求。
LLMOps分为两类:一类是为模型服务的、一类是为应用服务的。
为应用服务的分为三层:模型层、应用层、中间层。


模型层我们做不了,对小公司是投入非常重且回报不确定的一件事。应用层投入没那么大,但成功率比较低。
做中间层的原因是行业有强烈的需求,团队也有多年企业服务的经验,我们知道不同职能如何运作和信息如何交换。
Dify workflow满足了用户编排需求,用户如何基于编排开发产品呢?
张路宇说想要编排出好的产品,需要做好workflow,需要回到产品经理的根本上,从需求层面做抽象,抽象出最大公约数,然后在每一个功能和特性上排优先级,平衡易用性和灵活性,这个过程是用户驱动和数据驱动的。
用户驱动就是多和用户聊,获得大量的用户真实声音。
数据驱动是因为在做很多别人没做过的事情,需要做非常明确的观察,观察用户在怎么用,用户在做什么,归因用户在想什么来评估哪些功能是重要的。
Dify刚出来时,很多机构不buy in,认为大模型科技含量高,更牛逼,中间件没啥可做的。
结果一年过去了,再回过头看中间件,发现做好的人不多,因为大家低估了工程的难度。
所谓工程师很多复杂东西的排列组合,达到一个最优的状态,这就叫工程。
Dify这样的产品,没有很好的工程师背景是做不好的。因为很多东西做出来没难度,但平衡好很有难度,包括怎么设计、设计成什么样子都需要花很多心思,这个过程很困难。
比如做基于RAG的Chatbot,最本能粗糙的方式就是文本向量化,然后直接召回,但它的数据准确度无法接受,再网上就会引入很多新技术,比如混合检索、多维召回、召回之前的意图识别、拿到结果之后的Re-RAG和重排序,这些都做好还是挺复杂的。
RAG想要好的话,数据不一定多,但数据一定要好,很多企业数字化本身做的不够,就很难从头去构建这个东西,很多人本能的以为将企业中的文档、数据推给RAG就可以准确回答问题,这是不对的。首先你要做好意图识别,将问题归类,缩小问题区域,在这个范围里面找到最好的,效果才会好,这也是工程问题。
产品要有自己的北极星指标,Dify的虚荣指标是有多少人star,说起来好听,收入也还可以。Dify的北极星指标是投产的用户数,就是究竟有多少用户拿Dify做东西,并且赚到了钱,这是我们真正的北极星指标,它是一个非常深度的指标,指导我们去选择用户,排除无效需求。

工具类的产品本身就是全球化的,比如Xmind、Figma、JetBrains,不告诉你产品背后的公司是哪个国家的,你可能也不知道,技术类工具产品没有强文化属性,是全球化的。
Dify非常成功,作为CEO还有什么东西对你来说非常重要?
张路宇说,我对团队文化很关注,关心我们的同事们有没有跟最优秀的人协作,大家是否在做自己感兴趣的事情,是否每周都在保持创新。我们要赢在组织方式上,我们和大厂的组织完全不一样,大厂可以模仿我们做的产品,但模仿不了我们做事的方式。