DeepSeek 再次开源了线上生产环境的核心推理引擎 DeepInfer。Apache-2.0，21K Star，4个commit，整体给的很实在：batch...

一笔订单同步超时之后，应该立即重试，还是先查询远端任务？本地写着“失败”，远端却可能已经完成；重试器继续提交，又可能制造重复订单。异步集成最难处理的，往往是这种...

摘要： 当 AI 能够帮助更多人写方案、做分析、产出内容，个人在企业中的价值该如何体现？我认为，品质、态度与责任心，会通过持续交付和深度交付变得具体。本文从日常...

摘要： 调度计划确定之后，vLLM 如何把计算高效地交给 GPU？本文解释 Attention 后端、FlashAttention、编译优化和 CUDA Gra...

摘要： 面对长短不一的生成请求，vLLM 如何兼顾并发、响应速度与有限显存？本文从连续批处理出发，用 token 预算和显存算例解释 Chunked Prefi...

摘要： 一次大模型请求从进入接口到返回文字，背后经历了哪些步骤？本文沿着 vLLM 的请求链路，串起分词、Prefill、Decode、KV Cache、模型前...

这本书写于1997年。那时互联网刚刚兴起，没有比特币，没有智能手机，更没有今天的大模型。但作者已经开始讨论数字货币、远程工作、虚拟企业，以及个人如何摆脱传统组织...

这不是危言耸听，这是我们每个人工位上正在发生的事。真正被冲击的，不是"程序员"这个身份，而是"只会写代码"这个定位。过去十年，我们靠一句"这个我能实现"立足；而...

大模型推理中的 PD 分离：计算特征、KV Cache 传输与引擎实现 中对 vLLM、SGLang 与 MindIE 的 PD 实现的做了简单的说明，本篇在前...

第一条，DeepSeek-V4.1-Flash-1017 发布。第二条，开放自研搜索 API。

这里的返祖，不是回到原始社会。而是那些被工业时代压下去的东西—个人、师徒、小团队、部落式协作、现场判断，甚至按任务出猎的工作方式—可能重新变得重要。

某中级人民法院立案庭的法官助理，把在线诉讼平台上一个新签收的起诉材料包交给 Agent：“看看材料齐不齐，处理一下。”Agent 读完起诉状、证据清单和十几页扫...

早上打开电脑，一份 Agent 日报已经躺在文件夹里，运行日志的最后一行写着 success。如果只看这两个信号，任务似乎已经完成。

一份年度体检报告打印出来，大概二十页。前面是基本信息和体格检查，中间是几十项检验结果，每项后面跟着参考区间和一个向上或向下的箭头，再往后是超声、CT、心电图各自...

OpenAI 最近推出的 Dots 与 ChatGPT Space，实际上代表了企业 AI（Artificial Intelligence）产品正在从“聊天机器...

这句话打动人，因为它确实描述过一个时代。过去一个人只要方向没错，很多东西会随着时间慢慢变值钱：经验、资源、信任、职位。企业也一样，品牌、渠道、客户关系、组织能力...

我们今天聊AI，大部分还停留在提效。写代码快一点，做PPT快一点，客服少几个人，报表自动生成。这些都没错，但可能不是重点。

想让 AI 总结微信群消息，之前每次都需要手动选中聊天记录，再转发给 WorkBuddy，非常繁琐。现在通过 微信 CLI，可以让大模型直接读取本机微信的消息记...