AI编码成本复盘:Token消耗与交付对账方法
月底账单一到,三个问题答不上来:钱花在哪个任务、哪个 Agent 上了?换来了几件交付?还是某个智能体在同一件事上反复空转?只看 Token 是记账,配上交付才算复盘。本文给一套把成本和交付...
PPT智能体构建拆解:成品形态与卡片写作契约
一个能直接交出 PPTX 文件的智能体,和普通对话机器人差在哪?差的不是模型,是工程结构:交付形态、写作约束、渲染链路这三层各管各的。本文以一个线上 PPT 专家的真实实现为例,拆开看成...
AI信息聚合入口实战:去重、评分与双语摘要
跟进 AI 领域动态的人都有同款疲惫:一条进展至少有四个版本的现场——官方博客给事实,社交平台有从业者即时解读,Hacker News 评论区藏着反例和复现失败,隔两天 Reddit 出实测、论文榜出相...
多模态嵌入离线RAG:768维向量部署与取舍
检索增强生成的检索端,能不能整个塞进手机或浏览器?Google DeepMind 2026 年 10 月发布的 EmbeddingGemma 2 给出了肯定答案:740M 参数、Apache 2.0、文本代码图像视频音频五种模态全部投...
工具调用机制拆解:模型怎么选中并执行工具
大语言模型的本质是根据上下文预测下一个 token,那它凭什么能读文件、跑命令、改代码?答案是工具调用机制——模型自己不动手,它只生成"我想调用什么工具、什么参数"的结构化请求,真正执行...
vLLM推理集群弹性伸缩:指标失真与扩缩容策略
大促流量一来,推理集群崩了;流量低谷时,GPU 却常年空转烧钱。问题多半出在伸缩策略上:把无状态微服务那套"CPU 到 80% 就扩容"直接搬到 LLM 推理集群,结果要么浪费要么崩。根因是传统指...
LangChain解析器实战:结构化输出与避坑指南
大模型的输出是自由文本,业务代码要的是结构化数据——这个缺口就是解析器(Output Parser)要填的。它干两件事:提前把格式约定注入提示词,从源头规范输出;拿到结果后校验类型与合法性,...
全面探讨:AI知识库是捷径吗的技术原理与发展趋势
烂笔头不如大脑里有。
01
在互联网的周期里,许多场景都经历过:多次推倒之后的重建,生活和工作的形式,现在和十年前相比:
不仅效率飞升,而且成本骤降。
网络还没有普及前,文字更多留存...
揭开披着智能体外衣的固定流程真相
“Agent”现在是个筐,什么都能装。让大模型帮忙拆解任务、调用工具,再加一段“根据情况决定下一步”的循环,很多团队就会把它叫Agent。可这类系统一旦进了生产环境,麻烦往往随之而来:同样的...
RAG为什么越来越重要?4个原因一次说透
前面的文章依次介绍了如何截断历史会话的对话记录,涵盖按照记录数量截断、按照Token长度截断,以及浓缩为摘要截断等等,其中摘要操作又分为三大类:
1、运用第三方的摘要库对文本摘要;
2...
