从零开始学Agent:先搭一张智能体应用地图
接触《从零开始学 Agent》这本书的感想是:它没有把 Agent 当成一个独立的流行概念来写,而是从大语言模型、工具调用和记忆这些基础能力开始,逐步延伸到 RAG、上下文工程、Harness、Skill、...
把评测讲透:从概念到落地只需这一篇
为什么需要认真设计评估
AI工具要上线,不能光靠几个手工例子拍脑袋。就像给生产API写单元测试一样,AI代理需要一套自动评估机制,才能持续知道它好不好用。但评估要烧token,所以设计评估...
所有人都在谈Happy:真正该做的是反直觉
学完 Transformer 的基本结构后,再看预训练语言模型的发展,会发现很多模型名字并不是彼此割裂的。BERT、T5、GPT、LLaMA 看起来像不同时代的代表,底层说到底都在回答同一个问题:我该使用 ...
智能体运维范式:从目标驱动到分级执行闭环
版本发布后错误率飙升,告警响了,指标、日志、链路数据一应俱全——然后呢?SRE 还是要在监控系统、日志平台、CMDB、研发平台之间反复横跳:确认影响面、关联变更、评估 AI 建议靠不靠谱、处...
苹果端侧30亿参数模型:量化、缓存与LoRA三板斧
30 亿参数的模型,16 位精度下光权重就要 6GB——还不算提示词、中间结果和操作系统抢占的内存。iPhone 要在共享内存里跑它,还要不发热、不卡顿、不耗干电池。苹果给出的工程答案值得所有做端...
YOLO云端平台拆解:从标注、训练到部署闭环
自己搭过视觉训练环境的都懂:标注工具、驱动、CUDA、框架版本、导出转换,每一环都能卡半天。Ultralytics 把这整条链搬到了云端——platform.ultralytics.com,从图片标注到 YOLO 模型投产在...
Agent工具调用链路拆解:定义、实现与调度三层
LLM 本身只会生成文本,读文件、跑命令、查数据库都要靠工具(Tool)。理解工具机制是理解 Agent 的地基:一个能干活的 Agent = 会决策的 LLM + 提供外部能力的 Tool + 把两者接起来的 Agent...
上下文工程实战:Agent跑偏的四大策略与失效模式
用 AI 编程助手开发项目时常见这样的曲线:开局表现很好,任务推进到几十轮后开始忘掉定好的技术方案、反复尝试已经失败的方法、甚至修改无关代码。模型没变,变的是上下文——对话历史、工具...
公网调用零依赖:本地离线部署LangGraph
# 原标题:LangGraph Server Agent 框架本地部署指南
来源:https://www.cnblogs.com/LyShark/p/22655620
本文介绍如何基于 LangGraph Server 服务搭建一套本地离线 AI Agent 的完整部署流程...
大模型训练三大并行怎么选:瓶颈驱动与气泡控制
数据并行、模型并行、流水线并行三个词经常被混着说。粗分一句就清楚:数据并行复制模型、拆分样本;模型并行拆模型本身;流水线并行按层分段,让数据像流水一样过设备。这篇讲三者的适用边...
