存量系统接入AI编码的冷启动方法拆解
模型够强,写代码就不愁——这个假设在真实业务需求面前不堪一击。一家厂商技术团队在多机房、跨前后端的存量系统上做 AI 编码冷启动时发现:限制落地的不是推理能力,而是两件更基础的事——AI...
手把手本地部署大语言模型打造私人AI
随着 AI 应用的快速普及,它已经悄然融入了人们的日常生活。相信大家对 ChatGPT、豆包、元宝这些 AI 应用已经不再陌生,并且几乎离不开它们了。但是,随着这些商用 AI 的广泛应用,一些问...
浏览器端AI推理对比:ONNX与MediaPipe
浏览器端 AI 推理方案对比:ONNX Runtime Web、Transformers.js 和 MediaPipe
一、为什么我们需要在浏览器端跑 AI 模型?
去年我做了一个在线图片风格迁移 的工具,最初用 Python 后端跑模型...
