完整零基础本地部署DeepSeek Harness接入LlamaCpp私有模型

文章配图

这是一份 DeepSeek Harness 本地完整部署保姆级教程,面向 Windows 系统、零基础也能照做。内容覆盖 Node.js 26.7 环境安装、DeepSeek 官方仓库拉取、pnpm 依赖安装、项目编译构建与 Web 服务启动,再配合 LlamaCpp 部署 qwen2.5-1.5b 本地量化模型,完成接口对接与可视化对话调试,帮你搭起一套无外网依赖、本地高效运行的私有化 AI Agent 工作台,适合个人做本地 AI 开发、模型测试和智能体调试。

一、项目简介

DeepSeek Harness是DeepSeek开源的全插件式AI Agent工作台,支持自定义大模型接入、可视化对话调试、多插件拓展,具备轻量化、高适配、可私有化部署的优势。相比在线AI工具,本地部署可实现数据本地化、无调用次数限制,搭配LlamaCpp量化模型,低配设备也能流畅运行大模型对话能力,是本地AI开发、智能体测试的优质工具。

本次部署走双仓库源码路线,把官方核心源码和适配优化版本合在一起,全程手动编译,稳定性更好,也更适合对接本地模型。

项目仓库地址:

1. 官方核心仓库:

文章配图

2. 适配优化仓库:

二、部署前置:安装Node.js 26.7环境

DeepSeek Harness 的运行依赖 Node.js 环境,这里指定安装最新稳定版 Node.js 26.7.0,以避免版本不兼容带来的报错。

2.1 环境下载

官方下载地址:

2.2 安装步骤

下载对应Windows系统安装包,默认路径安装即可,无需修改配置,全程下一步完成安装。

文章配图

2.3 环境验证

打开CMD命令提示符,输入以下命令,输出版本号即为安装成功:

node -v
npm -v

三、拉取项目源码并进入项目目录

将上述两个仓库源码下载至本地,解压后统一命名为 deepseek-harness ,存放至桌面或自定义英文目录(路径请勿包含中文、空格)。

打开CMD,切换至项目根目录:

cd deepseek-harness

文章配图

四、项目依赖安装与编译构建

进入项目目录后,依次执行以下全套命令,完成包管理工具安装、依赖下载、项目打包构建。

# 全局安装pnpm包管理器
npm install -g pnpm

# 安装项目所有依赖
pnpm install

# 编译构建项目,生成前端静态资源
pnpm run build

构建时会自动打包前端资源,出现 chunk 体积提示属正常现象,无需理会,等 4-5 秒构建结束即可。

五、启动DeepSeek Harness Web工作台

文章配图

项目构建完成后,执行启动命令,拉起本地Web服务:

pnpm dsh web

启动成功后,终端会输出本地访问地址,默认地址为:**

在浏览器中打开这个地址,就能进入 DeepSeek Harness 的可视化工作台页面。

六、LlamaCpp本地模型启动部署

本次部署采用qwen2.5-1.5b-instruct-q4_k_m.gguf 量化模型,通过LlamaCpp搭建本地模型接口,实现本地大模型对接,无需联网调用API。

把下好的模型文件放进 LlamaCpp 根目录,执行下面这条启动命令即可拉起本地模型服务:

文章配图

llama-server.exe -m qwen2.5-1.5b-instruct-q4_k_m.gguf --host 127.0.0.1 --port 11433 -c 16384 --cors-origins *

参数说明:

  • --port 11433 :本地模型服务端口,与后续工作台配置对应
  • -c 16384 :设置上下文窗口大小,提升对话连贯性
  • **--cors-origins *** :开启跨域,允许工作台跨域调用模型接口

七、工作台配置本地模型接口

7.1 新增自定义模型配置

文章配图

进入DeepSeek Harness Web页面,点击右下角【设置】,新增自定义模型提供方,填写对应配置信息:

  • 模型名称:qwen2.5-1.5b-instruct-q4_k_m.gguf
  • API地址:
  • API协议:openai-completions
  • 模型目录:自定义模型存放路径

填写完成后点击【保存】,并获取可用模型,确认配置生效。

7.2 启用本地模型对话

回到工作台主页面,在模型选择栏里选中配好的 qwen2.5-1.5b 量化模型,打开标准对话模式。

八、功能测试与效果验证

新建一个会话,输入提问指令(比如"请简单介绍一下自己"),发出对话后,工作台就能正常调用本地 LlamaCpp 模型并把回答返回来。

页面可实时查看对话日志、Token消耗、推理速度、缓存命中率等数据,代表整套本地部署+模型对接流程完全成功。

注:内容由AI生成,仅供参考。

0

评论0

请先
显示验证码
没有账号?注册  忘记密码?