← DeepSeek Harness 插件
DeepSeek Harness 插件Manifest 有效

dsh-plugin-local-model

DeepSeek Harness 本地 GGUF 模型管理插件,首条对话自动拉起 llama.cpp,空闲 5 分钟自动释放显存。

UI 与效率开发者工具
4GitHub Stars1Fork 数更新于2026-09-29

安装

$ dsh plugin --profile desktop add github:DZQJOKER/dsh-plugin-local-model

插件能力与用途

基于公开仓库快照由 AI 辅助整理,内容必须有源码依据;它不等同于兼容性验证或安全验证。

源码有据
dsh-plugin-local-model 为 DeepSeek Harness 提供本地 GGUF 模型与 llama.cpp / kvmem 运行时集成。在 DSH 设置中提供独立的「本地模型」管理面板,支持扫描选择本地 GGUF 模型及视觉投影(mmproj),并可自定义与切换命名参数预设。插件通过常驻轻量 HTTP 代理在首条对话触发时自动拉起 llama-server,并在连续 5 分钟无交互后自动卸载进程释放显存与内存资源。

核心能力

  • 在 DSH 设置侧栏提供独立的「本地模型」一级配置面板与启动参数回显
  • 首条对话按需拉起 llama-server,连续 5 分钟空闲自动卸载并释放显存
  • 支持参数预设管理,可将整套加载与推理参数存为预设并一键切换
  • 支持多 Token 预测(MTP)投机解码加速与视觉多模态投影(mmproj)加载
  • 自动探测 llama.cpp / kvmem 构建认识的参数并做安全门控与降级容错
  • 支持思考模式改写(chat_template_kwargs)、档位重映射及历史 think 剥离
  • 内置输出上限溢出保护(guardContextOverflow)与单飞加载防抖

适用场景

  • 在 DeepSeek Harness 中使用本地显卡或 CPU 离线运行 GGUF 模型且不常驻占用显存
  • 在文本生成、多模态看图与思维链推理等多种模型参数配置间快速切换
  • 使用 kvmem 或官方 llama.cpp 分支进行本地模型加速推理

适合谁

  • 希望在 DeepSeek Harness 中离线运行 GGUF 模型的本地用户
  • 需要精细调节 llama.cpp 采样参数与显存/KV 缓存策略的开发者
  • 使用 kvmem-llama.cpp 等定制分支运行大上下文模型的高级用户

文档中可确认的限制

  • 模型文件(GGUF)与 llama.cpp 运行时可执行文件需由用户自行下载放置
  • 同一时刻严格只支持加载一个本地模型实例
  • 设置面板 HTTP 桥仅允许本机回环请求,不支持局域网远程配置

DSH 兼容性

DSH Plugin 针对具体版本记录的运行验证证据。没有结果只代表我们尚未测试,不代表不兼容。

尚未测试目前还没有发布运行兼容性测试结果。

安全信号

来自包元数据和源码检查的客观信号。这些信息用于辅助判断,不代表绝对安全保证。

依赖数量

package.json 声明了 0 个运行依赖、3 个开发依赖、3 个 Peer 依赖和 0 个可选依赖。

信息
已声明 DSH Bundle

package.json 中声明了 DSH Bundle 元数据。

信息
已声明许可证

GitHub 报告该仓库许可证为 MIT。

信息
已获取 package.json

已获取仓库根目录 package.json,可用于 Registry 元数据检查。

信息
源码可用

本次 Registry 快照已获取公开 GitHub 源码元数据。

信息

来源与 Registry 记录

展示此条目的公开来源、Registry 分类与最近一次源码检查信息,并与运行验证结果明确分开。

源码仓库
DZQJOKER/dsh-plugin-local-model
Registry 来源
GitHub · dsh-plugin topic
Registry 分类
Plugin
源码检查
bee0024 · 2026-10-27

本页面基于公开源码信息独立收录。DSH Plugin 与 DeepSeek 及插件作者均无隶属关系;安装前请始终以作者仓库中的最新说明为准。

仓库活跃度

GitHub Stars
4GitHub stars
Fork 数
1
未关闭 Issue
1
最近提交
2026-09-29
最近发布
2026-09-29
插件维护者

你在维护这个插件吗?

此条目根据公开仓库数据生成。如果你维护该项目,可以检查页面信息;如果你认为这个条目对用户有帮助,也可以在 README 或项目资源中引用它。

添加到 README
已收录于 DSHPlugin.app