dsh-plugin-local-model
DeepSeek Harness 本地 GGUF 模型管理插件,首条对话自动拉起 llama.cpp,空闲 5 分钟自动释放显存。
安装
$ dsh plugin --profile desktop add github:DZQJOKER/dsh-plugin-local-model插件能力与用途
基于公开仓库快照由 AI 辅助整理,内容必须有源码依据;它不等同于兼容性验证或安全验证。
核心能力
- 在 DSH 设置侧栏提供独立的「本地模型」一级配置面板与启动参数回显
- 首条对话按需拉起 llama-server,连续 5 分钟空闲自动卸载并释放显存
- 支持参数预设管理,可将整套加载与推理参数存为预设并一键切换
- 支持多 Token 预测(MTP)投机解码加速与视觉多模态投影(mmproj)加载
- 自动探测 llama.cpp / kvmem 构建认识的参数并做安全门控与降级容错
- 支持思考模式改写(chat_template_kwargs)、档位重映射及历史 think 剥离
- 内置输出上限溢出保护(guardContextOverflow)与单飞加载防抖
适用场景
- 在 DeepSeek Harness 中使用本地显卡或 CPU 离线运行 GGUF 模型且不常驻占用显存
- 在文本生成、多模态看图与思维链推理等多种模型参数配置间快速切换
- 使用 kvmem 或官方 llama.cpp 分支进行本地模型加速推理
适合谁
- 希望在 DeepSeek Harness 中离线运行 GGUF 模型的本地用户
- 需要精细调节 llama.cpp 采样参数与显存/KV 缓存策略的开发者
- 使用 kvmem-llama.cpp 等定制分支运行大上下文模型的高级用户
文档中可确认的限制
- 模型文件(GGUF)与 llama.cpp 运行时可执行文件需由用户自行下载放置
- 同一时刻严格只支持加载一个本地模型实例
- 设置面板 HTTP 桥仅允许本机回环请求,不支持局域网远程配置
DSH 兼容性
DSH Plugin 针对具体版本记录的运行验证证据。没有结果只代表我们尚未测试,不代表不兼容。
安全信号
来自包元数据和源码检查的客观信号。这些信息用于辅助判断,不代表绝对安全保证。
package.json 声明了 0 个运行依赖、3 个开发依赖、3 个 Peer 依赖和 0 个可选依赖。
package.json 中声明了 DSH Bundle 元数据。
GitHub 报告该仓库许可证为 MIT。
已获取仓库根目录 package.json,可用于 Registry 元数据检查。
本次 Registry 快照已获取公开 GitHub 源码元数据。
来源与 Registry 记录
展示此条目的公开来源、Registry 分类与最近一次源码检查信息,并与运行验证结果明确分开。
- 源码仓库
- DZQJOKER/dsh-plugin-local-model
- Registry 来源
- GitHub · dsh-plugin topic
- Registry 分类
- Plugin
- 源码检查
- bee0024 · 2026-10-27
本页面基于公开源码信息独立收录。DSH Plugin 与 DeepSeek 及插件作者均无隶属关系;安装前请始终以作者仓库中的最新说明为准。
仓库活跃度
- GitHub Stars
- 4GitHub stars
- Fork 数
- 1
- 未关闭 Issue
- 1
- 最近提交
- 2026-09-29
- 最近发布
- 2026-09-29
相关 DSH 插件
综合核心能力、适用场景、插件类型、分类和 DSH Profile 进行相关性排序。
面向 DeepSeek Harness 的 WorkBuddy 多账号容错模型池与额度聚合插件。
查看插件 →DeepSeek Harness 免费前沿模型提供方插件,内置上游可用性探测与本地 OpenAI 兼容转发网关。
查看插件 →用于 DeepSeek Harness 的 Command Code 模型服务商插件包,支持模型目录、额度跟踪与多账号轮换。
查看插件 →通过 OAuth 在 DeepSeek Harness 中使用 ChatGPT、Claude、Grok、GitHub Copilot 与 Antigravity 订阅模型。
查看插件 →