马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有帐号?免费注册
x
本帖最后由 静若 于 2026-7-15 16:02 编辑
老司机搞机必看!剑侠AI 本地聊天整合包 v1.21 正式版来啦纯本地离线运行 | 解压即用免配置 | 自研 Vue3 中文界面 | 隐私无死角防护
为什么要折腾本地 AI?大家懂的都懂,现在在线 AI 限制越来越多,提问动不动就“敏感词敏感词”,要不就是聊着聊着突然断连、收费,甚至你问的那些私密话题、个人资料全在人家服务器上留底…… 这次搞出来的 剑侠AI 本地聊天整合包,就是为了彻底解决这些痛点。把顶级大模型直接塞进你自己的电脑里,不联网也能跑,想怎么聊就怎么聊,数据完全掌控在自己手里!
为什么说它是老司机必备?零门槛,解压就能用 内置了独立便携 Runtime 环境,不用再去配什么复杂的 Python 环境变量,也不用看满屏报错眼花缭乱。解压到文件夹,双击直接开运行! 自研 Vue3 中文高颜值界面 告别死板的 CMD 黑色命令行窗口!我们自己写的现代化三栏 UI,极其符合国人的使用习惯,操作顺手,颜值直接拉满。 真正的纯本地离线 & 隐私防护 所有计算全程吃你自己的显卡/CPU,零数据上传。还贴心内置了安全工作区,AI 帮你看代码或改文件前会自动备份,再也不怕把本地文件搞丢搞乱。 Models 自动识别 + 多模态识图 模型下好了直接往文件夹一扔,软件自动识别,不用手动改各种配置文件。支持多模态,扔张截图、架构图或者看图说话,直接就能跟它对聊。 显存极速释放 & 云端 API 无缝切换 软件一关,GPU 显存瞬间释放干净,绝不后台偷偷跑满你的显卡。要是本地显卡不够顶,还能一键接入云端 API 模式,灵活得很!
你的显卡能跑多爽?(硬件参考)入门级(6GB 显存):流畅跑 7B / 8B 级别的纯文本大模型(比如 Llama3、Qwen 等),平时写写代码、润色文案轻轻松松。 甜品级(12GB 显存·强烈推荐):稳跑 14B~35B 深度量化模型,多模态识图也毫无压力,体验极度丝滑。 发烧级(16GB 显存及以上):各种高精量化大模型随便扔,长文本推理、复杂逻辑分析直接拉满!
(PS:显卡稍弱的朋友也别慌,挂云端 API 同样能享受这套超爽的本地 UI 和安全备份功能。)
怎么上手?四步开爽:
整合包大小与模型说明
- 为了控制整合包体积、方便大家快速下载和试用,本体仅内置了一款 Qwen3.5-9B 多模态无审查模型。其他模型可根据个人需求后续自由扩展,既节省本地空间,又能即装即用!
- 整合包本体约1.20GB+内置Qwen3.5-9B多模态无审查模型一共8GB左右
- 为了方便无法“科学上网”的小伙伴下载,专门整理了 15 款精选实用模型,(直接使用云盘直连下载)
- 整合包内置;(模型适配显卡说明.txt),(整合包详细使用说明.txt),(模型下载.txt)
【开发阶段特别说明】
目前整合包仍处于 开发测试阶段,并不代表最终品质!由于不同电脑的系统环境差异,可能会遇到某些设备不兼容或功能 Bug 的情况。
期待您的反馈:
诚邀各位体验官在使用过程中帮我收集遇到的问题、Bug 或提出您希望新增的扩展功能!每一条建议我都将作为后续版本迭代规划的重要参考!
剑侠AI本地聊天整合包 · 更新记录 ================================================================================ 【v1.22】 2026-07-15 ================================================================================ 版本:v1.21 → v1.22 主要更新: · 新增 GPU 自动检测与算力后端切换 - 检测到 NVIDIA 独显 → 自动使用 CUDA 加速(python/) - 检测到 AMD 独显 → 自动使用 Vulkan 加速(python-vulkan/) - 未检测到独立显卡 → 默认 CPU 推理(-ngl 0;核显不默认加速) · 新增 python-vulkan/ 目录(llama.cpp b9870 Windows Vulkan 后端) · 加载模型时若 GPU 后端启动失败,自动回退 CPU,避免整包直接不可用 · 运行状态 / 日志输出「算力后端: CUDA / VULKAN / CPU」信息 · 支持高级强制切换:环境变量 JX_COMPUTE_BACKEND=cuda|vulkan|cpu · 同步更新《整合包使用说明》与《模型适配显卡说明》中的显卡说明
说明: · A 卡请保持 AMD 显卡驱动为较新版本(需支持 Vulkan) · N 卡用户行为与 v1.21 基本一致,仍优先走 CUDA · 模型显存档位表仍以 NVIDIA 为参考;AMD 可按相近显存选用 新版本1.22 支持A卡GPU加速了,大家仍然需要使用过程中中来测试看看,右侧运行状态有没有使用的是显存在跑!不同机型构造不一样 ================================================================================ 【v1.21】 ================================================================================ · 整合包基线版本(本文件自 v1.22 起正式维护) PS:N卡用户无需重新下载,这次更新是专门针对A卡用户的优化兼容,支持GPU加速 A卡用户需要重新下载,JianxiaChatv1.22 版本+然后保留旧版的Models目录的模型,只需要下载本体,用7-Zip解压后,把旧版的Models模型移到新版Models目录下即可 切记,解压整合包前,提前关闭系统杀毒软件和第三方杀毒软件,避免解压过程中误杀拦截整合包相关组件文件等,如果双击启动显示白屏,必须安装必备的WebView2前置工具 |