DeepSeek本地部署大模型LM Studio v0.3.9 for Windows 官方版(附使用教程)

发布日期:2025-02-20 15:22:29

栏目:办公软件

DeepSeek是一款深度求索官方推出的 AI 助手,软件内可免费体验与全球领先 AI 模型的互动交流。DeepSeek API 使用与 OpenAI 兼容的 API 格式。LM Studio 是一个本地部署大语言模型(LLM)平台,致力于简化LLM的使用和管理。它支持离线运行模型,并提供直观的界面,方便用户进行文本生成、模型微调和文档交互。

LM Studio支持mac, win, linux客户端,可以在本地运行Llama 3.2,Mistral,Phi,Gemma,DeepSeek,Qwen 2.5大模型,支持OpenAI本地服务器使用模型,有中文界面。

主要功能

桌面应用程序,用于运行本地 LLMs

一个熟悉的聊天界面

搜索和下载功能(通过 Hugging Face)

本地模型和配置管理系统

主要特点

离线运行 :允许用户在本地设备上运行LLM,完全脱离云端,无需依赖外部服务器。
本地文档聊天 :新版本(0.3)引入了与本地文档互动的功能,用户可以直接从本地文件中获取信息。
兼容性强 :支持与OpenAI兼容的本地服务器以及多种流行的LLM模型。
Hugging Face集成 :用户可以从Hugging Face仓库下载兼容的模型文件。
模型发现 :通过应用中的Discover页面,用户可以发现新的、值得注意的LLM。

使用教程

1、首先下载获取LM studio客户端,打开安装程序,这里我们选择“仅为我安装”

2、在目标文件夹我们选择空间充足的盘,这样后面的其他模型就都可以放一起,方便管理。注意:这里选择的文件夹必须只能是英文!

3、点击下一步安装直到安装完成,然后我们就会在桌面上看到LM studio的ICO图标

4、打开客户端,需要点击右下角的设置,里面把语言选择成为“简体中文”

模型存放及部署设置

1、需要下载Deepseek-R1模型,当我们下载好模型文件后,需要注意,不能随便存放,因为需要让安装好的LM Studio来加载,而它对文件加载是有规定的,在客户端里选择”模型目录“,然后我们选择”更改“

2、这里我们把文件举例放在D盘,新建一个文件夹,取名:models000,注意,这里的文件夹也不能有任何符号及中文

3、我们在models000下再建立一个文件夹001,在001里继续建立一个文件夹 002,这样002就处于三级目录下了,我们把刚才下载的R1模型文件,复制在这个002文件夹内就可以了

4、然后我们回到刚才LM studio的模型目录里,就直接可以看到刚才已经复制的模型了

5、点击聊天界面,再点击上面的模型选择按钮

6、选择刚才的模型后,点击加载等待完成即可,注意:这里可以选择加一个“快速注意力”

DeepSeek结合LM Studio实现本地部署全套教程

更新日志

0.3.13-发布说明
谷歌Gemma 3支持
修复了一个错误,该错误导致右下角的设置按钮在应用程序启动时短暂跳转
修复了一个错误,即在服务器页面中单击模型时,如果折叠,侧边栏不会打开
修复了开发人员日志顶部栏有垂直滚动的错误
[Windows]防止用户在LM Studio安装目录中意外设置models目录

下载地址