DeepSeek R1 本地部署版本(国产人工智能 AI ) + web-ui 可以断网

发布日期:2025-02-20 15:24:58

栏目:办公软件

DeepSeek 发布的推理大模型 DeepSeek - R1 ,它的功能堪称全能,日常写作、翻译、问答轻松拿捏,独特的 “深度思考” 模式加上联网搜索,在编程、解题、文献解读等复杂任务里也游刃有余,推理思考能力一绝!使用体验更是拉满,既有便捷的电脑网页版 AI 助手和 API 服务,近期 iOS、Android 手机版 APP 重磅上线,新增拍照识字、文档上传分析功能,响应速度超快,国内还能直连畅用,毫无网络阻碍,实用性直接爆棚,快来体验吧!

本次分享的是DeepSeek R1 本地部署版本,包括windowst和Mac及web-ui版本可以断网使用。

有多个版本:1.5b 7b 8b 14b 32b 70b 671b,对于显卡好、显存大的可选择高的版本,反之选择低一点的版本,不过低的版本效果不如在线网页版的好。

功能特点:

号称它现在不但比OpenAI开放,也比它有活力;

功能堪称全能日常写作、翻译、编程轻松搞定;

独特的 “深度思考” 模式加上联网搜索;

既有便捷的电脑网页版 AI 助手和 API 服务;

近期 iOS、Android 手机版 APP 重磅上线;

新增拍照识字、文档上传分析功能;

响应速度超快,国内还能直连使用。

安装说明:

CPU适配版本:

没有GPU:1.5B Q8推理 或者 8B Q4推理
4G GPU:8B Q4推理
8G GPU:32B Q4推理 或者 8B Q4推理
16G GPU:32B Q4推理 或者 32B Q8推理
24G GPU: 32B Q8推理 或者 70B Q2推理  

根据个人配置安装合适版本。

安装命令:

1.5B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:1.5b   

7B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:7b  

8B Llama DeepSeek R1

安装命令:ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:32b

70B Llama DeepSeek R1

安装命令:ollama run deepseek-r1:70b

如果出现403,以管理员身份运行即可。

然后,会有一个漫长的下载模型的时间,下载后看到如下界面,证明你成功了!

搭建 web ui 用于网页对话

明显命令行这样的方式很不方便,无法满足对我们的聊天内容进行管理。这时,一个类似于Chat GPT这样的网页对话功能就显得十分重要了。

这里我选择的是Open web ui,具体效果如下。

下面讲解如何搭建,在此之前我们需要安装 docker 。

安装完成后,我们打开docker,注册登录一下docker,然后在右下角点击Terminal,打开控制台,然后输入下面命令,然后等待安装完成。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

docker 容器启动后,会有欢迎页面,点击开始使用,开启体验之路!

其他Open WebUI可视化交互界面工具

目前我知道的大概有几种方式:

1、使用Docker-desktop,不仅是open-webui,其他绝大多数Github的开源项目都支持用docker一键部署,docker的好处是自带虚拟环境,不需要在本地额外安装一堆其他环境、依赖等,是管理、部署项目的神器。

2、自行安装Python环境,使用Pip的方式安装即可

3、不需要安装Docker-desktop,也不需要安装Python环境,直接使用浏览器Web UI插件就能搞定

4、还可以使用ChatBox、Cherry Studio等桌面客户端都可以

下载地址