DeepSeek 发布的推理大模型 DeepSeek - R1 ,它的功能堪称全能,日常写作、翻译、问答轻松拿捏,独特的 “深度思考” 模式加上联网搜索,在编程、解题、文献解读等复杂任务里也游刃有余,推理思考能力一绝!使用体验更是拉满,既有便捷的电脑网页版 AI 助手和 API 服务,近期 iOS、Android 手机版 APP 重磅上线,新增拍照识字、文档上传分析功能,响应速度超快,国内还能直连畅用,毫无网络阻碍,实用性直接爆棚,快来体验吧!
本次分享的是DeepSeek R1 本地部署版本,包括windowst和Mac及web-ui版本可以断网使用。
有多个版本:1.5b 7b 8b 14b 32b 70b 671b,对于显卡好、显存大的可选择高的版本,反之选择低一点的版本,不过低的版本效果不如在线网页版的好。
功能特点:
号称它现在不但比OpenAI开放,也比它有活力;
功能堪称全能日常写作、翻译、编程轻松搞定;
独特的 “深度思考” 模式加上联网搜索;
既有便捷的电脑网页版 AI 助手和 API 服务;
近期 iOS、Android 手机版 APP 重磅上线;
新增拍照识字、文档上传分析功能;
响应速度超快,国内还能直连使用。
安装说明:
CPU适配版本:
没有GPU:1.5B Q8推理 或者 8B Q4推理 4G GPU:8B Q4推理 8G GPU:32B Q4推理 或者 8B Q4推理 16G GPU:32B Q4推理 或者 32B Q8推理 24G GPU: 32B Q8推理 或者 70B Q2推理
根据个人配置安装合适版本。
安装命令:
1.5B Qwen DeepSeek R1
安装命令:ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1
安装命令:ollama run deepseek-r1:7b
8B Llama DeepSeek R1
安装命令:ollama run deepseek-r1:8b
14B Qwen DeepSeek R1
安装命令:ollama run deepseek-r1:14b
32B Qwen DeepSeek R1
安装命令:ollama run deepseek-r1:32b
70B Llama DeepSeek R1
安装命令:ollama run deepseek-r1:70b

如果出现403,以管理员身份运行即可。
然后,会有一个漫长的下载模型的时间,下载后看到如下界面,证明你成功了!

搭建 web ui 用于网页对话
明显命令行这样的方式很不方便,无法满足对我们的聊天内容进行管理。这时,一个类似于Chat GPT这样的网页对话功能就显得十分重要了。
这里我选择的是Open web ui,具体效果如下。

下面讲解如何搭建,在此之前我们需要安装 docker 。
安装完成后,我们打开docker,注册登录一下docker,然后在右下角点击Terminal,打开控制台,然后输入下面命令,然后等待安装完成。
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
docker 容器启动后,会有欢迎页面,点击开始使用,开启体验之路!
|