写本篇文章是因为我的网页版DeepSeek在深度思考(R1)模式下只能问一个问题,第二个就提示“服务器繁忙”...最终只能无奈使用ChatGPT。手机电脑都是这样,可能是我使用的时间正好是大家都在用,迫于无奈我尝试过安装自动重试的网页脚本(来自数字生命卡兹克大神,感兴趣的可自行搜索),仍然无法解决,最终选择了本地部署。下面分享下本地部署的过程,希望对你有帮助。

An image to describe post


DeepSeek R1提供了多个版本,有完整版的R1和蒸馏版的微调模型(根据电脑性能选择)

An image to describe post

对于不同模型适合什么配置的电脑,我直接问了部署好的DeepSeek。

我的问题是:

DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-70B这几个模型分别适合什么配置的电脑进行安装部署,同... 时能够保证电脑快速稳定运行,电脑的配置按照mac和win来分别说明。

答案:

An image to describe post

我使用的是Ollama进行部署的,支持Win、Mac、Linux,可直接搜索Ollama

网址:https://ollama.com/

An image to describe post

点击download下载,选择适合的下载。

An image to describe post

An image to describe post

输入开机密码后点击finish就可以了。

An image to describe post

重新回到ollama官网首页,点击DeepSeek-R1

An image to describe post

进入页面后可直接搜索,也可下拉到后面,根据前文DeepSeek的回答,选择对应的模型进行安装。

An image to describe post

An image to describe post

我的Mac本配置如下,安装了32B和14B两个模型,开始装了32B,对话的效果是一个字一个字往外蹦,且风扇开响,干别的比较卡,后来又装了14B,但是14B真心感觉有点弱....下文有两个模型对话的对比

An image to describe post

直接复制对应32B的这行代码到终端,就可以看到安装的进度条了。

An image to describe post

An image to describe post

安装完成后就可以进行提问了。

An image to describe post

An image to describe post

如果你没有什么视觉要求,现在就可以使用并且成功了。如果你想操作方便的话,可以再安装一个可视化界面,我安装了Chatbox和Open-WebUI两种,主要是对比那种更方便,自己选一个就好。

Chatbox:

网址:https://chatboxai.app/en

An image to describe post

选择【使用自己的API Key或本地模型】,选择Ollama API

An image to describe post

An image to describe post

接下来就可以选择已经下载好的DeepSeek模型了,因为我下载了两个,所以可以进行切换。

An image to describe post

最终完成后,就可以使用了。

An image to describe post

Open-WebUI:

地址:https://github.com/open-webui/open-webui

An image to describe post

An image to describe post

将代码复制到终端。

An image to describe post

完成后再将第二步代码复制到终端

An image to describe post

An image to describe post

出现http://0.0.0.0:8080网址即可,复制到网页,创建自己的账号。就可以本地使用了。

An image to describe post

An image to describe post

两种选其一就可。

对比下14B和32B,14B上下文联想的功能弱一些,同样的问题,两种不同的回复。

An image to describe post

回答完

DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-70B这几个模型分别适合什么配置的电脑进行安装部署,同... 时能够保证电脑快速稳定运行,电脑的配置按照mac和win来分别说明。

An image to describe post

An image to describe post

这个问题,我要求他按照表格的形式给我整理出来,可以明显的看到32B可以清楚的整理出来,明白我要的是什么,但是14B完全不能联系到刚才已经回答过的问题来生成答案,所以有条件还是安装32B,或者使用网页端,或者使用API等方式吧~

An image to describe post

更多原创AI教程文章:

👉 AIGC实践|AI/AR助力文旅沉浸式互动体验探索

👉 AIGC实践|AI助力微短剧创作全流程

👉 AIGC实践|AI助力广告片创作全流程

👉 AIGC实践|AI助力文旅短视频创作全流程

👉 AIGC实践|用AI工具打造动态有声绘本

👉 AIGC实践|探索用AI实现粘土风小游戏开发全流程

👉 AIGC实践|用AI制作视频短片创作全流程

👉 AIGC实践|探索用AI实现包装设计全流程

👉 AIGC实践|AI助力一张照片生成百变写真集

👉 AIGC系列课程|灵图AI基础讲解及实践应用