DeepSeek这把火烧遍了全球,昨天看照旧霸榜30多个国度的App下载榜单第别称萝莉 操,当今如故上涨到包括好意思国、日本、加拿大等在内的164个国度的App下载榜单第别称!
图片萝莉 操萝莉 操
这精深的流量导致deepseek在昨天着实崩溃了,这是我在昨天神用deepseek的情况,时一样就会遭遇底下这个恢复。
图片
是以我就在思,既然deepseek R1是开源的,径直土产货部署使用吧。
况且土产货部署大模子之后,莫得多样兑现,不错为所欲为,放飞自我,自力新生,阴私性拉满,不联网也不错用~
咱们照旧用之前讲过的ollama + open-webui来一键部署deepseek r1
这俩好搭档卓绝之牛掰且好用,看他俩在Github的Star就知谈了。
图片
用ollama解决、运行deepseek,在open-webui接入ollama之后,咱们就不错透顶界面化去下载装配deepseek r1,界面化给大模子调遣参数,并设定预设prompt,以及对话(如下图),卓绝轻视。
图片
好了,话未几说,咱们初始土产货部署deepseek r1!
图片
一、先装配ollama和open-webui
图片
最初就得装配ollama和open-webui,ollama不错下载官方的exe文献,一键装配,open-webui可docker部署,不清亮的一又友不错先看我之前写的这篇著作先把ollama和open-webui部署好
部署ollama、open-webui
袋鼠帝,公众号:袋鼠帝AI东谈主皮客栈独家!开源AI接入微信【一】ollama + open-webui图片
图片
然则扎眼,英伟达GPU的一又友请用如下教唆部署open-webui(教唆在公法台输入,前提是先装配、启动了docker-desktop):
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
图片
图片
Docker-desktop墙烈保举各人齐装上,不仅是open-webui,其他绝大无数Github的开源技俩齐撑合手用docker一键部署,docker的自制是自带捏造环境,不需要在土产货荒谬装配一堆其他环境、依赖等,是解决、部署项筹办神器。
open-webui也浓烈保举各人装配使用,它应该是目下功能最全,最佳用的大模子webui器具。
装配完ollama和open-webui,并在open-webui接入土产货ollama之后,就不错卓绝轻视的一键装配deepseek r1使用了~
图片
二、土产货部署DeepSeek R1
图片
最初咱们翻开ollama官网,找到deepseek r1模子
图片
图片
ollama地址:https://ollama.com/library/deepseek-r1:8b
图片
图片
不错看到有这样些模子,以及模子的参数大小(1.5b~671b)和自身所需磁盘空间的大小(1.1G~404G)
图片
Hongkongdoll sex671b参数,404G大小的这个deepseek r1模子,便是deepseek官网上的阿谁R1。
然则671b参数的大模子所需的算力惊东谈主,不是咱们无为东谈主能玩儿的起的。
下图是ollama给出的模子聘请提议
图片
这里的RAM是指显存
如何检察咱们电脑的显存大小呢?
Ctrl + Shift + Esc翻开任务解决器->性能->GPU
图片
不错看到,我的电脑显存是8G(英伟达3060 ti)
过程测试,deepseek-r1:8b对我的电脑来说,运行通顺,体验最佳~
如若换成deepseek-r1:14b,拼集能用,然则比拟慢,不通顺,体验欠佳。
是以接下来咱们浏览器探询open-webui的页面去下载deepseek-r1:8b
如若装配好open-webui,径直探询:http://127.0.0.1:3000/ 即可插足open-webui页面。
图片
咱们插足open-webui之后,点击 左下角用户->确立
图片
点击 解决员确立
图片
本站仅提供存储业绩,所有实质均由用户发布,如发现存害或侵权实质,请点击举报。