
发布日期:2025-04-14 06:54 点击次数:53
最近作念的一个视频,讲了DeepSeek的腹地部署伊人情人网综合,在全网获得了600万+的播放量,大家对DeepSeek的腹地部署很关爱。视频发出后,看到驳倒区还有一些疑问,我整理了一下笔墨版块,补充了更多细节。
一、什么情况下,稳妥把大模子部署在我方电脑上?把大模子部署在我方的电脑上,有好多刚正,但我要先泼一盆冷水。
要是你之前没用过AI产物,大略平时用AI也未几,不推选搞腹地部署。有更肤浅的手脚,不错让你用上AI。
思用DeepSeek,不错径直在手机的软件商城,下载DeepSeek的手机APP。
av收藏家图片伊人情人网综合伊人情人网综合
大略用浏览器,搜索DeepSeek的网页版。这样是最肤浅的,而况背后的AI皆是雷同的。
图片
腹地部署稳妥以下情况:
① 电脑竖立较高,有零丁显卡。② 有精巧的数据需要处理,惦记泄密。③需要和腹地责任流聚积,处理高频任务或复杂任务。④ 日常使用量大,调用API需要收费,腹地部署能省钱。⑤ 思要在开源模子基础上,作念个性化的定制版块。
这样说有点复杂,我用DeepSeek回来了下,APP或网页与腹地部署的使用场景。
图片
二、大模子腹地部署基本法子第一步:装配ollama腹地部署领先要装配ollama,你不错把它邻接为,一个装AI的盒子,把AI装在盒子里,便捷处罚。1. 领先在浏览器搜索ollama,会出现ollama官网,点击参加。图片
2. 参加官网后,点击中间的Download。图片
3. 字据我方的电脑类型,遴荐不同版块。苹果电脑选最左边(蓝色框),Windows系统选最右边(红色框),之后点击下载(绿色框)。图片
4. 下载后,点击装配。要是桌面出现了ollama图标,诠释软件装配收效。图标即是下图的羊驼。图片
绝顶诠释:最佳装配在C盘,装配在其它盘,需要重新竖立环境变量。第二步,遴荐要装配的模子5. 如故在刚刚的ollama官网,点击右上角红框的位置。图片
6. 在弹出的界面,点击红框的“Models”选项图片
7. 点击遴荐deepseek-r1图片
8. 遴荐不同参数的模子这里的数字越大,参数越多,性能越强,1.5b代表模子具备15亿参数。我的电脑16G显存,运行14b参数模子时,需要梗概11.5G显存。要是是1.5b版块,2G以下的显存就不错运行,致使不需要零丁显卡,核显就不错。要是是32b参数的,就需要32G显存啦,不错字据我方的电脑性能遴荐。图片
底下遴荐1.5b参数作念示范。9. 复制呐喊遴荐1.5b参数后,复制红框中的呐喊“ollama run deepseek-r1:1.5b”。图片
第三步,装配模子10. 翻开呐喊行同期按下键盘上的Win和R键,弹出如下窗口。图片
在弹出的窗口中,输入cmd,点击笃定,翻开呐喊行,就像底下这样。图片
11. 输入下载呐喊在翻开的呐喊行里,输入上头复制的呐喊“ollama run deepseek-r1:1.5b”。图片
点击键盘上的“Enter”键,模子会自动下载。图片
12. 与模子对话下载收效后,就不错与模子对话啦。图片
此时大模子装配在你的电脑上,就算断网也不错不绝用,也无谓惦记数据露出。第四步,后续运行模子这里还有一个问题,当你关闭电脑后,下次再翻开ollama。会发现点击ollama的图标,电脑没响应。因为你点击图标,仅仅启动了ollama,思要和大模子聊天,如故需要翻开呐喊行。13. 不绝通过呐喊行和大模子聊天同期按下键盘上的Win和R键,在弹出的窗口里输入cmd,点击笃定翻开呐喊行。在呐喊行界面,输入刚刚的呐喊“ollama run deepseek-r1:1.5b”。因为你之前也曾下载过,此次无需下载,不错径直和模子聊天。图片
三、装配Open-WebUI(不错不看)谛视:前边的法子,也曾完好了。Open-WebUI仅仅让交互界面更面子,不错不必装配。且冷落不练习电脑的一又友,先不要装配Open-WebUI。Open-WebUI有相比多的依赖项,装配历程中容易出问题。要是装配半天没完成,容易打击到学习AI的关爱,这亦然为什么我作念的视频里,莫得讲Open-WebUI装配法子的原因。要是抓意要装配,则装配法子如下:14. 领先装配docker不错用docker来处罚操作系统界面,比径直装配Open-WebUI更便捷。在浏览器输入docker并搜索,点击参加官网。图片
15. 字据你的电脑系统,下载docker桌面版,并装配运行。图片
装配完成后,需要重新启动电脑,才能普遍使用docker。重新启动后,要是你的桌面上出现了docker的图标,就示意装配收效了。图片
16. 装配Open-WebUI浏览器搜索Open-WebUI,参加官网,并复制红框中的呐喊。图片
按照上头提到的法子,翻开呐喊行,输入复制的呐喊,恭候装配完成。17. 运行Open-WebUI双击docker的桌面图标,翻开软件。点击红框端口,即可运行Open-WebUI。图片
初度侦察时,需要注册一个账号。这些信息会储存在你的电脑里。18. 开动对话在界面左上角,遴荐你的模子,就不错开动对话啦。图片
Open-WebUI这部分的装配历程相比简短,要是出现报错,需要具备通过浏览器搜索问题原因,并建设的才智。如实不冷落,不练习电脑的外行尝试。五、其它问题怎样稽查我电脑上装了些许个模子?翻开呐喊行,输入:ollama list,红框里即是对应模子。图片
怎样删除模子?在呐喊行输入,ollama rm + 模子称呼,举例:ollama rm deepseek-r1:1.5b,就会自动删除对应模子。图片
ollama还有其它功能吗?呐喊行输入ollama,展示出ollama的其它功能。图片
比如:输入“ollama stop”是罢手模子运行,“run + 模子名”是运行对应模子。 本站仅提供存储管事,悉数骨子均由用户发布,如发现存害或侵权骨子,请点击举报。