目录

Deepseek-本地部署

Deepseek 本地部署

1. 下载ollma

进入ollma官网 填写下邮件地址,然后下载。否则下载容易失败

https://i-blog.csdnimg.cn/direct/41a8f546a9104191aafb8d3b9e546d06.png

2. 安装ollma到指定目录

https://i-blog.csdnimg.cn/direct/6186bdbc8dd0450ebc4a4a003631465d.png

测试ollama help

https://i-blog.csdnimg.cn/direct/0d6fa7ae12814b56a66dad648ea18e68.png

3. 部署模型

https://i-blog.csdnimg.cn/direct/550d7ed2dc9b47e8ba043ee2f3d31c9b.png

1) 模型安装到指定路径,修改模型环境变量OLLAMA_MODELS

https://i-blog.csdnimg.cn/direct/e007692845054802a404c212ba5ce437.png

2)从任务管理里面删除ollama进程

https://i-blog.csdnimg.cn/direct/e55ea2e862c049a9ac0d48f55c1b4628.png

3)我的显卡是12G的,所以我选择14b的参数 ollama run deepseek-r1:14b

https://i-blog.csdnimg.cn/direct/e33687a71c7e41ddbf661dbaf24d6a88.png https://i-blog.csdnimg.cn/direct/bcb267b0f9d64151addec5f15426f13e.png

https://i-blog.csdnimg.cn/direct/262cabaaedfd46b08ccaa7a4b82c87f7.png

4 安装界面工具Chatbox AI

https://i-blog.csdnimg.cn/direct/232374aaf62c40949e29801bb243a169.png

安装完成后,点击选择实验本地模型

https://i-blog.csdnimg.cn/direct/76c11e54c70640f189db3f113087b294.png

配置ollama api和deepseek模型

https://i-blog.csdnimg.cn/direct/1ebf5fd4c70b48f2bc093677f67ed561.png

对话框可以输入测试

https://i-blog.csdnimg.cn/direct/bacfea2c107a4c4c94c2d138c391b290.png