目录

2025-02-14-DeepSeek本地部署,保姆级教程,带你打造最强AI

DeepSeek本地部署,保姆级教程,带你打造最强AI

deepseek本地部署

第一步:安装ollama
https://ollama.com/download
第二步:在ollama 官网搜索
https://ollama.com/

https://i-blog.csdnimg.cn/direct/bb1a783055254385a1ee2db92ffd34f9.png

https://i-blog.csdnimg.cn/direct/691d33bc3422441984ba20cbda2f7e3f.png

模型大小与显卡需求

https://i-blog.csdnimg.cn/direct/bab632c88dce4e09be893e0124a73bdc.png

第三步:在终端执行 命令
ollama run deepseek-r1:1.5b

https://i-blog.csdnimg.cn/direct/a06651cdb17a4b7db71609caf864be9c.png

等待安装即可

第四步:测试功能

https://i-blog.csdnimg.cn/direct/663cf5d7d95d4945b42dcb0149dc1b8c.png

第五步:基本命令
#退出模型
>>> /bye

#查看模型
C:\Users\chk>ollama list
NAME                ID              SIZE      MODIFIED
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    3 minutes ago

#启动模型
ollama run deepseek-r1:1.5b
>>>

#查看帮助
C:\Users\chk>ollama  -h
Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

可视化部署Web UI

第一步:下载Chatbox AI
https://chatboxai.app/zh

https://i-blog.csdnimg.cn/direct/f473fe9e60234d4082baf745610f97e5.png

设置中文

https://i-blog.csdnimg.cn/direct/86523c3b3a004300b6ec97109d040914.png

第二步:将 Chatbox 连接到远程 Ollama 服务

1.在 Windows 上配置环境变量
在 Windows 上,Ollama 会继承你的用户和系统环境变量。

通过任务栏退出 Ollama。

打开设置(Windows 11)或控制面板(Windows 10),并搜索“环境变量”。

点击编辑你账户的环境变量。

为你的用户账户编辑或创建新的变量 OLLAMA_HOST,值为 0.0.0.0; 为你的用户账户编辑或创建新的变量 OLLAMA_ORIGINS,值为 *。

点击确定/应用以保存设置。

从 Windows 开始菜单启动 Ollama 应用程序。

https://i-blog.csdnimg.cn/direct/b7e04c25e5c84dd3b108d610161e547a.png

2.服务 IP 地址

配置后,Ollama 服务将能在当前网络(如家庭 Wifi)中提供服务。你可以使用其他设备上的 Chatbox 客户端连接到此服务。

Ollama 服务的 IP 地址是你电脑在当前网络中的地址,通常形式如下

192.168.XX.XX

在 Chatbox 中,将 API Host 设置为:

3.注意事项
  • 可能需要在防火墙中允许 Ollama 服务的端口(默认为 11434),具体取决于你的操作系统和网络环境。
  • 为避免安全风险,请不要将 Ollama 服务暴露在公共网络中。家庭 Wifi 网络是一个相对安全的环境。
4.Chatbox配置模型

https://i-blog.csdnimg.cn/direct/88cb9e9c38ec44acb0ef5fe04d7dd734.png

https://i-blog.csdnimg.cn/direct/51c6d37bbf0e47a38c8290898454b372.png

第三步:效果演示

https://i-blog.csdnimg.cn/direct/b8440db05dea4ec881da077efb4a1502.png

68747470733a2f2f626c6f672e:6373646e2e6e65742f77656978696e5f37343831343032372f:61727469636c652f64657461696c732f313435333837373835