目录

ubuntu-部署deepseek

ubuntu 部署deepseek

更新 apt update 升级  apt upgrade 格式化硬盘  mkfs.ext4 /dev/sdb https://i-blog.csdnimg.cn/direct/b6169a92541b4bf1852c2b12b7054187.png 安装nginx https://i-blog.csdnimg.cn/direct/859ef9844e6f42a1b2e88b6874a2d1d4.png 查看端口 https://i-blog.csdnimg.cn/direct/5f419f56d76e43b3876ffc47fa773632.png

一、安装Ollama

Ollama 是一个开源的大型语言模型(LLM)推理服务器,为用户提供了灵活、安全和高性能的语言模型推理解决方案。 curl -fsSL | sh https://i-blog.csdnimg.cn/direct/d91d225c7a644d59b18234bbc00c2618.png https://i-blog.csdnimg.cn/direct/7e706a2009364755a4ccc0826ee5cdb6.png https://i-blog.csdnimg.cn/direct/c7998a30db10457d862371e7f11cdeb8.png 感觉有点点慢 先下载吧 https://i-blog.csdnimg.cn/direct/4cfdceaff3c645bb8ba3a32fe811d4ff.png https://i-blog.csdnimg.cn/direct/167d74e15e37440f85037538df32aae5.png 下载解压 https://i-blog.csdnimg.cn/direct/6f7ec832c5b845189a58750a2dce074a.png

①启动Ollama

https://i-blog.csdnimg.cn/direct/1dfcdb9d6d05430591aa487445b99738.png https://i-blog.csdnimg.cn/direct/6dca0b1bbc454f41b7f7e9089d0a13f7.png

②下载模型

https://i-blog.csdnimg.cn/direct/6e49f323ed9244a3844359a96701037f.png https://i-blog.csdnimg.cn/direct/d1404c2a552741d3aebdaf1ccab8d538.png https://i-blog.csdnimg.cn/direct/1101b69e4e7f413caad2390b0e2fb351.png

②run模型

ollama run deepseek-r1:1.7b https://i-blog.csdnimg.cn/direct/30d75d84edb741fbae07c177763307b1.png

③访问

通过访问 看到 Ollama is running 信息。 看个人喜欢,我改为8080端口 https://i-blog.csdnimg.cn/direct/70e91386c6494dc5a822ecb7760624d7.png https://i-blog.csdnimg.cn/direct/1a307870e5624c66b46b8b2571c1daf6.png 问题:本地可以访问,其它主机不可以访问 原因《监听0.0.0.0,把127.0.01:11434改为0.0.0.0:8080》 https://i-blog.csdnimg.cn/direct/10b5c8ff079243fab2c27a8ce02cfd6a.png https://i-blog.csdnimg.cn/direct/577106de84e04da6aeccb545f0d47499.png https://i-blog.csdnimg.cn/direct/37bf87bfc01d4c09afae1dcde4d13fd2.png 访问速度 https://i-blog.csdnimg.cn/direct/51615b3178164a339d55b15a032773ca.png 这个界面体验部友好,我在windows上面测试下 https://i-blog.csdnimg.cn/direct/00c9ee6a87f346fe8b460ff7cd00d5df.png

4 可视化

部署chatbox可以实现 的本地大模型交互。 可视化工具Chatbox官网: 服务器配置 https://i-blog.csdnimg.cn/direct/1e6183880dfd469eb80f6bc0ed661fa7.png https://i-blog.csdnimg.cn/direct/2cb945323c414d4a88ee4d49e6c5c110.png 配置 https://i-blog.csdnimg.cn/direct/e062219f764c42128114b3c5cf91fdd6.png 使用 https://i-blog.csdnimg.cn/direct/ccc4f31230144897a4ed6887900fa3d9.png