大语言模型学习–本地部署DeepSeek

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型（LLM）本地化部署与管理工具，旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型（如Llama、Mistral、DeepSeek、Qwen等），并通过命令行工具、API接口及丰富的社区生态，为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

官网地址下载较慢 可以使用以下地址

github地址

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表“billion”（十亿）

这里先安装模型 ollama run deepseek-r1  7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low  可以使用本地AI模型交互客户端 chatBox

官网地址

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了