系统及环境:
- 操作系统:ubuntu 22.04
- CPU:Intel E5-2450 16核
- 内存:16G
- 显卡:GTX 960 2G
安装步骤:
第1步:下载本地推理大模型平台:ollama
ollama官网:https://ollama.com/,使用迅雷下载,否则下载会特别慢,而且非常容易中断,请选择适合你系统的版本。
第2步:安装ollama
使用命令解压ollama到当前目录下
tar -xzf ollama-linux-amd64.tgz
第3步:运行olloama
使用下面命令运行ollama
ollama serve
第4步:下载并运行deepseek-r1大模型
在ollama的官网中找到Models页面,并在搜索框中搜索deepseek-r1,并选择合适的版本,如下图

进入deepseek-r模块页面后,先选择版本,选择好版本后,点击右侧复制按钮,复制下载运行模型命令,如下图:

复制运行大模型的命令,即红框2的命令,在本地终端中运行该命令,则开始下载deepseek-r1模型,等待pull大模型到本地,然后,自动运行。