系统及环境:

  • 操作系统:ubuntu 22.04
  • CPU:Intel E5-2450 16核
  • 内存:16G
  • 显卡:GTX 960 2G

    安装步骤:

    第1步:下载本地推理大模型平台:ollama

    ollama官网:https://ollama.com/,使用迅雷下载,否则下载会特别慢,而且非常容易中断,请选择适合你系统的版本。

    第2步:安装ollama

    使用命令解压ollama到当前目录下

    tar  -xzf   ollama-linux-amd64.tgz 

    第3步:运行olloama

    使用下面命令运行ollama

    ollama serve

    第4步:下载并运行deepseek-r1大模型

    在ollama的官网中找到Models页面,并在搜索框中搜索deepseek-r1,并选择合适的版本,如下图

    进入deepseek-r模块页面后,先选择版本,选择好版本后,点击右侧复制按钮,复制下载运行模型命令,如下图:

    复制运行大模型的命令,即红框2的命令,在本地终端中运行该命令,则开始下载deepseek-r1模型,等待pull大模型到本地,然后,自动运行。

    发表回复

    您的邮箱地址不会被公开。 必填项已用 * 标注