Ollama部署DeepSeek本地大模型：从下载到使用完全指南

语言模型的普及，越来越多用户希望将AI能力部署在本地，以保护数据隐私、降低使用成本并享受更低的响应延迟。Ollama作为一款轻量级的本地AI模型运行框架，配合DeepSeek系列高性能模型，可以轻松实现这一目标。本文将带你从零开始，完成Ollama的下载安装、DeepSeek模型的部署以及日常使用。

一、Ollama与DeepSeek简介

Ollama 是一个开源的本地区域模型运行框架，支持Windows、macOS和Linux三大平台。它最大的特点是“开箱即用”——只需几条简单的命令，就能下载并运行各类开源大语言模型。

DeepSeek 是由深度求索公司推出的一系列高性能大语言模型，在推理、编程、数学和中文理解等方面表现突出。Ollama官方模型仓库中已收录了DeepSeek多个版本的模型，包括DeepSeek-LLM（7B/67B）、DeepSeek-R1（1.5B至671B）以及DeepSeek-V4-Pro等。

二、硬件与系统要求

在开始安装之前，请确认你的电脑满足以下基本要求：

项目	最低配置	推荐配置
操作系统	Windows 10 22H2 / macOS 12+ / Linux	Windows 11 / Ubuntu 22.04
内存	16GB	32GB及以上
存储空间	50GB	200GB以上
GPU（可选）	—	NVIDIA RTX 3060及以上（显存≥8GB）

说明：如果只运行7B参数的小型模型，CPU+16GB内存即可满足基础需求。但如果想流畅运行更大参数的模型，强烈建议配备NVIDIA显卡并安装好CUDA驱动。

三、下载并安装Ollama

1. 访问官网下载

打开浏览器，访问 Ollama 官网：https://ollama.com 。页面正中会有一个显眼的“Download”按钮，点击后根据你的操作系统选择对应的安装包。

Windows用户：下载 OllamaSetup.exe 安装程序
macOS用户：下载 .dmg 安装包
Linux用户：使用终端命令安装

2. 各平台安装步骤

Windows

双击下载的 OllamaSetup.exe 文件，按照安装向导一路点击“Next”即可完成安装。Ollama默认安装在用户目录下，不需要管理员权限。安装完成后，Ollama会自动在后台运行，你可以在系统托盘中看到它的图标。

小贴士：如果希望更改安装位置，可以使用以下命令启动安装程序：
text
OllamaSetup.exe /DIR="D:\some\location"

安装完成后，打开命令提示符（cmd）或PowerShell，输入以下命令验证安装是否成功：

text

ollama --version

如果能看到版本号输出，说明安装成功。

macOS

下载 .dmg 文件后，双击打开并将Ollama图标拖入Applications文件夹即可。你也可以使用终端一键安装：

text

curl -fsSL https://ollama.com/install.sh | sh

Linux

Linux用户通过终端命令一键安装：

text

curl -fsSL https://ollama.com/install.sh | sh

安装完成后，建议将Ollama设置为系统服务，以便开机自启动：

text

sudo systemctl enable ollama
sudo systemctl start ollama

验证安装：

text

ollama --version

四、部署DeepSeek模型

安装好Ollama后，就可以下载并运行DeepSeek模型了。

1. 查看可用模型

Ollama官方模型仓库中收录了多个DeepSeek模型，可以通过以下命令搜索：

text

ollama search deepseek

这会列出所有名称中包含“deepseek”的可用模型。

主要DeepSeek模型包括：

模型名称	参数规模	说明
`deepseek-r1:1.5b`	1.5B	轻量级，适合低配置设备
`deepseek-r1:7b`	7B	平衡性能与资源占用
`deepseek-r1:8b`	8B	蒸馏版本，性能优异
`deepseek-r1:14b`	14B	更高推理能力
`deepseek-r1:32b`	32B	适合高性能设备
`deepseek-r1:70b`	70B	接近顶级模型性能
`deepseek-r1:671b`	671B	完整版，需顶级硬件

建议：初学者建议从 deepseek-r1:7b 或 deepseek-r1:8b 开始尝试，这两个版本对硬件要求适中，同时性能表现良好。

2. 下载模型

使用 ollama pull 命令下载模型。例如下载7B版本的DeepSeek-R1：

text

ollama pull deepseek-r1:7b

模型文件通常较大（7B模型约4-5GB，更大模型可达数十GB），下载时间取决于你的网速，请耐心等待。

注意：如果你希望更改模型存储位置（默认在用户目录下），可以设置环境变量 OLLAMA_MODELS。Windows用户在“系统属性→环境变量”中新建该变量，指定你想要的存储路径即可。

3. 运行模型

下载完成后，使用 ollama run 命令启动模型：

text

ollama run deepseek-r1:7b

模型加载完成后，你会看到一个 >>> 提示符，此时就可以直接输入问题与DeepSeek对话了。例如：

text

>>> 请用Python写一个快速排序算法
>>> 解释一下什么是量子计算

输入 /bye 即可退出对话。

4. 高级运行参数

Ollama支持在运行模型时调整各种参数，以获得更好的体验：

text

ollama run deepseek-r1:7b --temperature 0.7 --top-p 0.9

--temperature：控制回答的随机性，取值范围0-1，值越低回答越确定，值越高越有创意
--top-p：核采样阈值，推荐0.8-0.95
--context：设置最大上下文长度

五、日常使用与管理

1. 常用命令速查

命令	功能
`ollama list`	查看已下载的本地模型
`ollama pull <模型名>`	下载新模型
`ollama run <模型名>`	运行模型进行对话
`ollama serve`	启动API服务
`ollama rm <模型名>`	删除本地模型

2. 通过API调用（进阶）

Ollama默认在 http://localhost:11434 提供REST API服务。你可以通过API在代码中调用DeepSeek模型：

bash

curl http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-r1:7b", "prompt": "解释人工智能", "stream": false}'

Python调用示例：

python

import requests

def query_deepseek(prompt):
    url = "http://localhost:11434/api/generate"
    data = {
        "model": "deepseek-r1:7b",
        "prompt": prompt,
        "stream": False
    }
    response = requests.post(url, json=data)
    return response.json()["response"]

print(query_deepseek("用Python实现快速排序"))

六、常见问题与解决方案

1. CUDA内存不足

如果遇到“CUDA out of memory”错误，可以尝试：

使用 --cpu 参数强制使用CPU运行：ollama run deepseek-r1:7b --cpu
减小模型规模，例如从14b降到7b
关闭其他占用GPU显存的程序

2. 模型下载速度慢

模型文件较大，如果下载速度不理想：

尝试在网络状况较好的时段下载
如果访问官方仓库困难，可尝试从国内镜像源下载GGUF格式的模型文件，再通过 ollama create 导入

3. 模型加载缓慢

确保将模型存放在SSD固态硬盘上
关闭其他正在运行的GPU密集型应用（如游戏、视频渲染等）