由中国深度求索打造的DeepSeek在全球掀起"中国智造"风暴！这款革命性应用不仅强势包揽中美双料App Store免费榜冠军，更以单日下载量超ChatGPT四倍的惊人战绩横扫全球市场。仅凭500万美元研发投入，便实现对OpenAI、谷歌等硅谷巨头数十亿美元级AI项目的全面超越，用硬核技术实力诠释"中国式创新"效率！这场以小博大的科技逆袭，不仅刷新全球AI产业格局，更让世界见证东方智慧的破局力量。

本篇文章将教大家如何在本地部署DeepSeek,让大家可以随时随地使用DeepSeek。

liunx 部署

方案一：使用 Ollama 快速部署（推荐个人/开发使用）

Ollama 是目前最简单的本地模型运行框架，它可以自动处理依赖和 GPU 加速。

1. 安装 Ollama

打开终端，执行以下脚本：

curl -fsSL https://ollama.com/install.sh | sh

2. 启动服务并运行 DeepSeek

根据你的显存大小选择模型版本（以 DeepSeek-R1 为例）：

1.5b版本（集成显卡/核心显卡可用）：ollama run deepseek-r1:1.5b
7b版本（至少 8G 显存）：ollama run deepseek-r1:7b
14b版本（至少 12G 显存）：ollama run deepseek-r1:14b

输入命令后，系统会自动下载模型并进入对话模式。

3. API 调用

Ollama 默认在 11434 端口开启 API 服务，你可以通过 Python 调用：

import requests

json_data = {
    "model": "deepseek-r1:7b",
    "prompt": "为什么天空是蓝色的？",
    "stream": False
}
response = requests.post("http://localhost:11434/api/generate", json=json_data)
print(response.json()['response'])

方案二：使用 vLLM 部署（推荐高性能/产品化部署）

如果你需要极高的吞吐量，或者需要在生产环境中使用，vLLM 是更好的选择。

1. 准备环境

建议使用 Conda 创建虚拟环境并安装 CUDA 支持的 PyTorch：

conda create -n deepseek python=3.10 -y
conda activate deepseek
pip install vllm

2. 下载模型

从 Hugging Face 或 ModelScope 下载 DeepSeek-R1 的权重文件。

3. 启动 OpenAI 兼容服务器

python -m vllm.entrypoints.openai.api_server \
    --model /path/to/deepseek-r1-weights \
    --tensor-parallel-size 1 \ # 如果有多个GPU，修改此数值
    --gpu-memory-utilization 0.9 \
    --port 8000

方案三：使用 Docker 部署（环境隔离）

如果你喜欢使用容器化方案，可以使用以下命令启动带有 Web 界面（Open WebUI）的 DeepSeek：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main