DeepSeek安装使用教程

DeepSeek R1 越狱版安装教程

DeepSeek R1 越狱版现已在 Hugging Face 上线,支持 8B、14B、32B 等多个版本。本文将详细介绍如何在本地部署和使用 DeepSeek R1 越狱版。

模型说明

虽然官方版 DeepSeek 是 671B 参数量的大模型,但普通用户难以本地运行。目前可供本地部署的是经过蒸馏压缩的 7B-70B 等小型版本,已足够日常使用。

DeepSeek 是一个强大的代码助手，它具有以下特点：

支持多种编程语言
代码补全和生成能力强
可以解释代码、回答编程问题
支持中英双语交互

安装环境

系统: windows 10/macOS 11 及以上
处理器（CPU）：Intel Core i5 或更高；
内存（RAM）：16GB 或更高；
显卡（GPU）：NVIDIA GeForce RTX 3060 或 AMD Radeon RX 6700 XT，8GB 显存；
硬盘空间：建议使用 SSD，预留 30GB 以上

安装步骤

1. 安装 Ollama

首先需要下载并安装 Ollama,这是运行模型的基础环境。访问 Ollama 官网下载对应系统版本。

2. 下载模型

打开命令行终端,根据需要运行以下命令之一来下载对应版本的模型(需科学上网才能下载):

7B 版本（推荐显存 8G）:

1	`ollama pull deepseek-coder:7b`

8B 版本（推荐显存 8G）:

1	`ollama run huihui_ai/deepseek-r1-abliterated:8b`

14B 版本（推荐显存 12G）:

1	`ollama run huihui_ai/deepseek-r1-abliterated:14b`

32B 版本（推荐显存 32G）:

1	`ollama run huihui_ai/deepseek-r1-abliterated:32b`

70B 版本（需要高端显卡支持）:

1	`ollama run huihui_ai/deepseek-r1-abliterated:70b`

3. 安装 Web UI

方式一：Chrome 插件
下载地址：Chrome 插件
特点：需要 chrome 浏览器并科学上网才能安装，但是安装后可以随时随地使用，不需要安装其他软件或复杂的配置。

方式二：OpenWebUI
需要安装 docker 并科学上网，安装后可以随时随地使用，不需要安装其他软件或复杂的配置。但需要一定的编程基础。

docker run -d --name openwebui --restart always \
  -p 3002:8080 \
  -v open-webui:/app/backend/data \
  --add-host=host.docker.internal:host-gateway \
  ghcr.io/open-webui/open-webui:main

安装完成后访问 http://localhost:3002 即可使用。

Ollama 常用命令

在使用 Ollama 时，以下是一些常用的命令操作：

# 启动 Ollama 服务
ollama serve

# 从 Modelfile 创建模型
ollama create <模型名称>

# 显示模型信息
ollama show <模型名称>

# 运行模型
ollama run <模型名称>

# 停止运行中的模型
ollama stop <模型名称>

# 从仓库拉取模型
ollama pull <模型名称>

# 推送模型到仓库
ollama push <模型名称>

# 列出所有已安装的模型
ollama list

# 列出正在运行的模型
ollama ps

# 复制模型
ollama cp <源模型> <目标模型>

# 删除模型
ollama rm <模型名称>