把DeepSeek装进自己的电脑：零订阅、零泄露，打造你的私人AI助手

你上周发给AI的那份商业计划书，现在在哪台服务器上？

这个问题可能让你背脊发凉。不是在吓你——ChatGPT的隐私政策明确说明，你的对话内容可能用于改进模型；Claude和Gemini也有类似条款。当你把客户合同、财务报表、产品规划书一股脑塞进对话框，你实际上是在把最核心的商业机密托付给一家你从未见过的美国公司。

这篇文章要做的，是让你彻底不需要这种信任。

读完之后，你的电脑里会跑着一个属于你自己的AI——它不联网、不上报、不订阅、断电就停，开机就用。数据永远在你的硬盘里，没有任何人能看到。

---

一、为什么你需要一个"不出门的AI"

先说几个真实场景：

不是妄想症，是职业常识。

本地部署AI的三个核心价值，用一句话说清楚：

• 隐私100%自控：数据不离本机，物理隔离，没有任何第三方可以访问
• 零订阅费：ChatGPT Plus $20/月、Claude Pro $20/月，一年下来接近3000元人民币；本地部署，一次配置，永久免费
• 断网也能用：出差、高铁、咖啡厅WiFi信号差？本地模型完全不在乎

当然，本地部署不是万能的，后面我们会讲清楚它的边界在哪里。

---

二、架构全景：三个工具，各司其职

在动手之前，先用一分钟搞清楚整套方案的逻辑，这样你在配置时就不会一脸懵。

┌─────────────────────────────────────────────┐
│                你的电脑                       │
│                                              │
│  ┌──────────┐    ┌──────────┐               │
│  │  Ollama  │◄───│DeepSeek  │               │
│  │ (发动机)  │    │  模型    │               │
│  │          │    │ (大脑)   │               │
│  └────┬─────┘    └──────────┘               │
│       │ API: 127.0.0.1:11434                │
│       ▼                                      │
│  ┌──────────────────────┐                   │
│  │    AnythingLLM       │                   │
│  │   (你的驾驶舱)        │                   │
│  │  知识库 / 对话界面     │                   │
│  └──────────────────────┘                   │
│                                              │
│  你的文档 (PDF/Word/网页) ──► 向量数据库       │
└─────────────────────────────────────────────┘

三个角色，一句话解释：

• Ollama：模型运行引擎，负责把AI模型加载到内存并提供API接口，类比成发动机
• DeepSeek模型：真正的AI大脑，负责理解和生成文字，类比成驾驶员的脑子
• AnythingLLM：可视化操作界面，负责管理知识库、处理文档上传、提供对话窗口，类比成驾驶舱

没有GPU也能跑，CPU推理速度慢一些但完全可用。有NVIDIA显卡的话，Ollama会自动调用CUDA加速。

---

三、手把手安装配置

Step 1 — 安装Ollama

Ollama是整套方案的基础，先装它。

curl -fsSL https://ollama.com/install.sh | sh

直接去 [ollama.com](https://ollama.com) 下载Windows安装包（.exe），双击安装，安装完成后Ollama会在系统托盘出现一个小图标，说明服务已在后台运行。

安装完成后，打开终端验证：

ollama --version

看到版本号输出，✅ Ollama安装成功。

---

Step 2 — 拉取DeepSeek模型

Ollama安装好之后，拉取DeepSeek模型只需要一行命令：

ollama pull deepseek-r1:7b

• deepseek-r1:7b：约4.7GB，8GB内存可运行，适合入门和日常文档问答
• deepseek-r1:14b：约9GB，16GB内存推荐，推理能力明显提升
• deepseek-r1:32b：约20GB，32GB内存，接近云端旗舰模型水平

💡 第一次建议从7B开始，跑通整套流程之后再根据需要升级模型。

下载完成后，测试模型是否正常运行：

ollama run deepseek-r1:7b

终端会出现对话提示符，输入任意问题，能收到回答就说明模型运行正常。✅ 按 Ctrl+D 或输入 /bye 退出对话。

---

Step 3 — 安装并配置AnythingLLM

光有命令行对话还不够，我们需要一个能管理知识库、上传文档的可视化界面，AnythingLLM就是干这个的。

安装完成后，打开AnythingLLM，按照以下步骤配置连接Ollama：

1. 进入 设置（Settings） → LLM偏好（LLM Preference）

2. 选择 Ollama 作为LLM提供商

3. 在API地址栏填入：

http://127.0.0.1:11434

4. 在模型选择下拉菜单中，选择 deepseek-r1:7b（Ollama会自动列出已下载的模型）

5. 点击保存

接下来配置向量数据库（用于存储你的文档知识库）：

• 进入 向量数据库（Vector Database） 设置
• 选择 LanceDB（内置，无需额外安装，适合本地使用）

✅ 配置完成，现在创建第一个工作区：点击左侧 "+ 新建工作区"，给它起个名字，比如"工作文档"或"客户资料"。

---

Step 4 — 喂入你的知识库

这是整套方案最有价值的部分——让AI真正"读懂"你的文档。

在工作区内，点击 上传文档 按钮，支持格式包括：

• PDF（合同、报告、手册）
• Word文档（.docx）
• 纯文本（.txt）
• 网页链接（自动抓取内容）

上传完成后，AnythingLLM会自动对文档进行切片和向量化处理，这个过程通常需要几秒到几分钟不等，取决于文档大小。

处理完成后，在对话框输入问题，比如：

"这份合同的违约责任条款在哪里？具体内容是什么？"

AI会基于你上传的文档给出精准回答，并标注来源段落。✅

---

四、避坑指南 + 进阶玩法

5大常见报错速查表

进阶玩法：接入第三方工具

Ollama在本地开放了一个标准的OpenAI兼容API，这意味着所有支持自定义API的工具都可以直接接入你的本地模型：

安装Obsidian的Copilot插件，在设置中将API地址改为：

http://127.0.0.1:11434/v1

选择模型名 deepseek-r1:7b，你的笔记库就有了一个本地AI助手。

在Cursor设置中，选择"自定义模型"，填入相同的本地API地址，即可用DeepSeek辅助写代码，代码不会上传到任何云端。

---

【可选进阶】当本地算力不够用时

本地7B模型处理日常文档问答绰绰有余，但如果你遇到以下场景，本地算力就会成为瓶颈：

• 需要处理超长上下文（几十万字的文档）
• 需要复杂多步推理（法律分析、财务建模）
• 团队多人同时使用，需要并发支持
• 需要图片理解、代码生成等多模态能力

这时候，一个高性价比的云端API是最好的补充——不用自己管服务器，按量计费，随时切换最新模型，还能接入DeepSeek R1满血版、GPT-5系列、Claude Opus等旗舰模型。

AnythingLLM支持在设置中随时切换LLM来源，从本地Ollama切换到云端API只需要改一下API地址和密钥，工作区和知识库完全不受影响。

👉 [api.884819.xyz](https://api.884819.xyz) — 支持DeepSeek、GPT系列、Claude等主流模型，国内用户友好，按量付费无月租，新用户注册即送体验token，配合AnythingLLM的API模式直接接入，无缝切换本地/云端。

---

五、值不值得搭？一张决策表帮你判断

本地跑你的私密任务——合同审查、日记整理、内部文档问答；云端API处理高强度、多模态、团队级需求。

本地是你的根据地，云端是你的远征军——真正的高手，两手都要硬。

---

写在最后

从焦虑"数据在哪台服务器上"，到自己的电脑里跑着一个私人AI，这套方案的门槛比你想象的低得多。

整个配置流程，从零开始大概需要30-60分钟，之后你就有了一个：

• 不需要信任任何公司的AI
• 不需要每月付费的AI
• 断网也能用的AI
• 数据永远在自己手里的AI

这不只是搭了一个工具，而是重新掌控了自己的数字生活。

---

为什么同样上传了一份合同，有人问出了"废话"，有人却能精准定位到关键条款？同样是DeepSeek，差距在哪里？

下一篇，我们会拆解RAG（检索增强生成）的核心原理——切片策略怎么选、向量模型怎么配、提示词怎么写，三个变量决定你的知识库是"智能助手"还是"高级搜索引擎"。

---

#AI教程 #DeepSeek #本地部署 #Ollama #AnythingLLM #隐私保护 #8848AI #RAG知识库