你有没有过这样的担忧：

为了快速提炼一份长达百页的公司年度财报，或者总结一份包含核心机密的行业研报，你顺手就把 PDF 传给了网上的各种 AI 大模型。

几秒钟后，结果确实出来了，效率很高。但在这个过程中，你的数据其实已经在互联网上“裸奔”了一圈。你根本不知道这些包含商业机密、个人隐私的文件，会不会在明天就成为某家 AI 公司训练新模型的免费语料。

在这个“数据即资产”的时代，把核心机密交给公有云，无异于把家里的保险箱钥匙交给了陌生人。

那么，有没有一种两全其美的办法：既能享受当前顶级 AI 模型的强大智力，又能让数据 100% 留在自己的电脑里，甚至断网也能用？

答案是肯定的。今天，我就来手把手教你搭建一个完全私有化的“最强大脑”。我们将使用当前地表最强的开源模型组合：Ollama（本地大模型运行器） + Deepseek R1/V3（最强开源大脑） + Dify（知识库与工作流搭建神器）。

别一听到“部署”两个字就打退堂鼓。这篇教程专门为非技术背景的用户量身定制。不需要你懂 Python，不需要你懂复杂的算法，只要你会“复制粘贴”和点鼠标，就像搭乐高积木一样，我们一步步来。

第一步：把 Deepseek 装进你的电脑

要让 AI 在本地跑起来，我们需要一个“引擎”和一个“大脑”。Ollama 就是那个引擎，而我们要下载的 Deepseek 模型就是大脑。

1. 硬件“避坑”指南：你的电脑能跑多大的模型？

在开始之前，我们需要先摸底一下你的电脑配置。本地运行大模型，最吃的是内存（RAM）和显存（VRAM）。目前开源社区将庞大的 Deepseek R1 进行了不同程度的“压缩”（量化），以适应普通人的电脑。

请根据你的电脑配置“对号入座”：

电脑运行内存 (RAM)	推荐运行的 Deepseek R1 版本	适用场景
8GB (轻薄本)	Deepseek R1 (1.5B / 7B)	日常文本润色、简单问答，速度较快
16GB (主流配置)	Deepseek R1 (8B / 14B)	复杂逻辑推理、代码辅助、知识库检索
32GB+ (高配/工作站)	Deepseek R1 (32B)	深度长文分析、极高精度的专业级任务

💡 提示： Mac 用户（特别是 M1/M2/M3 芯片）因为是统一内存架构，跑本地模型有天然优势；Windows 用户如果有一张 N 卡（独立显卡），体验会更好。

2. 一键安装 Ollama

Ollama 就像是 AI 界的“微信”，安装极其简单： 1. 打开浏览器，访问 Ollama 官网（ollama.com）。 2. 点击醒目的 Download 按钮，选择你的操作系统（Windows/macOS/Linux），下载并安装。 3. 安装完成后，你的电脑状态栏会出现一个可爱的小羊驼图标。

3. 唤醒你的专属 Deepseek

现在，我们要把模型拉取到本地了。

打开你电脑的终端（Mac 用户打开“终端”或 iTerm，Windows 用户按 Win+R 输入 cmd 打开命令提示符）。

复制并粘贴下面这行代码，然后回车（以最主流的 8B 版本为例）：

ollama run deepseek-r1:8b

接下来，Ollama 会自动帮你下载模型。根据你的网速，这可能需要几分钟。当进度条走到 100%，你会看到终端里出现了一个 >>> 的提示符。

现在，试着在里面打字：“你好，请介绍一下你自己。”

当看着屏幕上一行行文字在完全没有网络连接的情况下蹦出来时，恭喜你，你已经成功拥有了一个属于自己的顶级 AI！这是属于你的第一个 Aha moment。

第二步：给大脑装上“可视化操作系统”

虽然在黑框框（终端）里聊天很极客，但我们要处理几十万字的 PDF、构建知识库，这种简陋的界面显然不够用。

这时候，Dify 就该登场了。Dify 是目前国内最火的开源 LLM 应用开发平台，你可以把它理解为 AI 大脑的“可视化操作系统”。

1. 准备“集装箱”：安装 Docker

Dify 是一个包含多个组件的复杂系统，为了不弄乱你的电脑环境，我们需要用 Docker 把它“装”起来。你可以把 Docker 想象成港口里的标准化集装箱，不管里面装什么，只要有集装箱，就能在任何地方安稳放下。

访问 Docker 官网（docker.com/products/docker-desktop）。
下载并安装 Docker Desktop。
安装后打开它，只要看到左下角亮起绿灯（Engine running），集装箱环境就准备好了。

2. 一键启动 Dify

回到你的终端，依次输入以下三行命令（每一行输入后按回车）：

第一步：把 Dify 的源码下载到本地

git clone https://github.com/langgenius/dify.git

第二步：进入 Dify 的部署文件夹

cd dify/docker

第三步：启动集装箱（魔法开始）

docker compose up -d

看到屏幕上刷出一排排绿色的 Started 时，Dify 就已经在你的电脑上默默运行了。

打开浏览器，在地址栏输入 http://localhost，你就会看到 Dify 清爽的登录界面。首次登录设置一下管理员账号密码即可。

3. 最关键的一步：让 Dify 连上 Ollama

这里是 90% 的小白最容易卡住的地方，请一定要仔细看。

进入 Dify 后台，点击右上角的头像 -> 设置 -> 模型供应商。向下滚动找到 Ollama，点击“添加模型”。

这时候会弹出一个框，让你填 模型名称 和 基础 URL。 - 模型名称：填 deepseek-r1:8b（必须和你刚才下载的名字一模一样）。 - 基础 URL：千万不要填 http://localhost:11434！

为什么？因为 Dify 是装在 Docker“集装箱”里的，它眼里的 localhost 是集装箱内部，而不是你的电脑主机。

正确的填法是： - Mac / Windows 用户：填写 http://host.docker.internal:11434 - Linux 用户：填写 http://172.17.0.1:11434

填好后，点击保存。看到绿色的“保存成功”提示，说明你的可视化操作系统已经成功连接上了本地的大脑！

第三步：实战演练，喂给它十万字文档并惊艳所有人

准备工作全部完成，接下来就是见证奇迹的时刻：搭建 RAG（检索增强生成）知识库。

简单来说，RAG 就是给 AI 一场“开卷考试”。你把书本（PDF）给它，它在回答问题时会先去书里翻找答案，然后再组织语言告诉你。这就彻底杜绝了 AI “胡说八道”的毛病。

1. 创建你的专属知识库

在 Dify 顶部导航栏点击 知识库 -> 创建知识库。
上传一份复杂的文档，比如一本几百页的《员工手册》或一份密密麻麻的《行业深度研报》。
点击下一步，Dify 会自动帮你把这份几十万字的文档进行“分段清洗”。你不需要管那些复杂的参数，直接点击保存并处理。
等待进度条跑完，你的文档就已经被转化成了 AI 能看懂的“向量数据”了。

2. 搭建聊天助手

点击顶部导航栏的 工作室 -> 创建空白应用 -> 选择 聊天助手。
给它起个名字，比如“公司财报分析大师”。
在应用编排界面，找到 上下文，点击添加，把你刚才建好的知识库选进去。
在左侧的 提示词（System Prompt） 里，赋予它一个身份：

“你是一个严谨的财务分析师。请务必根据知识库提供的信息回答问题。如果知识库中没有相关信息，请直接回答‘文档中未提及’，绝对不能编造。”

3. 震撼的对比测试

现在，在右侧的调试窗口里测试一下。

如果你直接问普通的 AI： “我们公司去年的第三季度净利润是多少？” 普通 AI 的回答（幻觉）： “根据一般市场情况，贵公司的净利润大约在 5000 万左右……”（纯属瞎编）。

现在，问你刚搭建的 Dify 助手： “我们公司去年的第三季度净利润是多少？” Dify 助手的回答： “根据您提供的《2023年财务报告》，公司第三季度净利润为 1.28 亿元人民币。相比去年同期增长了 15%。” 最关键的是，在回答的下方，它会清晰地给出一个引用链接，点击就能直接定位到原文 PDF 的第 45 页！

精准、安全、有理有据。这就是完全属于你的私有知识库的威力。

进阶思考：本地部署的终点，是走向云端

恭喜你，跟着教程走到这里，你已经成功跨越了 AI 玩家的一道大门槛，拥有了一个免费、安全、断网可用的本地知识库。

但在你兴奋地把各种文档塞进这个系统时，你可能很快会遇到几个现实问题：

硬件在哀嚎：当你问它一个复杂问题时，你的笔记本风扇开始狂转，键盘烫得能煎鸡蛋，而且 AI 回复文字的速度像是在“挤牙膏”。
场景受限：你下班离开了这台电脑，或者想把这个好用的知识库分享给团队同事，发现根本做不到，因为它只存在于你这台主机的本地局域网里。

难道为了解决这个问题，我们要去花几万块钱买一张顶级的 RTX 4090 显卡，并一直开着电脑做服务器吗？

完全不需要。聪明的做法是：把架构和知识留在自己手里，把算力交给云端。

当你觉得本地硬件算力跟不上时，我强烈建议你在 Dify 中接入云端 API。这里推荐大家使用 8848AI 平台（api.884819.xyz）。

作为国内体验极佳的 AI 聚合平台，8848AI 有几个对小白极其友好的特性： - 极简注册：不需要繁琐的邮箱验证，输入用户名和密码即可注册。 - 白嫖福利：注册就送 5 元体验额度。 - 国产模型完全免费：这是最震撼的！在 8848AI 上，调用当下最火的 Deepseek R1/V3、通义千问等顶级国产模型，完全免费！完全免费！完全免费！ - 按量付费，拒绝月租：想用顶级的 Claude Opus 4.6 或 Gemini 3.1 Pro？没有几十美元的月租订阅，用多少扣多少，几毛钱就能解决大问题。 - 无缝接入 Dify：你只需要在 8848AI 平台生成一个 API Key，填入 Dify 的模型供应商里。

瞬间，你的本地知识库就接上了企业级的云端算力。再也不用听电脑风扇的轰鸣，回复速度如丝般顺滑，而且核心的 Dify 架构依然由你掌控。

留个悬念：让你的 AI 走出实验室

现在，你的专属 AI 已经熟读了你的核心文档，并且拥有了顶级的智商和极快的响应速度。

但是，每次遇到问题，你都要专门打开浏览器，进入 Dify 的后台去问它，是不是觉得还是有点繁琐？

如果能把它直接接入你的微信呢？

想象一下：你把这个知识库变成一个 24 小时在线的私人微信秘书。客户在微信上问你刁钻的专业问题，你的 AI 秘书自动在群里或者私聊中，精准引用公司文档，给出完美的专业解答。这才是真正的“降维打击”！

下一篇教程，我将手把手教你：《如何将 Dify 私有知识库一键接入微信/企微，打造全自动 AI 助理》。

不需要写代码，同样是搭积木式的傻瓜教程。不想错过的朋友，记得点赞、收藏并关注 8848AI，我们下期见！

本文由8848AI原创，转载请注明出处。关注8848AI，带你从零开始学AI。

AI教程 #Deepseek #人工智能 #8848AI #知识库 #Dify #Ollama #AI学习