日期:2025/04/04 22:31来源:未知 人气:52
深度求索(DeepSeek)是一家中国的人工智慧(AI)公司,成立于 2023 年,目标是打造「通用人工智慧」(AGI)。DeepSeek 专注于研发最先进的AI 技术,特别是「自然语言处理」(NLP)和「深度学习」,AI技术可以让机器理解人类语言、生成文字、进行对话。2025年1月20日,全新的推理模型DeepSeek-R1发布,同样发布并开源,效果媲美OpenAI o1,同时API价格仅为OpenAI o1的3.7%,再一次震惊海外。
由于DeepSeek被攻击的厉害,生成答案时经常会超时,因此我们搭建一个本地化的DeepSeek来满足日常使用需求。
0**1**模型版本——硬件要求
0**2**部署本地大模型
Ollama 是一个轻量级AI模型运行框架,支持多个开源模型,我们将用它来运行DeepSeek模型。
1. 下载 Ollama,访问 Ollama 官网(https://ollama.com/download ),根据你的操作系统选择安装包(Windows 选择 .exe,Mac 选择 .dmg)
下载完成后,按照提示进行安装:
Windows:双击安装包,一路“Next”即可
Mac:拖拽 Ollama 图标到 Applications 文件夹
2. 安装完成后,打开终端(Windows 按 Win + R 输入 cmd,Mac 直接打开 Terminal),输入:
ollama list
如果终端显示 llama3 之类的模型名称,说明安装成功!
注意事项
确保系统已更新,避免兼容性问题
关闭杀毒软件,以防拦截安装
保持网络畅通,下载过程中可能需要 300MB 以上的数据
DeepSeek 提供多个参数版本
普通用户:选择 8B 版本,适合日常对话、写作等
高性能显卡用户(显存 16GB 以上):可选 16B 版本,体验更强大性能
1. 获取并安装模型
打开 Ollama 模型库,搜索 deepseek-r1
复制对应版本的安装命令,并在终端运行:
ollama run deepseek-r1:8b
(如果你选择 16B 版本,把 8b 替换为 16b)
首次运行时,系统会自动下载 5GB 左右的模型文件,耐心等待一下。
终端交互虽然好用,但如果你更喜欢类似 ChatGPT 那样的可视化界面,可以安装 Chatbox AI。
1. 下载 Chatbox
访问 Chatbox 官网 下载对应系统的安装包
按照默认设置完成安装
2. 连接本地模型
打开 Chatbox,进入 ⚙️ 设置
在 模型设置 里选择:
API 类型:Ollama API
模型名称:deepseek-r1:8b
点击 检查连接,如果状态正常,就可以开始愉快地使用啦!
最大生成长度:建议 2048 tokens,这样回答更丰富
连续对话模式:开启后,能让对话更加连贯
0**3**常见问题及优化
Q1:运行时提示显存不足?
A:尝试使用 8B 或者更轻量版本,或升级显卡驱动。定期重启 Ollama,释放内存,让AI保持最佳状态
Q2:AI 回答乱码?
A:在 Chatbox 设置中切换编码为 UTF-8。
Q3:如何更新模型?
A:在终端执行:
ollama pull deepseek-r1:8b
就能获取最新版本。
END