QQ个性网:专注于分享免费的QQ个性内容

关于我们| 网站公告| 广告服务| 联系我们| 网站地图

搜索
AI 盘古大模型 智谱AI SenseNova 混元大模型 chatgpt 星火大模型 deepseek 安第斯大模型 文心一言 豆包 huggingface 通义千问 cursor MiLM claude 大模型 PaddlePaddle 360智脑

DeepSeek模型各版本硬件要求,以及个人电脑本地安装教程!

日期:2025/04/04 22:31来源:未知 人气:52

导读:深度求索(DeepSeek)是一家中国的人工智慧(AI)公司,成立于 2023 年,目标是打造「通用人工智慧」(AGI)。DeepSeek 专注于研发最先进的AI 技术,特别是「自然语言处理」(NLP)和「深度学习」,AI技术可以让机器理解人类语言、生成文字、进行对话。2025年1月20日,全新的推理模型DeepSeek-R1发布,同样发布并开源,效果媲美OpenAI o1,同......

深度求索(DeepSeek)是一家中国的人工智慧(AI)公司,成立于 2023 年,目标是打造「通用人工智慧」(AGI)。DeepSeek 专注于研发最先进的AI 技术,特别是「自然语言处理」(NLP)和「深度学习」,AI技术可以让机器理解人类语言、生成文字、进行对话。2025年1月20日,全新的推理模型DeepSeek-R1发布,同样发布并开源,效果媲美OpenAI o1,同时API价格仅为OpenAI o1的3.7%,再一次震惊海外。

由于DeepSeek被攻击的厉害,生成答案时经常会超时,因此我们搭建一个本地化的DeepSeek来满足日常使用需求。

0**1**模型版本——硬件要求

一、小模型(1B-3B参数)——适合低功耗设备

二、中模型(7B-13B参数)——适合高性能单卡

三、大模型(20B-175B参数)——需要多卡并行(推荐使用NVLink)

四、MoE模型(混合专家模型)——动态路由机制,资源利用率高

0**2**部署本地大模型

第一步:搭建基础环境(安装Ollama)

Ollama 是一个轻量级AI模型运行框架,支持多个开源模型,我们将用它来运行DeepSeek模型。

1. 下载 Ollama,访问 Ollama 官网(https://ollama.com/download ),根据你的操作系统选择安装包(Windows 选择 .exe,Mac 选择 .dmg)

下载完成后,按照提示进行安装:

  • Windows:双击安装包,一路“Next”即可

  • Mac:拖拽 Ollama 图标到 Applications 文件夹

2. 安装完成后,打开终端(Windows 按 Win + R 输入 cmd,Mac 直接打开 Terminal),输入:

ollama list

如果终端显示 llama3 之类的模型名称,说明安装成功!

注意事项

  • 确保系统已更新,避免兼容性问题

  • 关闭杀毒软件,以防拦截安装

  • 保持网络畅通,下载过程中可能需要 300MB 以上的数据

第二步:部署DeepSeek模型

DeepSeek 提供多个参数版本

  • 普通用户:选择 8B 版本,适合日常对话、写作等

  • 高性能显卡用户(显存 16GB 以上):可选 16B 版本,体验更强大性能

1. 获取并安装模型

  • 打开 Ollama 模型库,搜索 deepseek-r1

  • 复制对应版本的安装命令,并在终端运行:

ollama run deepseek-r1:8b

(如果你选择 16B 版本,把 8b 替换为 16b)

首次运行时,系统会自动下载 5GB 左右的模型文件,耐心等待一下。

第三步:安装可视化界面(Chatbox AI)

终端交互虽然好用,但如果你更喜欢类似 ChatGPT 那样的可视化界面,可以安装 Chatbox AI。

1. 下载 Chatbox

  • 访问 Chatbox 官网 下载对应系统的安装包

  • 按照默认设置完成安装

2. 连接本地模型

  • 打开 Chatbox,进入 ⚙️ 设置

  • 在 模型设置 里选择:

  • API 类型:Ollama API

  • 模型名称:deepseek-r1:8b

  • 点击 检查连接,如果状态正常,就可以开始愉快地使用啦!

    • 温度值:建议 0.3-0.7,数值越低,AI 回答越保守
  • 最大生成长度:建议 2048 tokens,这样回答更丰富

  • 连续对话模式:开启后,能让对话更加连贯

0**3**常见问题及优化

Q1:运行时提示显存不足?

A:尝试使用 8B 或者更轻量版本,或升级显卡驱动。定期重启 Ollama,释放内存,让AI保持最佳状态

Q2:AI 回答乱码?

A:在 Chatbox 设置中切换编码为 UTF-8。

Q3:如何更新模型?

A:在终端执行:

ollama pull deepseek-r1:8b

就能获取最新版本。

END

关于我们|网站公告|广告服务|联系我们| 网站地图

Copyright © 2002-2023 某某QQ个性网 版权所有 | 备案号:粤ICP备xxxxxxxx号

声明: 本站非腾讯QQ官方网站 所有软件和文章来自互联网 如有异议 请与本站联系 本站为非赢利性网站 不接受任何赞助和广告