QQ个性网:专注于分享免费的QQ个性内容

关于我们| 网站公告| 广告服务| 联系我们| 网站地图

搜索
AI 盘古大模型 智谱AI SenseNova 混元大模型 chatgpt 星火大模型 deepseek 安第斯大模型 文心一言 豆包 huggingface 通义千问 cursor MiLM claude 大模型 PaddlePaddle 360智脑

DeepSeek平台本地化部署,离线也能畅享AI服务

日期:2025/04/05 08:30来源:未知 人气:51

导读:前言近期,“DeepSeek”(深度求索)人工智能平台备受瞩目,其强大的功能让我们能够轻松应对众多任务。通常,我们通过浏览器网页或手机APP来使用这些服务,然而,网络或服务器的问题有时会影响我们的使用体验,甚至导致卡顿或无响应。为此,本文将介绍如何在个人电脑上本地部署DeepSeek-R1模型。一旦部署成功,您将能够在无需网络连接的情况下,在本地离线使用该平台,从而享受更高效、......

前言

近期,“DeepSeek”(深度求索)人工智能平台备受瞩目,其强大的功能让我们能够轻松应对众多任务。通常,我们通过浏览器网页或手机APP来使用这些服务,然而,网络或服务器的问题有时会影响我们的使用体验,甚至导致卡顿或无响应。为此,本文将介绍如何在个人电脑上本地部署DeepSeek-R1模型。一旦部署成功,您将能够在无需网络连接的情况下,在本地离线使用该平台,从而享受更高效、更稳定的服务。 为了在个人电脑上本地部署DeepSeek,我们首先需要下载两个软件,它们都是免费提供且易于使用的。首先是Ollama,这是一个开源的本地大语言模型运行框架,旨在简化大型语言模型(LLM)在本地机器上的部署和运行。Ollama兼容多种操作系统,包括macOS、Windows和Linux,并支持通过Docker容器进行运行。其独特的模型量化功能能够显著降低显存需求,使得在普通家用计算机上运行大型模型成为现实。您可以访问官方网站https://ollama.com/download/windows进行下载。 支持三大主流平台,我们以Windows系统为例,目前(2025-03-08)最新版本为0.5.13,安装包大小为0.97GB。

此外,ChatBox AI作为一款多功能的AI客户端应用和智能助手,也备受瞩目。它兼容Windows、MacOS、Android、iOS、Linux以及网页版,且支持众多前沿的AI模型和API。目前,ChatBox AI的最新版本为1.10.4,安装包大小为146MB,用户可访问其官方下载地址https://chatboxai.app/zh进行下载。

完成上述软件的下载后,您可直接双击安装包进行安装,为DeepSeek的本地部署做好充分准备。 Ollama在默认情况下无法直接修改安装路径,它通常会被安装在C盘。然而,您可以通过命令行来指定自定义的安装位置,但请注意,这涉及到环境变量等复杂操作,因此,为简化操作,我们建议采用默认的双击安装方式进行安装。 目前,为了适应不同性能水平的平台,DeepSeek提供了多种参数量的模型库供用户选择,包括1.5b、7b、8b、14b、32b、70b以及671b。这里的“b”代表的是十亿参数量。在这些模型库中,1.5b版本的模型库文件尺寸最小,仅为1.1GB。 安装完成后,您需要打开CMD窗口,并输入以下命令来安装DeepSeek-R1的1.5b版本:

ollama run deepseek-r1:1.5b

请注意,部署进度可能会受到网络情况的影响。 等待安装过程结束,随后关闭CMD窗口。至此,DeepSeek-R1的1.5b版本已成功部署至您的电脑本地,即便是在断网状态下,也能正常启用。接下来,让我们简要体验一下其功能。重新打开CMD窗口,输入以下命令以运行DeepSeek模型:

ollama run deepseek-r1:1.5b

在输入您的问题后按下回车键,即可获得DeepSeek的即时回应。 ChatBox集成

尽管通过CMD窗口与DeepSeek进行交互在一定程度上可行,但为了更直观的聊天体验,我们可以借助第三方客户端ChatBox来实现。只需打开ChatBox软件,并选择使用本地部署的DeepSeek模型,即可享受与DeepSeek的流畅对话。 选择Ollama作为模型提供方

在集成ChatBox与DeepSeek的过程中,我们选择了Ollama作为模型提供方。这样一来,用户可以通过ChatBox软件,直接与部署在Ollama上的DeepSeek模型进行交互,从而获得更加便捷、直观的对话体验。 配置已下载的DeepSeek-R1:1.5b模型文件。 现在,您可以自由地使用DeepSeek-R1:1.5b模型,尽情探索其功能。 尽管DeepSeek-R1:1.5b模型官方推荐使用RTX3060或更高配置的显卡,但实际在我使用的笔记本电脑上(配备MX450显卡)也能顺畅运行。

关于我们|网站公告|广告服务|联系我们| 网站地图

Copyright © 2002-2023 某某QQ个性网 版权所有 | 备案号:粤ICP备xxxxxxxx号

声明: 本站非腾讯QQ官方网站 所有软件和文章来自互联网 如有异议 请与本站联系 本站为非赢利性网站 不接受任何赞助和广告