使用AnythingLLM在算力魔方上搭建企业私有知识库

无需编写代码，本文将教你如何在算力魔方 ®上使用Ollama+AnythingLLM 搭建企业私有知识库。搭建企业私有知识库，其好处非常明显，主要有：

• 数据安全与隐私保护：

私有化部署确保敏感数据或业务数据在内网的算力魔方 ®上，减少了数据泄露的风险，增强了对外部威胁的防御能力。

• 运营效率提升：

部署时间短，能够快速见效；新员工在具有企业专业知识的聊天机器人的帮助下，快速成为行业“老师傅”。

• 成本控制：

私有知识库作为企业资产，不受外部因素干扰，长期来看可能降低运营成本。

在算力魔方 ®上，基于Ollama+AnythingLLM 搭建企业私有知识库，总的来说：具有低成本、高效率、 让员工人人都变成“老师傅” 的优势。

一

AnythingLLM简介

AnythingLLM 是一款全线应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用，非常适合搭建企业私有知识库，其酷炫特性有：

• 多用户实例支持和权限管理：

• 工作区内的智能体Agent（浏览网页、运行代码等）

• 为您的网站定制的可嵌入聊天窗口

• 支持多种文档类型（PDF、TXT、DOCX等）

• 通过简单的用户界面管理向量数据库中的文档

二

算力魔方®简介

算力魔方 ®是一款模块化的迷你主机，采用了抽屉式设计，后续组装、升级、维护只需要拔插算力和IO模块即可组成丰富的配置，适应不同场景。

算力魔方 ®4060版，非常适合本地部署AI大模型。

算力魔方 ®4060版，高效散热，能够在高效地处理复杂的3D模型和场景时，保证运行的速度和稳定性。

算力魔方 ®此前经过了多种测试验证，当前主流的一些大模型的部署运行，都取得了较好的体验。

1，**智谱AI大语言模型**；

2，Latent Consistency Models模型；

3，**ChatGLM3大语言模型的企业本地AI知识库部署**；

4，**零一万物Yi-1.5系列模型**；

5， Qwen2大语言模型等...

搭建企业私有知识库

在使用AnythingLLM 前，请参考《Gemma 2+Ollama在算力魔方上帮你在LeetCode解题》安装Ollama 和 Node.js，然后执行命令：ollama run qwen2，把Qwen2 这个中英双语大模型作为企业私有知识库的大语言模型。

然后，进入https://useanything.com/download，下载并安装AnythingLLM 。

安装完毕后，请新建一个Workspace：

聊天设置选择Ollama，LLM首选项为qwen2:latest：

最后把企业文档，例如：https://arxiv.org/pdf/2402.06196，上传到工作区，点击“Save and Embed”，完成企业私有知识库的搭建。

现在，您就可以愉快地询问这个专业小助手，有关企业专业知识的问题啦！

01:23

四

总结

无需编写程序，即可在算力魔方 ®上使用Ollama+AnythingLLM 方便快捷的搭建企业私有知识库，还好省钱省心。员工在具有企业专业知识的聊天机器人的帮助下，很快就能成为行业“老师傅”了！