Skip to main content

教程概述

问题🤔️🤔️🤔️

🤔️没有GPU,想要学习大模型知识?

🤔️不能访问OpenAI API,想要测试自己的微调方案?

🤔️数据不能外漏,不放心使用公开大模型?

⚡️⚡️⚡️ 本地部署AI大模型教程 ⚡️⚡️⚡️

不需要昂贵的GPU,在本地就能部署大模型🚀🚀🚀。

🐑目前最简单的方法是使用软件ollama,不管是在mac,linux还是windows上,你都可以用ollama去跑各种各样的大模型

💥但是ollama是一个纯命令行的工具,交互太过原始,再搭配Open WebUI可以轻松获取交互界面

⚡️如果还想进一步定制,还可以使用AnythingLLM实现简单的本地RAG数据库,创建一个完全属于私人的AI小助手

🔥教程内容🔥

⬇️⬇️⬇️ 安装 Ollama + Open WebUI + AnythingLLM

在Windows上安装
支持win10以上系统,最少需要8GB内存.
在Mac上安装
支持apple和intel芯片.
在Linux上安装
支持多种linux系统.