自行本地部署大语言模型的方法

自行本地部署大语言模型的方法
GitHub - ollama/ollama: Get up and running with Llama 3, Mistral, Gemma, and other large language models.

1. 打开 Ollama 的网站：https://ollama.com/
2. 点Download, 选择对应的操作系统后下载 (支持 macOS 11/ Linux / Windows 10 以上)
3. 在网页左上角点 GitHub, 或直接访问：https://github.com/ollama/ollama
4. 找到下图中页面的，选择对应的大模型，最右侧一列是运行指令
5. 运行指令
6. 程序自动拉取并导入对应的大数据模型，等待出现“SUCCESS"就可以本地使用啦！

发帖不易，大家随意鼓励一下吧。

贴主:abuc99于2024_06_24 21:36:37编辑
评分完成：已经给 abuc99 加上 200 银元！