分享
Ollama 开源大语言模型部署
输入“/”快速插入内容
Ollama 开源大语言模型部署
用户6572
用户6572
2024年9月19日修改
大名鼎鼎的Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型。
Ollma下载地址:
https://ollama.com/download
安装使用说明
选择对应系统,直接下载
双击直接安装。
将下方地址复制进浏览器中。如果出现下方字样,表示安装完成。
http://127.0.0.1:11434/
并在系统右下角会出现这个羊驼。
在ollama官网上查看可使用的模型。
地址:
https://ollama.com/library
使用win+R打开运行,输入cmd。
这里我选择了qwen2:7b,粘贴以下指令
代码块
JSON
ollama run qwen2:7b
下载完成,直接输入即可使用。