Ubuntu指定端口指定Models路径指定安装路径安装Ollama

Z技术 2024年03月08日 86次浏览

1、指定安装路径

# 创建目标目录
sudo mkdir -p /opt/ollama

# 下载 Ollama 的二进制文件
curl -L -o /opt/ollama/ollama https://ollama.com/download/ollama-linux-amd64

# 给予执行权限
sudo chmod +x /opt/ollama/ollama

# 更新 PATH
echo 'export PATH=$PATH:/opt/ollama' >> ~/.bashrc
source ~/.bashrc

2、指定models路径

# 创建模型目录
mkdir -p /path/to/your/models

# 设置环境变量
echo 'export OLLAMA_MODELS=/path/to/your/models' >> ~/.bashrc
source ~/.bashrc

3、指定端口

#设置端口环境变量
echo 'OLLAMA_HOST=0.0.0.0:8080' >> ~/.bashrc
source ~/.bashrc

4、启动

ollama start

#后台启动
#ollama start &

5、其他

ollama run modelsName:version