Ubuntu指定端口指定Models路径指定安装路径安装Ollama

1、指定安装路径

# 创建目标目录
sudo mkdir -p /opt/ollama

# 下载 Ollama 的二进制文件
curl -L -o /opt/ollama/ollama https://ollama.com/download/ollama-linux-amd64

# 给予执行权限
sudo chmod +x /opt/ollama/ollama

# 更新 PATH
echo 'export PATH=$PATH:/opt/ollama' >> ~/.bashrc
source ~/.bashrc

*第一步可以使用官方安装代替：
curl -fsSL https://ollama.com/install.sh | sh

2、指定models路径

# 创建模型目录
mkdir -p /path/to/your/models

# 设置环境变量
echo 'export OLLAMA_MODELS=/path/to/your/models' >> ~/.bashrc
source ~/.bashrc

3、指定端口

#设置端口环境变量
echo 'OLLAMA_HOST=0.0.0.0:8080' >> ~/.bashrc
source ~/.bashrc

4、启动

ollama start

#后台启动
#ollama start &

5、其他

运行
ollama run modelsName:version

环境变量
OLLAMA_NUM_PARALLEL=4 #并行处理请求的数量
OLLAMA_MAX_LOADED_MODELS=4 #同时加载的模型数量
OLLAMA_KEEP_ALIVE=24 # 模型在内存中保持24h