【笔记】Ollama学习笔记

发表于 更新于 阅读次数：

前言

Ollama是一款可以在本地电脑上执行语言模型（LLM）的软件，无需服务器。该软件以Go语言实现，并以MIT许可协议开放源代码形式发布。这个软件支持Llama 2、Mistral与Gemma等语言模型，并可在Linux、macOS和Windows平台上使用。（维基百科）

下载依赖

MacOS

1
brew install ollama

下载模型

1
ollama pull deepseek-r1:1.5b
  • 模型会下载到~/.ollama/models/blobs

启动模型

  • 没有模型会先自动下载模型
1
ollama run deepseek-r1:1.5b

启动服务

1
OLLAMA_HOST=0.0.0.0:11434 ollama serve

完成