本地化大模型部署工具-ollama

官方网址

(https://ollama.com/)

安装包支持的参数

file

安装到指定目录

OllamaSetup.exe /DIR=E:\你的目录\Ollama

添加环境变量

file

OLLAMA_MODELS :E:\MySoftware\Ollama\models

查看指定模型下有哪些可用的

(https://ollama.com/library/deepseek-r1/tags)[https://ollama.com/library/deepseek-r1/tags]
file

如上图,其中1.5B 或者 7B 这样明确没有后缀的,表示不是蒸馏版本。下面的带有其它模型版本的则是。

都可以尝试一下

蒸馏的意思