Ollama：一条命令把开源大模型跑在本地

Ollama 是一个把开源大模型装进本机、随时对话的开源运行器，Windows、macOS、Linux 三端通吃。下载模型、启动对话都只要一条命令，对不想跟依赖环境较劲的新人尤其友好，模型文件、对话记录都留在自己电脑上。

上手门槛压到一条命令。 装好之后 ollama run 加上模型名就能开聊，模型下载、加载、退出全包了。以命令行写指令的之外，跑一个本地服务端口就能让别的应用接进来：聊天工具、脚本、编辑器插件都可以指过来，共用同一个模型。

模型供给面覆盖主流开源家底。 指令类、代码类、视觉多模态、轻量小模型都有对应版本，下载是经过量化的版本，入门机型也能跑。遇到同名模型有多个尺寸和量化版本时，挑小的先跑通、大的换机器，这是常见节奏。

自定义有正规入口。 想固定系统提示词、调采样参数、挑自己的模型权重，有一份配置文件可以写，派生出的模型当作自己的版本调用，不必每次记一长串参数。不想写文件的话，纯命令行参数也能临时覆盖。

资源占用可控。 模型按需驻留内存，空闲后释放，磁盘不够可以挪目录；显卡与 CPU 混合推理是默认路径，显存小的机器把尺寸调小即可继续，不必为了一个对话去换硬件。

接口规范是加分项。 对外暴露的是通用接口格式，主流工具与框架基本都能对接起来，想做二次开发的用户省心。

适合谁：想在电脑上离线跑大模型、聊数据不外传的普通用户；想把本地模型接进自己应用的开发者；想省下订阅费、只做轻量任务的尝鲜者。

上手三步：官网对应平台下载安装；命令行里 ollama run 一个模型名开始对话；需要给别的应用用时，开本地服务端口，在对方应用里填地址。

边界也要说清：大模型文件以适配格式为主，训练微调不是它的主场，复杂微调还是走专门的框架；长上下文与超大模型很吃内存和显卡，机器给到哪一步就到哪一步；没有自带图形界面，喜欢点窗口的可以另配前端。官网国内访问整体稳定。