适客

  • 想在 Mac / Linux 本机拉模型做 prompt 试验、RAG 原型
  • 对数据不出本机有要求,可接受自行维护模型与显存

优缺点

优点

  • 安装简单,ollama run 即可对话
  • 模型库覆盖 Llama、Qwen、DeepSeek 等主流开源权重
  • 本地免费,无按 token 账单

缺点

  • 大模型对内存/显卡要求高;笔记本上体验因机器而异
  • 无企业级 SLA;生产流量仍建议托管 API 或自建推理集群

定价

软件与本地推理免费;模型权重遵循各自开源许可。

一句话

本地 AI 实验的默认起点,和 Cursor / 脚本联调很顺手,别指望它扛线上峰值。