适客
- 想在 Mac / Linux 本机拉模型做 prompt 试验、RAG 原型
- 对数据不出本机有要求,可接受自行维护模型与显存
优缺点
优点
- 安装简单,
ollama run即可对话 - 模型库覆盖 Llama、Qwen、DeepSeek 等主流开源权重
- 本地免费,无按 token 账单
缺点
- 大模型对内存/显卡要求高;笔记本上体验因机器而异
- 无企业级 SLA;生产流量仍建议托管 API 或自建推理集群
定价
软件与本地推理免费;模型权重遵循各自开源许可。
一句话
本地 AI 实验的默认起点,和 Cursor / 脚本联调很顺手,别指望它扛线上峰值。