这是一份 Ollama 本地运行大模型检查清单，复制到笔记里，每次使用前过一遍。本地运行大模型是在自己的电脑或服务器上下载并运行开源或开放权重的模型，常见的工具有 Ollama 等。本地模型和知识库类技能更偏技术，但入门门槛正在降低。关键是先想清楚数据放在哪里、谁能访问。

这些时候尤其要用

  • 网络受限或需要离线使用 AI。
  • 开发应用时需要一个本地的测试模型。

清单的意义在于：代价是能力和便利性：你需要自己的硬件，也要接受小模型在复杂任务上的不足。

使用前

  • 确认电脑的内存、显卡和磁盘空间，了解大致能运行多大的模型。
  • 从官方渠道安装本地运行工具，阅读官方文档。
  • 选择与硬件匹配的模型，先从较小的模型开始。
  • 确认材料中不包含未公开的游戏设定和源代码，必要时先脱敏。

使用中

  • 下载并运行模型，用几个简单问题测试速度和效果。
  • 根据需要通过本地接口接入你的脚本或应用。
  • 本地模型在复杂任务上可能较弱，按任务需求合理预期。
  • 不同模型的许可证不同，商用前确认是否允许。

使用后

  • 查看模型的许可证，确认是否允许你的用途，并定期更新工具。
  • 默认只在本机使用，确需远程访问时做好认证和网络限制。
  • 已记录本次有效的写法，便于下次复用。
  • 游戏开发者特别注意：写游戏逻辑时让 AI 给出伪代码和边界情况，再落实到具体引擎。

红线清单

  • 选择超出硬件能力的大模型。
  • 期待本地小模型达到顶级云端模型的效果。
  • 忽视模型许可证。
  • 从非官方渠道下载工具和模型。

配套模板

清单配合下面的模板使用效果更好：

# 常用命令示例（以 Ollama 为例，具体以官方文档为准）
# 下载模型
ollama pull [模型名]
# 在终端中与模型对话
ollama run [模型名]
# 查看本机已有的模型
ollama list
# 删除不再使用的模型，释放磁盘空间
ollama rm [模型名]

# 测试问题：请用三句话说明“独立游戏试玩版”的主要难点，回答使用中文。

按清单完成后，结果大致会是这样（虚构示例）：

示例（虚构）：一位开发者在笔记本电脑上用本地运行工具加载了一个较小的模型，用来给内部代码写注释。速度虽然比云端服务慢一些，但代码不需要上传到外部，符合公司的安全规定。

让清单更好用的两个习惯

  • 同一任务用两三个模型对比，选出最适合的。
  • 定期清理不用的模型，模型文件通常较大。

清单之外

普通笔记本能运行吗？ 较小的模型通常可以在内存充足的普通电脑上运行，速度取决于硬件，大模型需要更强的配置。

中文效果怎么样？ 不同模型差异较大，可以选择中文能力较好的开源模型，并用自己的任务测试。

把清单变成习惯

不必追求每次都完美勾满。更实际的做法是：重要任务全量检查，日常小任务只看标星的几项。游戏开发者在准备策划文档或参加版本评审会前用一次，就能感受到差别。

相关阅读