月之暗面面向开发者的模型 API 平台,适合长上下文类应用——这是 Kimi 开放平台最主要的用途,也是本文讨论的前提。

当数据不能离开公司或个人设备时,就需要考虑自托管或开源路线。

先判断:它能不能自托管

它是云端 API;若数据不能外发,可以评估开放权重模型的本地部署,通过兼容接口平滑切换。

决策要点

  • 数据敏感级别:只有内部公开信息时,云端服务通常更省事。
  • 团队是否有人负责运维和安全更新。
  • 硬件投入:本地运行模型需要显卡或较大的内存。
  • 效果差距:用自己的任务实测,不要只看榜单。

可以评估的开源方向包括:Google ADK、Pydantic AI、MLC LLM。它们与 Kimi 开放平台的能力并不完全等同,适合用来承接对数据要求最高的那部分任务。

用同一个任务做对比

方案对比

输入:两到三个备选方案的要点。

用表格对比以下方案,列为:成本投入、实施难度、主要风险、适合的前提条件。表格后给出你倾向的方案和理由,并说明什么情况下结论会反转。

交付前确认:结论附带了反转条件。

自托管上线清单

  • 固定版本号并记录配置。
  • 只在内网暴露服务或加上认证。
  • 设置日志与资源监控。
  • 订阅仓库的版本发布与安全公告。
  • 准备回滚方案。

补充练习

周报整理

准备材料:本周零散的工作记录和聊天截图文字。

把下面的工作记录整理成周报,分「已完成 / 进行中 / 风险与求助」三段,每条不超过 25 字,保留原始数字,不要补充我没写的成果。

交付前确认:没有出现记录里不存在的成果。

邮件改写

准备材料:一封措辞生硬的中文或英文邮件草稿。

把这封邮件改写得礼貌但直接,保留所有日期和金额,开头一句说明来意,结尾给出明确的下一步。另外给一个更简短的版本。

交付前确认:日期金额与原稿一致。

会议准备

准备材料:会议议题和参会人角色。

我要主持一个 30 分钟的会议,议题是【议题】。请帮我写议程(含每项时长)、需要提前发给参会人的 3 个问题,以及可能出现的分歧和我的应对话术。

交付前确认:议程总时长不超过会议时长。

常见问题:同一问题每次答案不同

把格式和判断标准写死,必要时让它先给评分依据再给结论。

常见问题:中文输出夹杂英文术语

在提示里明确「术语首次出现给中文译名,括号内保留英文」

常见问题:引用的链接打不开或内容对不上

要求只引用能直接访问的来源,关键结论自己回到原网页核对。

概念补充:深度思考 / 推理模式

让模型先进行多步推理再作答,通常更慢,适合复杂问题。

概念补充:系统提示词

在对话开头设定角色、规则与格式的指令,影响整段对话。

适合人群:行政与助理

行政与助理可以用 Kimi API 处理会议安排与纪要、通知公告等工作。需要注意:员工个人信息与内部文件按权限管理。

注意事项

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

涉及个人信息、商业机密或受监管数据时,先确认 Kimi 开放平台的数据处理条款,再决定能否使用。

延伸阅读