怎么判断 MLC LLM 的产出好不好：一张评分表
MLC LLM 是一款开源项目：把大模型编译部署到手机、浏览器等设备的开源项目。
用 AI 最容易犯的错是「看着不错就用了」，这篇给出一张可复用的打分表。
评分表（每项 1 到 5 分）
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 效果 | 真实任务上的回答质量 | 明显不合格 | 无需修改即可使用 |
| 性能 | 生成速度与并发能力 | 明显不合格 | 无需修改即可使用 |
| 资源 | 显存、内存与硬件成本 | 明显不合格 | 无需修改即可使用 |
| 运维 | 部署、升级与监控的难度 | 明显不合格 | 无需修改即可使用 |
| 许可 | 是否满足商用与合规要求 | 明显不合格 | 无需修改即可使用 |
建议：任一维度低于 3 分就不要直接使用；总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
本地部署试跑
输入：一台有独立显卡或大内存的电脑。
按官方文档在本机部署，选择一个适合显存的模型尺寸，运行一个简单的对话或推理测试，记录显存占用和生成速度。
检查点：记录了资源占用。
怎么让评分更可靠
- 同一批材料至少测 5 次，不只看最好的一次。
- 两人分别打分，分歧大的维度再讨论标准。
- 把 MLC LLM 的结果与人工完成或 ExecuTorch 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
延伸练习
模型对比测试
适用情况：手头有两到三个候选开源模型时。
用 20 个真实业务问题测试候选模型，记录回答质量、速度和资源占用，选出最适合的模型。
交付前确认：测试问题相同。
接入现有应用
准备材料：一个已有的业务系统。
通过兼容 OpenAI 格式的接口把本地服务接入现有系统，设置超时和并发上限，先在测试环境跑通。
验收标准：超时与并发有限制。
私有知识问答
适用情况：手头有一批不能上传云端的内部文档时。
在本地搭建问答：本地模型负责回答，文档向量化存储在本机，回答时注明出处段落，断网情况下验证仍可使用。
交付前确认：断网可用。
常见问题：服务对外暴露有风险
只监听内网地址，加认证和反向代理。
常见问题：显存不足无法加载
换用更小的模型或更低的量化等级，或启用 CPU 卸载。
常见问题：升级后不兼容
固定版本号，升级前在测试环境验证。
概念补充：开放权重
公开模型参数可下载使用，但许可证条款各不相同。
概念补充：推理框架
负责加载模型并高效生成结果的软件。
适合人群：软件工程师
软件工程师可以用 MLC LLM 处理代码阅读与重构、测试与排错等工作。需要注意：不要把密钥和未开源代码上传到未授权工具，合并前审阅每处改动。
适合人群：研究生
研究生可以用 MLC LLM 处理文献阅读、开题与论文写作等工作。需要注意：遵守学校学术诚信规定，AI 只用于辅助理解和润色。
适合人群：游戏开发者
游戏开发者可以用 MLC LLM 处理原型与素材、NPC 对话与文案等工作。需要注意：关注生成素材的授权和平台对 AI 内容的披露要求。
注意事项
本文基于 MLC LLM 公开的定位与通用用法编写，具体功能、套餐与可用地区以官方页面为准，产品更新后界面和名称可能变化。
所有示例输出均为示意，不代表真实统计或效果承诺；请以自己的测试结果为准。