天工 AI 与自托管:数据不出域时怎么选
昆仑万维推出的 AI 助手,侧重搜索、写作与智能体能力——这是天工 AI 最主要的用途,也是本文讨论的前提。
当数据不能离开公司或个人设备时,就需要考虑自托管或开源路线。
先判断:它能不能自托管
它本身是云端服务;如果数据不能出域,可以考虑可自托管的开源方案做部分替代,代价是部署与维护要自己负责。
决策要点
- 数据敏感级别:只有内部公开信息时,云端服务通常更省事。
- 团队是否有人负责运维和安全更新。
- 硬件投入:本地运行模型需要显卡或较大的内存。
- 效果差距:用自己的任务实测,不要只看榜单。
可以评估的开源方向包括:llamafile、Unstructured、Haystack。它们与天工 AI 的能力并不完全等同,适合用来承接对数据要求最高的那部分任务。
用同一个任务做对比
邮件改写
适用情况:手头有一封措辞生硬的中文或英文邮件草稿时。
把这封邮件改写得礼貌但直接,保留所有日期和金额,开头一句说明来意,结尾给出明确的下一步。另外给一个更简短的版本。
验收标准:日期金额与原稿一致。
自托管上线清单
- 固定版本号并记录配置。
- 只在内网暴露服务或加上认证。
- 设置日志与资源监控。
- 订阅仓库的版本发布与安全公告。
- 准备回滚方案。
更多可以试的用法
长文档速读
适用情况:手头有一份 30 页以内的报告或合同(已脱敏)时。
请先用 5 句话概括这份文件的核心结论,再列出 3 个我必须亲自核对的数字或条款,最后指出文中前后矛盾的地方。只依据文件内容,不确定就写「文件未说明」。
交付前确认:摘要里的每个数字都能在原文中找到。
方案对比
适用情况:手头有两到三个备选方案的要点时。
用表格对比以下方案,列为:成本投入、实施难度、主要风险、适合的前提条件。表格后给出你倾向的方案和理由,并说明什么情况下结论会反转。
验收标准:结论附带了反转条件。
会议准备
准备材料:会议议题和参会人角色。
我要主持一个 30 分钟的会议,议题是【议题】。请帮我写议程(含每项时长)、需要提前发给参会人的 3 个问题,以及可能出现的分歧和我的应对话术。
交付前确认:议程总时长不超过会议时长。
常见问题:回答越聊越偏
新开对话,把关键背景与约束写成一段固定开场白再提问。
常见问题:同一问题每次答案不同
把格式和判断标准写死,必要时让它先给评分依据再给结论。
常见问题:上传文件后回答不全
文件过长时分章节上传,并要求先列出目录再逐节总结。
概念补充:深度思考 / 推理模式
让模型先进行多步推理再作答,通常更慢,适合复杂问题。
概念补充:系统提示词
在对话开头设定角色、规则与格式的指令,影响整段对话。
写在最后
本文基于天工 AI 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。
所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。