标签：API调用

共 3 篇关于「API调用」的文章。

2026年9月30日 · 推理与硬件

大模型 API 成本优化：缓存、模型路由与提示词压缩实战

AI 功能上线后，API 账单往往增长得比用户数还快。本文从成本构成分析入手，介绍提示缓存、模型路由、提示词精简、批量处理、输出控制和结果缓存等优化方法，帮助团队在不明显影响效果的前提下显著降低大模型使用成本。

2026年8月22日 · 大模型基础

调用大模型 API 时常见的 temperature、top_p、frequency penalty 等参数，直接决定输出是稳定还是多样。本文解释这些采样参数的作用原理，并按信息抽取、客服问答、创意写作、代码生成等场景给出推荐的设置思路。

2026年7月30日 · 工具教程

想在自己的程序里接入大模型？本文从零开始介绍大模型 API 的基本概念：消息结构、关键参数、流式输出、多轮对话和工具调用，并重点讲解生产环境中必须处理的密钥安全、错误重试、超时与限流、成本控制和日志监控等问题。