分类：大模型基础

大模型基础分类汇集大语言模型原理、Transformer、上下文窗口、微调与对齐等核心概念的通俗解读，帮助你从零建立对 LLM 的系统认知，理解能力边界与常见误区。

2026年9月22日 · 大模型基础

RLHF 与 DPO：大模型对齐技术入门

预训练后的大模型只会续写文本，是对齐训练让它学会遵循指令、拒绝有害请求并给出有用回答。本文通俗介绍指令微调、RLHF 与 DPO 的基本流程、各自的优缺点，以及对齐带来的过度拒答、讨好用户等副作用。

2026年9月19日 · 大模型基础

会先“思考”再回答的推理模型，在数学、编程和复杂分析上表现突出，但也更慢、更贵。本文解释推理模型与普通对话模型的区别、背后的训练思路，以及哪些任务值得用推理模型、哪些任务用了反而浪费。

2026年9月18日 · 大模型基础

Transformer 是几乎所有大语言模型的基础架构，但“注意力机制”常被讲得云里雾里。本文用不依赖公式的方式解释自注意力、多头注意力、位置编码和前馈层分别做什么，帮你建立理解大模型能力与局限的直觉。

2026年8月31日 · 大模型基础

大模型按 Token 计费、按 Token 计算上下文长度，但很多人并不清楚 Token 到底是什么。本文解释分词器的工作原理、中文与英文的 Token 差异，以及它如何影响 API 成本、上下文占用和模型在拼写、计数等任务上的表现。

2026年8月24日 · 大模型基础

Embedding 把文字转换成一串数字，让计算机能够衡量“意思相近”，它是语义搜索、RAG、推荐和聚类的基础。本文用直观方式解释文本向量的原理、相似度计算、模型选型要点，以及在中文场景中的常见问题。

2026年8月22日 · 大模型基础

调用大模型 API 时常见的 temperature、top_p、frequency penalty 等参数，直接决定输出是稳定还是多样。本文解释这些采样参数的作用原理，并按信息抽取、客服问答、创意写作、代码生成等场景给出推荐的设置思路。

2026年8月16日 · 大模型基础

LoRA 是目前最常用的参数高效微调方法，让普通团队用单张消费级或中端 GPU 就能定制开源大模型。本文解释 LoRA 的核心思想、关键超参数如何设置、与 QLoRA 的区别，以及数据准备、训练和效果评估中的常见坑。

2026年8月12日 · 大模型基础

想让大模型更懂你的业务，是写更好的提示词、接入知识库，还是做微调？本文对比提示工程、RAG 与微调三种定制方式的适用问题、成本与维护难度，给出一个按问题类型逐步升级的实用决策流程。

2026年8月8日 · 大模型基础

混合专家模型（MoE）让大模型拥有巨大的总参数量，但每次推理只激活其中一小部分，从而兼顾能力与速度。本文通俗解释 MoE 的路由机制、相对稠密模型的优势与代价，以及它对部署显存和推理成本的实际影响。

2026年8月2日 · 大模型基础

大模型一本正经地编造事实、引用不存在的文献，是落地时最常见的投诉。本文从训练目标、知识边界和解码方式三个角度分析幻觉的成因，并给出检索增强、约束输出、引用校验和流程设计等可操作的缓解方法。

2026年7月31日 · 大模型基础

大模型的上下文窗口从几千 Token 扩展到数十万甚至百万级，但“能放进去”不等于“能用好”。本文解释长上下文的技术代价、信息位置对效果的影响，以及在长文档分析、代码库理解等场景中更可靠的使用方法。