标签：大模型原理

共 3 篇关于「大模型原理」的文章。

2026年9月18日 · 大模型基础

Transformer 架构通俗讲解：注意力机制到底在算什么

Transformer 是几乎所有大语言模型的基础架构，但“注意力机制”常被讲得云里雾里。本文用不依赖公式的方式解释自注意力、多头注意力、位置编码和前馈层分别做什么，帮你建立理解大模型能力与局限的直觉。

2026年8月2日 · 大模型基础

大模型一本正经地编造事实、引用不存在的文献，是落地时最常见的投诉。本文从训练目标、知识边界和解码方式三个角度分析幻觉的成因，并给出检索增强、约束输出、引用校验和流程设计等可操作的缓解方法。

2026年7月31日 · 大模型基础

大模型的上下文窗口从几千 Token 扩展到数十万甚至百万级，但“能放进去”不等于“能用好”。本文解释长上下文的技术代价、信息位置对效果的影响，以及在长文档分析、代码库理解等场景中更可靠的使用方法。