Transformer on AI 观察https://ai.wujiong.cc/tags/transformer/Recent content in Transformer on AI 观察Hugozh-CNFri, 18 Sep 2026 20:03:24 +0800Transformer 架构通俗讲解：注意力机制到底在算什么https://ai.wujiong.cc/posts/2026-09-18-transformer-explained/Fri, 18 Sep 2026 20:03:24 +0800https://ai.wujiong.cc/posts/2026-09-18-transformer-explained/<p>如果只用一句话概括：<strong>Transformer 让序列中的每个词都能直接“看到”其他所有词，并根据相关程度决定从谁那里获取信息。</strong> 今天几乎所有主流大语言模型都建立在这个架构之上。理解它，不是为了自己从零训练模型，而是为了更准确地判断模型为什么擅长某些任务、又为什么会在另一些任务上出错。</p>