https://ai.wujiong.cc/tags/dpo/Recent content in DPO on AI 观察Hugozh-CNTue, 22 Sep 2026 21:26:10 +0800https://ai.wujiong.cc/posts/2026-09-22-rlhf-alignment/Tue, 22 Sep 2026 21:26:10 +0800https://ai.wujiong.cc/posts/2026-09-22-rlhf-alignment/<p>一个刚完成预训练的大模型，本质上是一个强大的“文本续写器”：你问它问题，它可能接着编出更多问题，而不是回答。从续写器变成好用的助手，中间经过的关键步骤叫做<strong>对齐（alignment）</strong>，目标是让模型的行为符合人类期望：有用、诚实、无害。了解对齐技术，有助于理解为什么不同模型的“性格”差异那么大，以及为什么模型有时会过度拒答或一味顺着用户说。</p>