https://www.lostmap.cn/tf/index.html Recent content in Transformer 从零到一 on LostMap Hugo zh-CN Sun, 17 May 2026 00:00:00 +0000 https://www.lostmap.cn/tf/001-transformer-from-scratch.html Sun, 17 May 2026 00:00:00 +0000 https://www.lostmap.cn/tf/001-transformer-from-scratch.html 从 RNN 的串行瓶颈出发，走到 Multi-Head Attention 的全并行设计，最后逐行对照 model.py 看懂每一行代码。涵盖 Q/K/V 几何直觉、scaled dot-product、Pre-LN、causal mask、从 NMT 到 GPT 的演进。