LLM 笔记 2026-7-12 18:41 | 8 | 0 | AI 421 字 | 3 分钟 1. 基础结构 原始文本 ↓ tokenizer token 编号 ↓ embedding 初始向量 X₀ ↓ 第 1 个 Transformer 层 上下文相关表示 X₁ ↓ 第 2 个 Transformer 层 更深的表示 X₂ ↓ …… 最终表示 ↓ 输出层 下一个 token 的概率 2. QKV:Transformer 注意力机制的最核… ai