第 8 章 · 前沿与全景

前七章讲完了「怎么炼」：数据怎么洗、损失怎么降、GPU 怎么切、偏好怎么对齐、推理怎么提速。最后一章换个问题——往哪去？

我们挑了四个正在重塑大模型的方向，每个都能用前面学过的零件看懂：

1. MoE——参数堆到万亿，账单却只按百亿付（8.1）；
2. 长上下文——从半篇论文到一次读几本书（8.2）；
3. 多模态——图像、语音也切成 token（8.3）；
4. 推理模型——用强化学习教模型「多想一会儿」（8.4）。

最后的 8.5 是全书大结局：一张可下载的全景大图，把九章内容收进一页纸。

时效提醒

前沿是变化最快的部分。本章标注了大量年份（写作于 2026 年），读到「主流」「最新」这类词时，请留意它对应的时间点——这些结论的保质期比前七章的原理部分短得多。

小节	你会获得的直觉	实验
8.1 MoE：万亿参数，百亿账单	一群专家轮班干活，容量与算力解耦	🎮 MoE 路由演示
8.2 长上下文	从 4K 到百万 token 的军备竞赛与代价	—
8.3 多模态	万物皆可 token：图像也能进 Transformer	—
8.4 推理模型	「多想一会儿」是训练出来的新能力	—
8.5 全景大图 · 全书大结局	九章一图收，附可下载海报	🖼️ 全景海报

阅读前提

本章是「前沿一瞥」：每节都建立在前面章节之上（正文里会随时指回出处），但只求看懂方向、不求穷尽细节。照例：正文人人能读，硬核内容折叠在「🔬 深入一层」里。