🧠
直觉优先,双轨难度
每一节先用类比和动画把直觉讲透(高中生可读),数学推导折叠在「深入一层」里(大学生展开细看)。右下角一键切换全站模式。
🎮
一路动手做实验
不是静态配图:拖动小球体验梯度下降、亲手训练 BPE 分词器、掷「语言骰子」看模型怎么说话——概念在你手里动起来。
🏔️
从零到 RLHF 的完整地图
预备数学 → 神经网络 → Transformer → 预训练 → SFT/RLHF → 推理部署 → 评测,一条主线讲完大模型的完整生产流水线。
🧭 三条学习路径
🎒 高中生 / 零基础
从第 0 章开始按顺序读,保持「直觉模式」,把每个实验都玩一遍,跳过所有「深入一层」。
🎓 大学生 / 有数学基础
快速过第 0 章,从第 1 章起展开每节的「深入一层」,推导和代码都别放过,配合章末自测。
💼 工程师 / 从业者
直接跳到感兴趣的章节(预训练 、RLHF、推理优化),把交互实验当作给别人讲解时的演示工具。
📖 上篇 · 大模型是怎么炼成的(已完稿)
第 0 章✅ 可阅读
预备知识
机器学习、向量矩阵、概率、梯度——只需初中代数就能上车
第 1 章✅ 可阅读
什么是语言模型
预测下一个词、分词(BPE)、词向量
第 2 章✅ 可阅读
神经网络与训练三件套
损失、梯度下降、反向传播,浏览器里现场训练
第 3 章✅ 可阅读
Transformer 架构
注意力机制、QKV、位置编码、采样生成
第 4 章✅ 可阅读
预训练
数据工程、Scaling Laws 、GPU 集群与并行策略
第 5 章✅ 可阅读
后训练与对齐
SFT、RLHF、DPO/GRPO、推理强化学习
第 6 章✅ 可阅读
推理与部署
KV Cache、量化、蒸馏、vLLM
第 7 章✅ 可阅读
评测
Benchmark、数据污染、LLM 当裁判
第 8 章✅ 可阅读
前沿与全景
MoE、长上下文、多模态、推理模型
附录✅ 可阅读
术语表 · 动手路线 · 资料
全站术语、nanoGPT 实践指南、论文清单
🤖 下篇 · 智能体是怎么工作的(已完稿)
A0✅ 可阅读
从聊天到行动
智能体 = 模型 + 工具 + 循环;自主性光谱
A1✅ 可阅读
工具调用
Function Calling 全流程;会用工具是训练出来的
A2✅ 可阅读
规划与反思
把大事拆小、做完回头看
A3✅ 可阅读
记忆与上下文工程
工作记忆、长期记忆与 Agentic RAG
A4✅ 可阅读
编排模式
五种工作流积木及其组合
A5✅ 可阅读
多智能体系统
分工协作与 MCP / A2A 协议
A6✅ 可阅读
智能体上电脑
代码智能体与计算机使用
A7✅ 可阅读
评测与可靠性
错误复利、SWE-bench 与评测驱动开发
A8✅ 可阅读
安全与未来
提示注入、最小权限与 Agentic RL
附录✅ 可阅读
实战路线
100 行代码写一个 Agent;框架地图