离线速查 / 2026-11-08
把课程变成可以验证的能力
沿用“岗位面试 + 源码贡献”的使命。先补数学底座,再回到引擎;不把“已阅读”计作“已掌握”。
建议顺序
- 15–18:形状、attention、mask、GQA。成果:一张无歧义的形状表。
- 19–23:RoPE、decoder、KV、FlashAttention、采样。成果:跑通完整/增量等价实验。
- 01–06 + 24–26:nano请求状态、物理槽和graph边界。成果:手推一条请求全生命周期。
- 08–11 + 27–29:vLLM预算、块池、runner。成果:追踪一轮混合批与一次draft回退。
- 12–14 + 30–32:DeepInfer专用调度、EPLB、DSpark。成果:自己重算放置与验证预算。
- 07:在既有WSL单卡环境运行真实测量,填入实验表。成果:带完整配置的真实曲线或数据。
每天90分钟如何用
10分钟闭卷复述昨天内容,20分钟读一节短课,25分钟手算/CPU实验,25分钟跟源码,10分钟写下仍不能解释的变量。时间只是建议;不需要一次读完所有18节。
| 复习时点 | 检索任务 | 通过证据 |
|---|---|---|
| 第1天 | 不看正文重新画图 | 形状、方向和边界均正确 |
| 第3天 | 换一组数重新推 | 能解释结果而非背答案 |
| 第7天 | 混合两个相近主题 | 能区分mask/slot、computed/committed、GQA/MLA |
三个小作品
- Transformer数值报告:记录full/incremental/chunked误差,故意错误mask的偏差,解释浮点容限。
- nano可观察性:在独立工作副本记录N/C/S、prefix hit、抢占、真实bs/graph bucket;固定输入比较eager与graph。
- vLLM读码提案:选择一个状态不变量,给出触发条件、调用链、期望结果和最小复现,再考虑是否形成PR;DeepInfer可以先从映射/状态算例练习。
开始运行
python labs/transformer_lab.py all
python labs/inference_lab.py all详见实验说明与真实GPU实验记录表。CPU算例不会产出GPU性能数字。
反馈给老师的格式
第__课 / 源码文件__ / 行号__
我认为这个变量表示:__
我手算得到:__;实验实际得到:__
我不能解释的转折是:__页面自评存在当前浏览器;换浏览器或清除本地存储后可能消失。只有你展示真实理解后,老师才补充learning-records中的掌握证据。