第一课课件。
内容概要
- Part 1 — 动机与数学：全量微调显存账（7B → 112GB）、PEFT 家族全景、LoRA 低秩分解公式
ΔW = BA - Part 2 — 手撕代码：30 行
LoRALinear实现、注入 Qwen2.5-0.5B（0.16% 参数）、Rank & Target Ablation - Part 3 — 可视化与总结：SVD 奇异值谱验证低秩假设、GQA 架构陷阱、作业与下节预告
配套资源
- 📓 Notebook:
lesson1/notebook_kaggle.ipynb（Kaggle T4，零配置） - 📝 作业:
lesson1/homework.md（100 + 20 bonus 分） - 📚 参考:
RESOURCES.md（LoRA / QLoRA / PEFT 论文 + 文档）
系列导航
- → 第二课：LoRA 工程化：peft + QLoRA 实战