Generative AI
从语言到图像与多模态，学习生成式 AI 的模型、适配与规模化方法。
关于这组笔记
个人自学讲义，参考 Spring 2026 的 10-423 / 10-623 / 10-723 公开课表与 slides，配套自编实验。
查看原课程资料适合的起点
建议熟悉 Python、概率、线性代数与基础深度学习。
本系列为个人学习整理，非学校官方发布，不代表学校或授课教师的认可或背书。
沿着目录阅读
当前 30 篇预备知识
课程讲义
- Lecture 01第 1 讲 · 课程概述、RNN 语言模型与自动微分 · Course Overview, RNN-LMs & Automatic Differentiation
- Lecture 02第 2 讲 · Transformer 语言模型 · Transformer Language Models
- Lecture 03第 3 讲 · 训练大语言模型与解码 · Learning LLMs & Decoding
- Lecture 04第 4 讲 · 预训练、微调与现代 Transformer · Pre-training, Fine-tuning & Modern Transformers
- Lecture 05第 5 讲 · 计算机视觉：CNN、仅编码器 Transformer 与 ViT · CNNs, Encoder-only Transformers & Vision Transformers
- Lecture 06第 6 讲 · 生成对抗网络与概率图模型 · Generative Adversarial Networks + Probabilistic Graphical Models
- Lecture 07第 7 讲 · 扩散模型（上）· Diffusion Models (Part I)
- Lecture 08第 8 讲 · 扩散模型（下）· Diffusion Models (Part II) + VAE 引子
- Lecture 09第 9 讲 · 变分自编码器（VAE）+ 零样本与少样本 · Variational Autoencoders + Zero-shot vs. Few-shot
- Lecture 10第 10 讲 · 参数高效微调（PEFT）· Parameter-Efficient Fine-Tuning
- Lecture 11第 11 讲 · 上下文学习、提示工程、指令微调与 RLHF · In-Context Learning, Prompting, Instruction Fine-Tuning & RLHF
- Lecture 12第 12 讲 · DPO、文本到图像生成与潜空间扩散 · DPO, Text-to-Image Generation & Latent Diffusion
- Lecture 13第 13 讲 · 视觉-语言模型（VLM）· Vision-Language Models
- Lecture 14第 14 讲 · 交叉注意力、扩散 Transformer 与 Prompt-to-Prompt · Cross-Attention, Diffusion Transformer & Prompt-to-Prompt
- Lecture 15第 15 讲 · Q-Former 与规模定律 · Querying Transformer & Scaling Laws
- Lecture 16第 16 讲 · 混合专家（MoE）· Mixture of Experts
- Lecture 17第 17 讲 · 分布式训练 · Distributed Training
- Lecture 18第 18 讲 · FlashAttention 与高效解码 · Efficient Attention (FlashAttention) & Efficient Decoding
- Lecture 19第 19 讲 · 长上下文 LLM · Long Context in LLMs
- Lecture 20第 20 讲 · 推理模型 · Reasoning Models（+ 机制可解释性）
- Lecture 21第 21 讲 · 状态空间模型与混合模型 · State Space Models + Hybrid Models
- Lecture 22第 22 讲 · 现实世界的问题：会出什么错？ · Real-world Issues and Considerations
- Lecture 23第 23 讲 · 代码生成与自主智能体 · Code Generation + LLMs / VLMs as Autonomous Agents
- Lecture 24第 24 讲 · 音频理解与合成 · Audio Understanding and Synthesis
- Lecture 25第 25 讲 · 视频生成与理解 · Video Generation and Understanding
- Lecture 26第 26 讲 · 交互式世界模型 + 对齐科学 · Interactive World Models + Science of Alignment
从讲义到代码
按课程目录整理的配套示例，保留各单元的文件结构。阅读讲义时，可以下载整套代码，在本地逐步探索。
下载 CMU10-423 代码请在独立虚拟环境中查看依赖后运行；未附模型权重和运行产物；示例未逐一验证。