Advanced Large Language Models Research Seminar
围绕语言模型的推理、规划与多智能体协作，学习研究问题与实验方法。
关于这组笔记
独立编写的个人研讨教材，以课程目录描述与公开研究论文为依据；缺少可核对的官方日程与讲义，并非斯坦福课堂实录。
适合的起点
建议熟悉 Python、PyTorch、Transformer 与机器学习评估。
本系列为个人学习整理，非学校官方发布，不代表学校或授课教师的认可或背书。
沿着目录阅读
当前 20 篇课程讲义
- Lecture 01Lecture 1 · 引言：从 System 1 到 System 2——LLM 的推理、规划与协作，以及怎样研究它们 · Introduction: From System 1 to System 2 — Reasoning, Planning, Collaboration, and How to Study Them
- Lecture 02Lecture 2 · LLM 研究方法论：选题、假设、基线、消融、评测、可复现性与写论文 · Research Methodology for LLM Research
- Lecture 03Lecture 3 · 思维链的理论：表达能力、可学习性、步长与潜在推理 · The Theory of Chain-of-Thought: Expressivity, Learnability, Step Size, and Latent Reasoning
- Lecture 04Lecture 4 · 测试时计算：采样、投票、验证器与搜索 · Test-Time Compute: Sampling, Voting, Verifiers, and Search
- Lecture 05Lecture 5 · 用强化学习训练推理：从 STaR 到 RLVR、GRPO 与 DeepSeek-R1 · Reinforcement Learning for Reasoning
- Lecture 06Lecture 6 · 推理的可靠性：忠实性、捷径、长度泛化与"思考的幻觉"之争 · Reliability of Reasoning
- Lecture 07Lecture 7 · 自我反思、自我纠错与元认知：模型能检查自己吗？ · Self-Reflection, Self-Correction, and Metacognition
- Lecture 08Lecture 8 · LLM 能规划吗？经典规划、PlanBench 与 LLM-Modulo · Can LLMs Plan?
- Lecture 09Lecture 9 · 规划即搜索——思维树、世界模型与蒙特卡洛树搜索 · Planning as Search
- Lecture 10Lecture 10 · 时序与约束规划——日程、旅行、多约束与运行时重规划（含 MACI） · Temporal & Constraint Planning
- Lecture 11Lecture 11 · 长程智能体——在环境里规划与行动 · Long-Horizon Agents
- Lecture 12Lecture 12 · 为什么要多个智能体——群体智慧、多样性、相关错误与集成 · Why Multiple Agents?
- Lecture 13Lecture 13 · 辩论与苏格拉底式协作——Multi-agent Debate、SocraSynth 与 EVINCE · Debate and Socratic Collaboration
- Lecture 14Lecture 14 · 多智能体系统的架构——角色、通信拓扑、编排与自动设计 · Architectures of Multi-Agent Systems
- Lecture 15Lecture 15 · 多智能体为什么失败——失败分类、从众、归因与公平的评测 · Why Multi-Agent Systems Fail
- Lecture 16Lecture 16 · 训练会协作的模型——多智能体强化学习、自我博弈与社会智能 · Training Models That Collaborate
- Lecture 17Lecture 17 · 衡量通往 AGI 的进展——定义、基准、时间跨度与饱和 · Measuring Progress Toward AGI
- Lecture 18Lecture 18 · 开放式学习与自我改进——进化搜索、AI 科学家与自动化研究 · Open-Endedness and Self-Improvement
- Lecture 19Lecture 19 · 安全与可监督性——思维链监控、奖励黑客与可扩展监督 · Safety and Oversight
- Lecture 20Lecture 20 · 从想法到论文——一个完整的研究项目 · From Idea to Paper
从讲义到代码
按课程目录整理的配套示例，保留各单元的文件结构。阅读讲义时，可以下载整套代码，在本地逐步探索。
下载 CS486 代码请在独立虚拟环境中查看依赖后运行；未附模型权重和运行产物；示例未逐一验证。