新鲜出炉！斯坦福2025CS336课程全公开：从零开始搓大模型

发布时间: 2025年06月24日10:56:31

本文有1196个文字，预计浏览时间3分钟。

机器之心报道

编辑：Panda

斯坦福大学2025年春季的CS336课程「从头开始创造语言模型（LanguageModelsfromScratch）」相关课程和材料现已在网上全面发布！

课程视频：https://www.youtube.com/watch?v=SQ3fZ1sAqXI&list=PLoROMvodv4rOY23Y0BoGoBGgQ1zmU_MT_课程主页：https://stanford-cs336.github.io/spring2025/

这是该课程的教职工阵容：

其中，讲师TatsunoriHashimoto现为斯坦福大学计算机科学系助理教授。此前，他是斯坦福大学JohnC.Duchi和PercyLiang的博士后，研究机器学习模型平均性能和最差性能之间的权衡。在博士后研究之前，他在麻省理工学院攻读研究生，导师是TommiJaakkola和DavidGifford。他本科在哈佛大学学习统计学和数学，导师是EdoardoAiroldi。他的研究成果已总计获得了超3万引用。

另一位讲师PercyLiang是斯坦福大学计算机科学系副教授，同时也是基础模型研究中心（CRFM）主任，同时也有参与以人类为中心的人工智能（HAI）、人工智能实验室、自然语言处理研究组和机器学习研究组等的研究工作。他本科毕业于MIT，之后在该校获得工程学硕士学位，导师是MichaelCollins；之后，他在伯克利获得博士学位，导师是MichaelJordan和DanKlein；后来他进入谷歌从事博士后研究。PercyLiang是一位引用量超过10万的研究大牛，我们此前也曾多次报道他的研究成果。

CS336课程简介

CS336课程的目标是「引导学生完成开发自己的语言模型的整个过程，从而帮助他们全面理解语言模型。」该课程借鉴了操作系统课程中从零开始创建完整操作系统的教学方法，引导学生完成语言模型创建的各个环节，包括预训练的数据收集和清理、Transformer模型的构建、模型训练以及部署前的评估。

该课程包含5个单元，分别是基础、系统、扩展、数据、对齐和推理强化学习。

该课程也非常注重实践操作，因此也需要相当多的学习和开发时间。PercyLiang也在上简单分享了学生需要实践的内容，包括：

作业1（使基本流程正常运行）：实现BPE分词器、Transformer架构、Adam优化器，并在TinyStories和OpenWebText上训练模型。只允许使用PyTorch原语（不能直接调用torch.nn.Transformer或torch.nn.Linear）。作业2（让GPU运行起来）：在Triton中实现FlashAttention2、分布式数据并行+优化器分片。作业3（ScalingLaw）：使用IsoFLOP拟合ScalingLaw。为了模拟训练运行的高风险，学生会获得一个训练API[超参数→损失]和一个固定的计算预算，并且必须选择提交哪些运行来收集数据点。在后台，训练API是通过在一系列预先计算的运行之间进行插值来支持的。作业4（数据）：将CommonCrawlHTML转换为文本，过滤（质量、有害内容、PII），删除重复数据。这是一项苦差事，却没有得到足够的重视。作业5（对齐）：实现监督微调、专家迭代、GRPO和变体，在Qwen2.5Math1.5B上运行RL以提升在MATH上的指标。我们也曾考虑过让学生自己实现推理（inference），但决定（可能是明智的）让人们使用vllm。

更具体来说，CS336课程的5个单元包含19门课。这里简单总结了该课程的目录，你可以在课程主页下载相应的材料：

课程概述和token化PyTorch和资源（包括内存和计算资源）架构与超参数混合专家（MoE）GPUKernel，Triton并行化并行化ScalingLaw推理ScalingLaw评估数据数据对齐——SFT/RLHF对齐——强化学习对齐——强化学习客座讲座：阿里巴巴达摩院研究员、Qwen团队技术负责人JunyangLin（林俊旸）客座讲座：FacebookAI研究科学家、Llama3预训练负责人MikeLewis

另外，在考虑学习这门课程之前，你应该先具备以下能力：

熟练掌握Python：大部分课程作业将使用Python完成。与大多数其他AI课程不同，本课程只会给学生提供极少的脚手架。你编写的代码量将至少比其他课程多一个数量级。因此，熟练掌握Python和软件工程至关重要。有深度学习和系统优化经验：本课程的很大一部分内容是关于如何使神经语言模型在多台机器的GPU上快速高效地运行。我们希望学生能够熟练掌握PyTorch，并了解内存层次结构等基本系统概念。大学微积分、线性代数（例如MATH51、CME100）：你应该能够轻松理解矩阵/向量符号和运算。基础概率与统计（例如CS109或同等课程）：你应该了解概率、高斯分布、均值、标准差等基础知识。机器学习（例如CS221、CS229、CS230、CS124、CS224N）：你应该熟悉机器学习和深度学习的基础知识。

顺带一提，CS336课程还为完成课程的学生赠送了纪念T恤，有如下4种图案。你觉得如何呢？

温馨提示: 本文来源于"本站原创"，由"本站原创"编辑，以上就是新鲜出炉！斯坦福2025CS336课程全公开：从零开始搓大模型所有内容，如有问题请自行判断，转发或引用请将http://www.yangyangzhi.com/m/jiaoyu/383920.html做为出处。