跳转至

深度学习相关课程

南京大学当期开设

当前公开课表中没有一门可以概括为“固定 3 学分必修《深度学习》”的统一课程。至少应区分以下课程：

版本 课程号与名称 课程性质 学分
人工智能学院 2024 级，2025-2026 学年第二学期 30000530《神经网络》 选修 2
人工智能学院 2024 级，2026-2027 学年第一学期 30000650《深度学习平台及应用》 选修 2

课程边界

两门课的名称和定位不同。本页提供共同的学科背景，不推断任何一门课必然覆盖 Transformer、指定使用 PyTorch，或设置某种固定大作业。

学科知识框架

深度学习通常建立在线性代数、概率统计、微积分和数值优化之上。常见知识模块包括：

  • 神经网络基础：感知机、多层感知机、计算图、链式法则与反向传播。
  • 训练与泛化：初始化、优化器、正则化、归一化、学习率和过拟合诊断。
  • 视觉模型：卷积、池化、残差连接及常见卷积网络结构。
  • 序列模型：循环神经网络、门控结构和序列到序列建模。
  • 注意力模型：自注意力、多头注意力、位置表示和 Transformer。
  • 工程实践：数据管线、训练监控、实验复现、算力预算和结果解释。

具体课程可能只覆盖其中一部分，也可能更偏理论、平台或应用。

学习建议

  1. 先用尺寸较小的模型理解前向计算、损失和梯度，再扩大数据与模型规模。
  2. 保存随机种子、环境版本、数据划分和训练配置，使实验可以复现。
  3. 把验证集表现、训练成本和失败案例同时记录，不只报告单个准确率。
  4. GPU、框架和协作方式应遵守当期课程规则，不预设学院一定提供算力。

公开资源

  • [开放教材] Dive into Deep Learning：含数学说明、可运行代码和多类模型示例；不是南京大学课程大纲。
  • [外校公开课] Stanford CS231n：偏计算机视觉与深度模型。
  • [外校公开课] Stanford CS224n：偏自然语言处理与序列模型。

一手来源