现代 AI 基础学习路线
涵盖线性模型、多层感知机、卷积神经网络、文本表示与词向量、Transformer 与大语言模型的 AI 基础图谱。
包含的课程
- 损失函数 — 模型的预测有好有坏，我们需要一把「尺子」来衡量预测有多准
- 梯度下降 — 有了尺子，我们知道模型哪里不好。现在让计算机自动找到最好的参数
- 卷积层 — 把卷积运算包装为可训练的神经网络层，理解多通道、多卷积核与权重张量形状。
- MLP 实战 — 用 PyTorch 走完一次端到端 MLP 训练流程，并在同心圆数据集上与线性分类器正面对照。
- 残差连接与 ResNet — 介绍残差连接的两种解释、残差块结构与 ResNet 的整体设计。
- Softmax 回归 — 从回归到分类：用 Softmax 把任意实数分数转换成概率分布，并用交叉熵作为损失函数完成多类别分类建模。
- 训练验证测试集 — 训练 loss 很低就算学会了？真正的考验是面对没见过的数据。
- 从线性到非线性 — 上一章的分类器看似无敌，碰到 XOR 却束手无策——为什么？
- 权重衰退 — 给参数加点'惩罚'，让模型保持简洁，不为训练数据上的噪声过度妥协。
- 批量规范化 — 介绍 BatchNorm 的原理、训练与推理两种行为，以及在卷积层与全连接层的差异。
- 分类模型训练 — 把分类理论付诸实践，训练一个真正能分类的网络，在 Playground 中自由探索
- 反向传播 — 让误差从输出一点点传回参数，链式法则在神经网络里的优雅展开。
- 欠拟合与过拟合 — 模型容量太小学不会，太大又'死记硬背'，怎么找到那个最佳平衡点？
- 池化层 — 介绍最大池化与平均池化，在不增加参数的前提下减少特征图尺寸。
- 深度学习引言 — 深度学习能做什么？它由哪些核心部分组成？先建立一个全局的认知地图
- 计算图与自动微分 — 揭开 .backward() 的内部机制——一切都是图上的拓扑遍历。
- 卷积运算 — 用小尺寸卷积核在图像上滑动并提取特定特征。
- 分类指标进阶 — 在准确率之外引入混淆矩阵、精确率、召回率与 F1，理解它们的适用场景。
- 经典 CNN 演进 — 介绍 AlexNet 与 VGG，理解其历史地位与块结构的设计思想。
- Dropout — 训练时随机'屏蔽'一些神经元，反而能让网络更鲁棒——一种反直觉的正则。
- 线性模型 — 以房价预测为例引入线性模型 y = w·x + b，理解权重、偏置与单层感知机，并使用 NumPy 与 PyTorch…
- 认识图像数据 — 了解图像在计算机中的表示方式：像素、矩阵、通道与张量形状，并加载 MNIST。
- 卷积神经网络的结构 — 把卷积层、池化层、全连接层组合为完整的 CNN，并理解感受野与特征层次。
- MLP 处理图像的局限 — 用 MLP 直接处理 MNIST，分析其在参数规模和位置敏感性上的问题。
- 批量训练 — 数据量大了，每次喂全量太慢——把数据切成小块，让训练又快又稳。
- 梯度消失与梯度爆炸 — 分析深层网络反向传播中梯度衰减或发散的现象与缓解方法。
- 多层感知机 — 为什么直接堆线性层不行？激活函数如何打破线性，配合全连接层堆叠出能拟合 XOR、同心圆、月牙的多层感知机（MLP）。
- CNN 实战：MNIST — 用 PyTorch 实现 SimpleCNN 并在 MNIST 上训练，与 MLP 对比参数量与精度。