线性模型 图谱介绍

从零开始,逐步构建并训练线性回归与 Softmax 分类两个神经网络模型,掌握深度学习的核心训练范式

图谱介绍 · 更新于 2026-06-26

「回归」这个词并不来自计算机——它源自 1886 年 Galton 用一条直线刻画父母与子女身高关系的研究。一百多年过去,模型的规模与结构早已天差地别,但它们从数据中学习的方式仍是同一件事—— 拟合一个模型,再让它依据误差不断自我修正 。

本章节,就从这条直线开始,带你看懂这套贯穿现代 AI 的训练范式。

理解现代 AI,从一条直线开始

现代神经网络并没有抛弃线性模型—— 即便是今天的大模型,大量的层本质上仍是一次线性变换 Wx + b ,再叠加非线性。

对输入加权求和、再加偏置,直接算出预测。

用一个数衡量预测与真实的差距(图中残差线段)。

沿损失下降的方向反复迭代,逐步逼近最低点。

把一组分数压成和为 1 的概率,分数越高概率越大。

训练好的网络在平面上划出分类的决策边界。