两个多层全连接神经网络的比较

在其他条件相同的情况下，比较隐藏层结构或学习率变化对训练结果的影响。

参数设置

数据类型

训练样本数 \(n\)

随机种子

模型 1

隐藏层结构 \(d^{[1]},d^{[2]},\ldots\)

学习率 \(\alpha\)

模型 2

隐藏层结构 \(d^{[1]},d^{[2]},\ldots\)

学习率 \(\alpha\)

隐藏层结构用逗号分隔，例如“4,8”表示两个隐藏层，神经元数依次为 4 和 8。两个模型均使用 ReLU 函数和 Adam。

模型 1 的决策边界

模型 2 的决策边界

训练结果比较

如何解释：蓝色和红色背景表示预测类别，数据点颜色表示真实标签。表中给出的是训练准确率，不代表模型对新数据的预测表现。若要公平比较泛化能力，还需要固定训练集、验证集和测试集的划分，并查看验证或测试结果。