逻辑回归与小型神经网络的二分类比较

在同一组训练数据上比较两类模型的决策边界、训练准确率与参数数量。

参数设置
固定设置：神经网络含 1 个具有 4 个神经元的隐藏层，使用 ReLU 函数和 Adam；逻辑回归采用默认的 \(\ell_2\) 正则化设置。
逻辑回归的决策边界
小型神经网络的决策边界
训练结果比较
如何解释：图中的蓝色和红色背景表示模型预测的类别，数据点颜色表示真实标签。表中给出的是训练准确率，只能说明模型对当前训练数据的拟合情况，不能代替验证集或测试集表现。