选择正确的神经网络类型

Posted 2023-03-12

【中文标题】选择正确的神经网络类型

【英文标题】：Choosing the correct type of neural network

【发布时间】：2011-08-10 20:43:22

【问题描述】：

我有一个监督学习问题，我的算法将获得一组训练示例，用于学习一个形状是否为正方形。我想知道哪种类型的 ANN 是最好的。我知道如果数据是线性可分的，你可以选择一个感知器。当然我可以很容易地拥有一个超平面来划分我的正方形和圆形？那么感知器不是一个足够好的选择吗？然而，多层前馈网络不是更常用吗？什么是自然选择，为什么？

下图显示了给系统的训练数据。 NN需要将二维数据A=[a1,a2]分为正方形和圆形。

谢谢。

【问题讨论】：

我认为这取决于您对数据的表示。你用什么表示法？

@static_rtti - 请查看我添加的图片，这应该会回答您的评论。谢谢:)。

嗯，我想这回答了你关于分离超平面存在的问题：你看到分隔两个类的线了吗？

不..因此..感知器不合适？因此，多层前馈就是答案:)？

（因为感知器只能处理线性可分的探针）

【参考方案1】：

您提供的数据集在 a1 和 a2 跨越的空间中不是线性可分的，因此感知器不会这样做。您需要一个多层感知器 (MLP)。一般来说，MLP 更常用，因为它们可以做单层感知器可以做的所有事情（查找通用逼近定理）。 径向基函数也可以完成这项工作。 Noli 暗示了一些有趣但更复杂的事情——如果将数据集投影到非常非常高的维度空间（Cover 定理），则数据集以高概率变为线性可分的。这就是使用支持向量机的动机。

总而言之，没有自然选择，这完全是针对特定问题的。实验。我的一位讲师曾经说过“交叉验证是你的朋友”