阅读有关神经网络的书籍(并理解它们)所需的先决条件
Posted
技术标签:
【中文标题】阅读有关神经网络的书籍(并理解它们)所需的先决条件【英文标题】:Prerequisites Needed to Read Books on Neural Networks (and understand them) 【发布时间】:2010-09-25 02:04:12 【问题描述】:我已经尝试学习神经网络有一段时间了,我可以在网上理解一些基本教程,并且我已经能够通过 Neural Computing - An Introduction 的部分内容,但即使在那里,我也很困惑很多数学,在前几章之后完全超出了我的想象。即便如此,它也是我能找到的最少的“数学”一书。
不是我害怕数学什么的,只是我还没有学会我需要什么,我不确定我到底需要什么。我目前就读于当地的大学,正在努力赶上我需要进入 Comp 的 MS 的课程。科学程序(我的学士学位是商业/信息。系统。)我还没有走得很远。根据大学的小课程描述,NN 实际上包含在关于模式识别的电气工程课程中(我觉得这门课程是 EE 对我来说很奇怪),其中有一些我不需要进入 MS Comp 的 EE 先决条件.科学。程序。
我对这个话题非常感兴趣,并且知道我最终想了解更多关于它的信息,但问题是,我不知道我首先需要了解什么。以下是我认为我可能需要的主题,但这只是无知的猜测:
单变量微积分(我有过 Calc I 和 II,所以我想我已经在这里介绍过了,只是为了完整性而列出) 多变量微积分 线性代数(我还没有正式学习过,但实际上可以从我在 Wikipedia 和其他网站上找到的内容中理解许多概念) 离散数学(另一门我没有正式学过,但我自己学了一部分 图论 概率论 贝叶斯统计 电路设计 其他数学? 其他计算机科学主题显然这里也有神经科学的组成部分,但是当他们谈论将其应用于神经网络时,我实际上在理解书籍时没有遇到任何困难,主要是因为它的概念性
简而言之,有人可以列出一条半清晰的路径,让人们真正理解、阅读相关书籍并最终实现神经网络吗?
【问题讨论】:
神经学是医学领域。你是说神经科学。 @Noosphereious - 好电话,改了。 【参考方案1】:如果您想要了解这本书所需的大学课程列表,这里是:
微积分(I、II 和 III) 微分方程 线性代数 统计(或贝叶斯的良好覆盖)但是,在没有 Diff 的情况下,我在 NN 类中做得很好。方程。并且只需要查找我还没有研究过的概念。
您可以采用上述黑盒方法,但如果您真的想了解网络的数学和实现,则必须学习。无论您做什么,要完全掌握更高级的网络都将是一个陡峭的学习曲线。您可以先学习上述课程,也可以开始阅读本书并在***上查找您未掌握的所有内容,然后从这些文章中阅读您必须阅读的内容以理解它们,等等。您会发现,无论哪种方式,您最终都会超越最初的窥视,事情会变得更容易。
如果您能告诉我们您为什么要学习神经网络,那就太好了。尽管我不是游戏开发人员或电信开发人员,但在我的职业生涯中,我还没有发现它们的单一用途。
【讨论】:
【参考方案2】:您无法实现“神经网络”——您最终将实现一种特定类型的 NN(例如感知器)。有许多不同种类的 NN,每一种都更适合某种特定类型的任务,并且每种都使用一些专门针对该特定类型的数学(而不仅仅是数学)概念。例如,玻尔兹曼机器使用统计热力学(由玻尔兹曼创立)的概念。
至于你的问题:没有明确的目标,就没有明确(甚至不是“半明确”)的道路。
【讨论】:
@zvrba - 谢谢,虽然我知道有不同类型的 NN,但我没有想到他们每个人都有自己独立的开发人员和网络学习曲线这一事实本身。【参考方案3】:我赞同 zvrba 的想法,即您为自己设定了一个明确的目标。几个指导性问题: 一种。你想研究神经网络作为生物网络模型还是计算工具? 湾。你对他们的学习方面感兴趣吗?联想记忆?信号处理? C。你想了解复杂的理论吗?还是只够写仿真软件?
另外,我会从小事做起:用你最喜欢的编程语言实现perceptron。数学并没有那么糟糕,它可能会让你专注于你的下一步。使用二进制分类数据集,例如UCI's tic-tac-toe endgame。
【讨论】:
【参考方案4】:对于基本的反向传播神经网络,最重要的是:
微积分
线性代数
基本统计/概率
如果您只是在寻找更具体的主题(您说您已经学习过 Calc,所以我会省略),如果不一定直接适用于构建神经网络,这里有一些有用的主题:
求解线性方程组(您将在线性代数课程中了解这一点)
最小二乘回归
优化理论
您应该意识到,除了神经网络之外,还有其他几种方法可以用来解决某些问题。
通常解决问题最困难的方面是确定使用的最佳方法。
【讨论】:
【参考方案5】:虽然我是在 2018 年回答这个问题,但我认为它会帮助很多正在尝试学习神经网络的新手。 在线提供的所有在线课程材料都希望读者具有高度的数学知识或经验。 Tariq Rashid 有一本书叫“建立你自己的神经网络”。它希望读者具备高中数学知识。就这样 。在本书的最后,您将能够编写一个程序来读取您的笔迹。
【讨论】:
以上是关于阅读有关神经网络的书籍(并理解它们)所需的先决条件的主要内容,如果未能解决你的问题,请参考以下文章