如何获得神经网络的基本数学？

Question

我最近决定开始学习人工智能，特别是关于神经网络的知识，因为我相信它将使我能够解决我目前无法解决的新问题。

作为第一步，我希望能够编写一个简单的神经网络，让我能够识别手写数字(使用MNIST数据集)，我更希望能够在接下来的几周/几个月内做到这一点。

我已经为初学者找到了很多资源，其中一些看起来真的很好(比如这个：http://neuralnetworksanddeeplearning.com/chap1.html)。我读过5到6本关于神经网络的书的开头，但我一直存在的问题是，过了一段时间，我就迷上了解释，因为我缺乏数学知识。

例如，在链接教程中，我遇到了以下符号问题：∇，∂，→。更广泛地说，我偶然发现了数学符号:我不知道的常量，但作者假定读者知道的常量，以及特殊的符号。

因此，我的问题来了:我需要什么样的数学才能让我迅速地进入神经网络，这将使我能够在没有太多麻烦的情况下阅读我找到的一本伟大的书/教程。我在线性代数中有一些非常基本的概念，但仅此而已。

Answer 1

你需要一个微积分基础，以了解基本神经网络训练的数学基础。这是无法避免的--大多数神经网络训练都是关于“梯度下降”优化的一些变体。梯度是导数的一种形式；为了求出梯度，必须采用导数。

如果你在寻找一个最小值，那么你就可以理解导数，而不是继续进行积分学--例如，你问题中的两个符号代表了一种特殊的导数。

线性代数也很重要，如果你有一些，那就好了。你并不需要任何花哨的东西来理解基本的神经网络内容，但是知道一个向量是什么，矩阵乘法是如何工作的，以及为什么，也是非常重要的。

Answer 2

我出去说:你有没有找过一门数学程度较低的课程？

虽然你确实需要高等数学来完全掌握这个主题，但你可以找到一个入门课程，它需要更多的领域概述，以及一些具体的、实用的工作示例。这就是我学习Python的方式(谢谢，YouTube!)

编辑：

@sputnik

你认为需要什么样的高等数学？

很简单，我想你不知道。

，我不能高度推荐的在线机器学习视觉导论。

我最近决定开始学习人工智能，特别是关于神经网络的知识，因为我相信它将使我能够解决我目前无法解决的新问题。

我提到的底漆的要点是，它们从决策树开始。这让人想起半个世纪前使用的专家系统，对于刚刚了解这一主题的人来说，这是一个极好的叙述。

基于树的模型是著名的，尤其是在Kaggle竞赛获奖者，特别是XGB树*中最常见的技术。接下来只会出现神经网络，那么为什么要屈居第二位呢？

​

​

例如，查看一下最近的Kaggle访谈：Airbnb新用户预订，获奖者访谈:第二名，Keiichi Kuroyanagi (@Keiku)

你不需要高级微积分就可以进行统计推断。即使没有正规的数学，如果你只想了解这门学科的话。

* XGBT中的'G‘表示渐变，所以你最终需要做一些数学，但是为什么不只是从一开始就玩呢？你会学到更多更快！

其他XGBT链接：

XGBT演进背后的故事与教训

XGBT --让我们向它的作者学习

Answer 3

我建议您对吴家富教授的机器学习课程进行审计。它的结构和节奏都很好，他以一种非常容易理解的方式展示了数学。如果你能坚持到第五周，工作任务实际上就是你感兴趣的问题:手写体数字识别的神经网络。