第三周超参数调试Batch正则化和程序框架（Hyperparameter tuning）

Posted 2022-11-16

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了第三周超参数调试Batch正则化和程序框架（Hyperparameter tuning）相关的知识，希望对你有一定的参考价值。

第三周超参数调试、Batch正则化和程序框架（Hyperparameter tuning）

文章目录

第三周超参数调试、Batch正则化和程序框架（Hyperparameter tuning）

3.1 调试处理（Tuning process）
3.2 为超参数选择合适的范围（Using an appropriate scale to pick hyperparameters）
3.3 超参数调试的实践：Pandas VS Caviar（Hyperparameters tuning in practice: Pandas vs. Caviar）
3.4 归一化网络的激活函数（Normalizing activations in a network）
3.5 将 Batch Norm 拟合进神经网络（Fitting Batch Norm into a neural network）
3.6 Batch Norm 为什么奏效？（Why does Batch Norm work?）
3.7 测试时的 Batch Norm（Batch Norm at test time）
3.8 Softmax 回归（Softmax regression）
3.9 训练一个 Softmax 分类器（Training a Softmax classifier）
3.10 深度学习框架（Deep Learning frameworks）
3.11 TensorFlow

3.1 调试处理（Tuning process）

大家好，欢迎回来，目前为止，你已经了解到，神经网络的改变会涉及到许多不同超参数的设置。现在，对于超参数而言，你要如何找到一套好的设定呢？在此视频中，我想和你分享一些指导原则，一些关于如何系统地组织超参调试过程的技巧，希望这些能够让你更有效的聚焦到合适的超参设定中。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-MQjzAAKC-1611474557733)(…/images/7b73f4de29ea13d9aba5f49e393d4674.png)]

关于训练深度最难的事情之一是你要处理的参数的数量，从学习速率 $第三周$ 到Momentum（动量梯度下降法）的参数 $第三周$ 。如果使用Momentum或Adam优化算法的参数， $第三周$ ， $第三周$ 和 $第三周$ ，也许你还得选择层数，也许你还得选择不同层中隐藏单元的数量，也许你还想使用学习率衰减。所以，你使用的不是单一的学习率 $第三周$ 。接着，当然你可能还需要选择mini-batch的大小。

结果证实一些超参数比其它的更为重要，我认为，最为广泛的学习应用是 $第三周$ ，学习速率是需要调试的最重要的超参数。

除了 $第三周$ ，还有一些参数需要调试，例如Momentum参数 $第三周$ ，0.9就是个很好的默认值。我还会调试mini-batch的大小，以确保最优算法运行有效。我还会经常调试隐藏单元，我用橙色圈住的这些，这三个是我觉得其次比较重要的，相对于 $第三周$ 而言。重要性排第三位的是其他因素，层数有时会产生很大的影响，学习率衰减也是如此。当应用Adam算法时，事实上，我从不调试 $第三周$ ， $第三周$ 和 $第三周$ ，我总是选定其分别为0.9，0.999和 $第三周$ ，如果你想的话也可以调试它们。

但希望你粗略了解到哪些超参数较为重要， $第三周$ 无疑是最重要的，接下来是我用橙色圈住的那些，然后是我用紫色圈住的那些，但这不是严格且快速的标准，我认为，其它深度学习的研究者可能会很不同意我的观点或有着不同的直觉。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YDZ17HMH-1611474557736)(…/images/75bfa084ea64d99b1d01a393a7c988a6.png)]

现在，如果你尝试调整一些超参数，该如何选择调试值呢？在早一代的机器学习算法中，如果你有两个超参数，这里我会称之为超参1，超参2，常见的做法是在网格中取样点，像这样，然后系统的研究这些数值。这里我放置的是5×5的网格，实践证明，网格可以是5×5，也可多可少，但对于这个例子，你可以尝试这所有的25个点，然后选择哪个参数效果最好。当参数的数量相对较少时，这个方法很实用。

在深度学习领域，我们常做的，我推荐你采用下面的做法，随机选择点，所以你可以选择同等数量的点，对吗？25个点，接着，用这些随机取的点试验超参数的效果。之所以这么做是因为，对于你要解决的问题而言，你很难提前知道哪个超参数最重要，正如你之前看到的，一些超参数的确要比其它的更重要。

举个例子，假设超参数1是 $第三周$ （学习速率），取一个极端的例子，假设超参数2是Adam算法中，分母中的 $第三周$ 。在这种情况下， $第三周$ 的取值很重要，而 $第三周$ 取值则无关紧要。如果你在网格中取点，接着，你试验了 $第三周$ 的5个取值，那你会发现，无论 $第三周$ 取何值，结果基本上都是一样的。所以，你知道共有25种模型，但进行试验的 $第三周$ 值只有5个，我认为这是很重要的。

对比而言，如果你随机取值，你会试验25个独立的 $第三周$ ，似乎你更有可能发现效果做好的那个。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-UHlUNVl3-1611474557737)(…/images/7dbcb658f5054473480982c89e480c3f.png)]

我已经解释了两个参数的情况，实践中，你搜索的超参数可能不止两个。假如，你有三个超参数，这时你搜索的不是一个方格，而是一个立方体，超参数3代表第三维，接着，在三维立方体中取值，你会试验大量的更多的值，三个超参数中每个都是。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-algoH1Rj-1611474557738)(…/images/961655e4384e6f148bbe23f9eb46e2b0.png)]

实践中，你搜索的可能不止三个超参数有时很难预知，哪个是最重要的超参数，对于你的具体应用而言，随机取值而不是网格取值表明，你探究了更多重要超参数的潜在值，无论结果是什么。

当你给超参数取值时，另一个惯例是采用由粗糙到精细的策略。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-O23N1XVY-1611474557739)(…/images/c3b248ac8ca2cf646d5b705270e01e78.png)]

比如在二维的那个例子中，你进行了取值，也许你会发现效果最好的某个点，也许这个点周围的其他一些点效果也很好，那在接下来要做的是放大这块小区域（小蓝色方框内），然后在其中更密集得取值或随机取值，聚集更多的资源，在这个蓝色的方格中搜索，如果你怀疑这些超参数在这个区域的最优结果，那在整个的方格中进行粗略搜索后，你会知道接下来应该聚焦到更小的方格中。在更小的方格中，你可以更密集得取点。所以这种从粗到细的搜索也经常使用。

通过试验超参数的不同取值，你可以选择对训练集目标而言的最优值，或对于开发集而言的最优值，或在超参搜索过程中你最想优化的东西。

我希望，这能给你提供一种方法去系统地组织超参数搜索过程。另一个关键点是随机取值和精确搜索，考虑使用由粗糙到精细的搜索过程。但超参数的搜索内容还不止这些，在下一个视频中，我会继续讲解关于如何选择超参数取值的合理范围。

3.2 为超参数选择合适的范围（Using an appropriate scale to pick hyperparameters）

在上一个视频中，你已经看到了在超参数范围中，随机取值可以提升你的搜索效率。但随机取值并不是在有效范围内的随机均匀取值，而是选择合适的标尺，用于探究这些超参数，这很重要。在这个视频中，我会教你怎么做。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Za92o7GN-1611474557740)(…/images/3b45624120e77aea2fcd117cbfdc9bdb.png)]

假设你要选取隐藏单元的数量 $第三周$ ，假设，你选取的取值范围是从50到100中某点，这种情况下，看到这条从50-100的数轴，你可以随机在其取点，这是一个搜索特定超参数的很直观的方式。或者，如果你要选取神经网络的层数，我们称之为字母 $第三周$ ，你也许会选择层数为2到4中的某个值，接着顺着2，3，4随机均匀取样才比较合理，你还可以应用网格搜索，你会觉得2，3，4，这三个数值是合理的，这是在几个在你考虑范围内随机均匀取值的例子，这些取值还蛮合理的，但对某些超参数而言不适用。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-pln9d9Cp-1611474557741)(…/images/651422f74439fd7e648e364d26d21485.png)]

看看这个例子，假设你在搜索超参数 $第三周$ （学习速率），假设你怀疑其值最小是0.0001或最大是1。如果你画一条从0.0001到1的数轴，沿其随机均匀取值，那90%的数值将会落在0.1到1之间，结果就是，在0.1到1之间，应用了90%的资源，而在0.0001到0.1之间，只有10%的搜索资源，这看上去不太对。

反而，用对数标尺搜索超参数的方式会更合理，因此这里不使用线性轴，分别依次取0.0001，0.001，0.01，0.1，1，在对数轴上均匀随机取点，这样，在0.0001到0.001之间，就会有更多的搜索资源可用，还有在0.001到0.01之间等等。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TvzpSbiG-1611474557742)(…/images/08307acea7c8db95c1479c611189dbfa.png)]

所以在Python中，你可以这样做，使r=-4*np.random.rand()，然后 $第三周$ 随机取值，$ a =10^r $第三周$ r \\in [ 4,0] $第三周$ a \\in[10^-4,100]$，所以最左边的数字是 $第三周$ ，最右边是 $第三周$ 。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-FvNt6hXR-1611474557743)(…/images/fe47f46414d0c26183e85c7b2e4f2f0a.png)]

更常见的情况是，如果你在 $第三周$ 和 $第三周$ 之间取值，在此例中，这是 $第三周$ （0.0001），你可以通过 $第三周$ 算出 $第三周$ 的值，即-4，在右边的值是 $第三周$ ，你可以算出 $第三周$ 的值 $第三周$ ，即0。你要做的就是在 $第三周$ 区间随机均匀地给 $第三周$ 取值，这个例子中 $第三周$ ，然后你可以设置 $第三周$ 的值，基于随机取样的超参数 $第三周$ 。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-M0zDPBcs-1611474557744)(…/images/a54d5ea6cd623f741f75e62195f072ca.png)]

所以总结一下，在对数坐标下取值，取最小值的对数就得到 $第三周$ 的值，取最大值的对数就得到 $第三周$ 值，所以现在你在对数轴上的 $第三周$ 到 $第三周$ 区间取值，在 $第三周$ ， $第三周$ 间随意均匀的选取 $第三周$ 值，将超参数设置为 $第三周$ ，这就是在对数轴上取值的过程。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ARXPN4yT-1611474557745)(…/images/2c4e6d3419beb66ed0163331443c6b40.png)]

最后，另一个棘手的例子是给 $第三周$ 取值，用于计算指数的加权平均值。假设你认为 $第三周$ 是0.9到0.999之间的某个值，也许这就是你想搜索的范围。记住这一点，当计算指数的加权平均值时，取0.9就像在10个值中计算平均值，有点类似于计算10天的温度平均值，而取0.999就是在1000个值中取平均。

所以和上张幻灯片上的内容类似，如果你想在0.9到0.999区间搜索，那就不能用线性轴取值，对吧？不要随机均匀在此区间取值，所以考虑这个问题最好的方法就是，我们要探究的是 $第三周$ ，此值在0.1到0.001区间内，所以我们会给 $第三周$ 取值，大概是从0.1到0.001，应用之前幻灯片中介绍的方法，这是 $第三周$ ，这是 $第三周$ ，值得注意的是，在之前的幻灯片里，我们把最小值写在左边，最大值写在右边，但在这里，我们颠倒了大小。这里，左边的是最大值，右边的是最小值。所以你要做的就是在 $第三周$ 里随机均匀的给r取值。你设定了 $第三周$ ，所以 $第三周$ ，然后这就变成了在特定的选择范围内超参数随机取值。希望用这种方式得到想要的结果，你在0.9到0.99区间探究的资源，和在0.99到0.999区间探究的一样多。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-pXHg5PjD-1611474557746)(…/images/2e3b1803ab468a94a4cae13e89217704.png)]

所以，如果你想研究更多正式的数学证明，关于为什么我们要这样做，为什么用线性轴取值不是个好办法，这是因为当 $第三周$ 接近1时，所得结果的灵敏度会变化，即使 $第三周$ 有微小的变化。所以 $第三周$

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-paimZjty-1611474557747)(…/images/bb7feac2d0698b8721bfedbc67cc6289.png)]

但 $第三周$ 值如果在0.999到0.9995之间，这会对你的算法产生巨大影响，对吧？在这两种情况下，是根据大概10个值取平均。但这里，它是指数的加权平均值，基于1000个值，现在是2000个值，因为这个公式 $第三周$ ，当 $第三周$ 接近1时， $第三周$ 就会对细微的变化变得很敏感。所以整个取值过程中，你需要更加密集地取值，在 $第三周$ 接近1的区间内，或者说，当 $第三周$

希望能帮助你选择合适的标尺，来给超参数取值。如果你没有在超参数选择中作出正确的标尺决定，别担心，即使你在均匀的标尺上取值，如果数值总量较多的话，你也会得到还不错的结果，尤其是应用从粗到细的搜索方法，在之后的迭代中，你还是会聚焦到有用的超参数取值范围上。

希望这会对你的超参数搜索有帮助，下一个视频中，我们将会分享一些关于如何组建搜索过程的思考，希望它能使你的工作更高效。

3.3 超参数调试的实践：Pandas VS Caviar（Hyperparameters tuning in practice: Pandas vs. Caviar）

到现在为止，你已经听了许多关于如何搜索最优超参数的内容，在结束我们关于超参数搜索的讨论之前，我想最后和你分享一些建议和技巧，关于如何组织你的超参数搜索过程。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Q08GXEUA-1611474557749)(…/images/3858f51032e483e215ebbd136dc07431.png)]

如今的深度学习已经应用到许多不同的领域，某个应用领域的超参数设定，有可能通用于另一领域，不同的应用领域出现相互交融。比如，我曾经看到过计算机视觉领域中涌现的巧妙方法，比如说Confonets或ResNets，这我们会在后续课程中讲到。它还成功应用于语音识别，我还看到过最初起源于语音识别的想法成功应用于NLP等等。

深度学习领域中，发展很好的一点是，不同应用领域的人们会阅读越来越多其它研究领域的文章，跨领域去寻找灵感。

就超参数的设定而言，我见到过有些直觉想法变得很缺乏新意，所以，即使你只研究一个问题，比如说逻辑学，你也许已经找到一组很好的参数设置，并继续发展算法，或许在几个月的过程中，观察到你的数据会逐渐改变，或也许只是在你的数据中心更新了服务器，正因为有了这些变化，你原来的超参数的设定不再好用，所以我建议，或许只是重新测试或评估你的超参数，至少每隔几个月一次，以确保你对数值依然很满意。

最后，关于如何搜索超参数的问题，我见过大概两种重要的思想流派或人们通常采用的两种重要但不同的方式。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-cbZfZ9ah-1611474557750)(…/images/439e7b041ac3d948e5852e8307dd09dd.png)]

一种是你照看一个模型，通常是有庞大的数据组，但没有许多计算资源或足够的CPU和GPU的前提下，基本而言，你只可以一次负担起试验一个模型或一小批模型，在这种情况下，即使当它在试验时，你也可以逐渐改良。比如，第0天，你将随机参数初始化，然后开始试验，然后你逐渐观察自己的学习曲线，也许是损失函数J，或者数据设置误差或其它的东西，在第1天内逐渐减少，那这一天末的时候，你可能会说，看，它学习得真不错。我试着增加一点学习速率，看看它会怎样，也许结果证明它做得更好，那是你第二天的表现。两天后，你会说，它依旧做得不错，也许我现在可以填充下Momentum或减少变量。然后进入第三天，每天，你都会观察它，不断调整你的参数。也许有一天，你会发现你的学习率太大了，所以你可能又回归之前的模型，像这样，但你可以说是在每天花时间照看此模型，即使是它在许多天或许多星期的试验过程中。所以这是一个人们照料一个模型的方法，观察它的表现，耐心地调试学习率，但那通常是因为你没有足够的计算能力，不能在同一时间试验大量模型时才采取的办法。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-RMM5Ijmz-1611474557751)(…/images/1cbcd20a708281e777d2d0c50e355038.png)]

另一种方法则是同时试验多种模型，你设置了一些超参数，尽管让它自己运行，或者是一天甚至多天，然后你会获得像这样的学习曲线，这可以是损失函数J或实验误差或损失或数据误差的损失，但都是你曲线轨迹的度量。同时你可以开始一个有着不同超参数设定的不同模型，所以，你的第二个模型会生成一个不同的学习曲线，也许是像这样的一条（紫色曲线），我会说这条看起来更好些。与此同时，你可以试验第三种模型，其可能产生一条像这样的学习曲线（红色曲线），还有另一条（绿色曲线），也许这条有所偏离，像这样，等等。或者你可以同时平行试验许多不同的模型，橙色的线就是不同的模型。用这种方式你可以试验许多不同的参数设定，然后只是最后快速选择工作效果最好的那个。在这个例子中，也许这条看起来是最好的（下方绿色曲线）。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-gTmbHRhr-1611474557752)(…/images/a361c621a9a0a1a99b03eef8716c5799.png)]

打个比方，我把左边的方法称为熊猫方式。当熊猫有了孩子，他们的孩子非常少，一次通常只有一个，然后他们花费很多精力抚养熊猫宝宝以确保其能成活，所以，这的确是一种照料，一种模型类似于一只熊猫宝宝。对比而言，右边的方式更像鱼类的行为，我称之为鱼子酱方式。在交配季节，有些鱼类会产下一亿颗卵，但鱼类繁殖的方式是，它们会产生很多卵，但不对其中任何一个多加照料，只是希望其中一个，或其中一群，能够表现出色。我猜，这就是哺乳动物繁衍和鱼类，很多爬虫类动物繁衍的区别。我将称之为熊猫方式与鱼子酱方式，因为这很有趣，更容易记住。

所以这两种方式的选择，是由你拥有的计算资源决定的，如果你拥有足够的计算机去平行试验许多模型，那绝对采用鱼子酱方式，尝试许多不同的超参数，看效果怎么样。但在一些应用领域，比如在线广告设置和计算机视觉应用领域，那里的数据太多了，你需要试验大量的模型，所以同时试验大量的模型是很困难的，它的确是依赖于应用的过程。但我看到那些应用熊猫方式多一些的组织，那里，你会像对婴儿一样照看一个模型，调试参数，试着让它工作运转。尽管，当然，甚至是在熊猫方式中，试验一个模型，观察它工作与否，也许第二或第三个星期后，也许我应该建立一个不同的模型（绿色曲线），像熊猫那样照料它，我猜，这样一生中可以培育几个孩子，即使它们一次只有一个孩子或孩子的数量很少。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-G7tcv4IU-1611474557753)(…/images/5cd1e3dd73e69cbf0b2cbc80fddfa4d9.png)]

所以希望你能学会如何进行超参数的搜索过程，现在，还有另一种技巧，能使你的神经网络变得更加坚实，它并不是对所有的神经网络都适用，但当适用时，它可以使超参数搜索变得容易许多并加速试验过程，我们在下个视频中再讲解这个技巧。

3.4 归一化网络的激活函数（Normalizing activations in a network）

在深度学习兴起后，最重要的一个思想是它的一种算法，叫做Batch归一化，由Sergey loffe和Christian Szegedy两位研究者创造。Batch归一化会使你的参数搜索问题变得很容易，使神经网络对超参数的选择更加稳定，超参数的范围会更加庞大，工作效果也很好，也会是你的训练更加容易，甚至是深层网络。让我们来看看Batch归一化是怎么起作用的吧。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Uc2ipYCV-1611474557754)(…/images/7eed1a2ef94832c54d1765731a57b2b5.png)]

当训练一个模型，比如logistic回归时，你也许会记得，归一化输入特征可以加快学习过程。你计算了平均值，从训练集中减去平均值，计算了方差，接着根据方差归一化你的数据集，在之前的视频中我们看到，这是如何把学习问题的轮廓，从很长的东西，变成更圆的东西，更易于算法优化。所以这是有效的，对logistic回归和神经网络的归一化输入特征值而言。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-EtguxIjE-1611474557755)(…/images/20949eb2c30cb22ab87eef411f01375d.png)]

那么更深的模型呢？你不仅输入了特征值 $第三周$ ，而且这层有激活值 $第三周$ ，这层有激活值 $第三周$ 等等。如果你想训练这些参数，比如 $第三周$ ， $第三周$ ，那归一化 $第三周$ 的平均值和方差岂不是很好？以便使 $第三周$ ， $第三周$ 的训练更有效率。在logistic回归的例子中，我们看到了如何归一化 $第三周$ ， $第三周$ ， $第三周$ ，会帮助你更有效的训练 $第三周$ 和 $第三周$ 。

所以问题来了，对任何一个隐藏层而言，我们能否归一化 $第三周$ 值，在此例中，比如说 $第三周$ 的值，但可以是任何隐藏层的，以更快的速度训练 $第三周$ ， $第三周$ ，因为 $第三周$ 是下一层的输入值，所以就会影响 $第三周$ ， $第三周$ 的训练。简单来说，这就是Batch归一化的作用。尽管严格来说，我们真正归一化的不是 $第三周$ ，而是 $第三周$ ，深度学习文献中有一些争论，关于在激活函数之前是否应该将值 $第三周$ 归一化，或是否应该在应用激活函数 $第三周$ 后再规范值。实践中，经常做的是归一化 $第三周$ ，所以这就是我介绍的版本，我推荐其为默认选择，那下面就是Batch归一化的使用方法。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BfnuCBSM-1611474557756)(…/images/734eeb203b02cca8a978ba61b4803bb5.png)]

在神经网络中，已知一些中间值，假设你有一些隐藏单元值，从 $第三周$ 到 $第三周$ ，这些来源于隐藏层，所以这样写会更准确，即 $第三周$ 为隐藏层， $第三周$ 从1到 $第三周$ ，但这样书写，我要省略 $第三周$ 及方括号，以便简化这一行的符号。所以已知这些值，如下，你要计算平均值，强调一下，所有这些都是针对 $第三周$ 层，但我省略 $第三周$ 及方括号，然后用正如你常用的那个公式计算方差，接着，你会取每个 $第三周$ 值，使其规范化，方法如下，减去均值再除以标准偏差，为了使数值稳定，通常将 $第三周$ 作为分母，以防 $第三周$ 的情况。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-K1NE8LEc-1611474557757)(…/images/e10ea98faa1ce9fe86ec8bf9f4fef71e.png)]

所以现在我们已把这些 $第三周$ 值标准化，化为含平均值0和标准单位方差，所以 $第三周$ 的每一个分量都含有平均值0和方差1，但我们不想让隐藏单元总是含有平均值0和方差1，也许隐藏单元有了不同的分布会有意义，所以我们所要做的就是计算，我们称之为 $第三周$ ， $第三周$ ，这里 $第三周$ 和 $第三周$ 是你模型的学习参数，所以我们使用梯度下降或一些其它类似梯度下降的算法，比如Momentum或者Nesterov，Adam，你会更新 $第三周$ 和 $第三周$ ，正如更新神经网络的权重一样。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-K2dPUbhG-1611474557757)(…/images/3d494a1d3fb25f7fd67f1bdbf8d8e464.png)]

请注意 $第三周$ 和 $第三周$ 的作用是，你可以随意设置 $第三周$ 的平均值，事实上，如果 $第三周$ ，如果 $第三周$ 等于这个分母项（ $第三周$ 中的分母）， $第三周$ 等于 $第三周$ 以上是关于第三周超参数调试Batch正则化和程序框架（Hyperparameter tuning）的主要内容，如果未能解决你的问题，请参考以下文章