文章 "深度神经网络 (第七部分)。 神经网络的融合: 堆叠"

新评论
 

新文章 深度神经网络 (第七部分)。 神经网络的融合: 堆叠已发布：

我们继续构建融合。 这次，之前创建的融合袋将辅以可训练的合并器 — 深度神经网络。 一个神经网络在修剪后合并了 7 个最佳融合输出。 第二个将融合的所有 500 个输出作为输入，修剪并合并它们。 神经网络将使用 Python 的 keras/TensorFlow 软件包构建。 该软件包的功能也会简要介绍。 还会进行测试并比较装型融合和堆叠融合的分类品质。

我们来绘制训练历史:

history_stop_500

图例 11. DNN500 神经网络训练的历史

为了提高分类品质，可以修改许多超参数: 神经元初始化方法，神经元激活的正则化及其权重等。 使用几乎凭直觉选择的参数所获的结果具有良好的品种，但其上限也令人失望。 如果没有优化，就不可能将准确度提高到 0.82 以上。 结论: 有必要优化神经网络的超参数。 在之前的文章中，我们尝试了贝叶斯优化。 在这里也可以采用它，但这是另一个难题。

作者：Vladimir Perervenko

新评论