当今人工智能的繁荣以一种名为深度学习的技术为中心,该技术由人工神经网络提供支持。以下是这些神经网络如何构建和训练的图形解释。
这是假设的前馈深度神经网络的结构“深”是因为它包含多个隐藏层。此示例显示了一个网络,该网络可以解释手写数字的图像并将其分类为 10 个可能的数字之一。
输入层包含许多神经元,每个神经元的激活设置为图像中一个像素的灰度值。这些输入神经元连接到下一层的神经元,在乘以某个值称为权重后传递它们的激活级别。第二层中的每个神经元将其许多输入相加,并应用激活函数来确定其输出,该输出以相同的方式前馈。
AI人工智能训练
这种神经网络是通过计算实际输出与期望输出之间的差异来训练的。这里的数学优化问题具有与网络中可调节参数一样多的维度——主要是神经元之间连接的权重,可以是正值[蓝线]或负值[红线]。
训练网络本质上是找到这种多维“损失”或“成本”函数的最小值。它通过多次训练迭代完成,逐渐改变网络的状态。在实践中,这需要根据为一组随机输入示例计算的输出对网络权重进行许多小的调整,每次都从控制输出层的权重开始并通过网络向后移动。为了简单起见,此处仅显示了与每层中单个神经元的连接。在许多随机的训练示例集中重复此反向传播过程,直到损失函数最小化,然后网络为任何网络提供******结果。新的输入。
步骤1
当输入处出现手写的“3”时,未经训练的网络的输出神经元将具有随机激活。我们希望与 3 相关的输出神经元具有高激活[暗阴影],而其他输出神经元具有低激活[亮阴影]。因此,与 3 相关的神经元的激活必须增加[紫色箭头]。
步骤2
为此,从第二个隐藏层中的神经元到数字“3”的输出神经元的连接权重应该变得更正[黑色箭头],变化的大小与数字“3”的激活成正比。连接的隐藏神经元。
步骤3
然后对第二隐藏层中的神经元执行类似的过程。例如,为了使网络更加准确,该层中的顶部神经元可能需要减少其激活[绿色箭头]。通过调整网络与第一个隐藏层的连接权重黑色箭头,可以将网络推向该方向。
步骤4
然后对第一个隐藏层重复该过程。例如,该层中的第一个神经元可能需要增加其激活[橙色箭头]。
···
···
···
···
···
···
···
···
···
···
···
···
···
···
···