深度学习通常是对人工神经网络的改进,人工神经网络是一种用于特征提取、感知和学习的深度神经网络。“深度”是指神经网络中隐藏层的数量。传统的神经网络只包含2~3个隐层,而深度神经网络可能包含多达150个隐层。深度学习使用多个连续的层来执行操作。每一层都相互连接,每一层都接收前一层的输出作为输入。一个简单的深度神经网络如图1所示,它包括一个输入层,三个隐藏层和一个输出层。输入维度为6,输出维度为2;隐含层分别包含12、6和3个神经元。
一、简单的深度神经网络 在深度学习中,不是人工提取特征,而是使用有效的算法自动提取数据特征。深度学习在很多领域都有应用,比如语音识别、无人驾驶、图像识别与分类、自然语言处理、生物信息学等。 二、深度学习和机器学习的区别如下。 (1)深度学习中,需要输入海量数据进行训练,使算法模型达到最理想的状态;但是在机器学习中,大量的数据并不能提高模型的性能。 (2)在深度学习中,从数据中自动提取特征;在机器学习中,特征是由专家指定的。 (3)在深度学习中,你需要在高性能机器上工作;在机器学习中,你可以在低性能的机器上工作。 (4)与传统机器学习相比,深度学习可以对输入的高维特征进行多次抽象,使其具有很强的特征表达能力,更有利于解决许多复杂的特征问题。 三、深度学习的四种常见模型是深度前馈网络、递归神经网络、卷积神经网络和自编码器。 (1)深度前馈网络:又称全连接前馈神经网络或多层感知器。在前馈神经网络内,信息从输入层传播到输出层,输出层只能单向传播,不能反向传播。 (2)递归神经网络:又称递归神经网络,能有效处理串行数据。与深度前馈网络不同,神经元的输出可以在下一个时间戳直接作用于本层神经元。主要用于文本描述、语音识别、机器翻译等领域。 (3)卷积神经网络:包括卷积层、池层和全连接层,可以在保留图像特征的前提下,有效地将数据量大的图像降维为数据量小的图像。主要应用于图像分类、人脸识别、骨骼识别等领域。
(4)自编码器:它是一种无监督的神经网络模型,由编码器和解码器组成。其主要目的是将输入值编码成中间值,然后对中间值进行解码,使输入数据得以重构,从而实现降维。