什么是深度学习（Deep Learning） – AI百科知识

AI百科1年前 (2023)更新 AI小集

0 5

什么是深度学习

深度学习（Deep Learning）是机器学习的一个子集，而机器学习是人工智能的一个分支，它使计算机能够从数据中学习并执行通常需要人类智能才能完成的任务。深度学习使用人工神经网络，一种受人脑结构和功能启发的算法，可以从大量数据中学习并进行预测或分类。

深度学习的工作原理

深度学习通过在神经网络中创建多层神经元来工作，其中每一层都可以对输入数据执行一些计算并将其传递给下一层。

第一层称为输入层，它接收原始数据，例如图像、文本或声音。
中间的层称为隐藏层，可以从数据中提取特征或模式，并将它们转换为更高级别的表示。
最后一层称为输出层，它产生最终结果，例如标签或分数。

神经元之间的连接与权重相关，权重决定了每个神经元对另一个神经元的影响程度。权重最初是随机的，并在训练期间使用称为反向传播的过程进行调整，反向传播涉及将网络的输出与所需输出（基本事实）进行比较，并计算误差度量（损失函数），然后误差通过网络向后传播并用于根据规则（优化算法）更新权重。

深度学习的训练过程需要大量的标记数据，这意味着每个输入示例都有一个关联的输出值。例如，如果我们想要训练一个神经网络来识别手写数字，我们需要数千张带有相应标签（0-9）的数字图像。网络通过查找数据中的模式和相关性来学习，这些模式和相关性有助于最大限度地减少错误并提高准确性。

深度学习与机器学习的不同点

深度学习虽然是机器学习的一个子集，但它们在数据要求、计算能力、特征提取和性能等方面存在一些区别。

数据要求：机器学习算法通常使用结构化数据，这意味着每个输入示例都有固定数量的特征，这些特征是预定义的并组织到表格中。例如，如果我们想根据花的特征对花进行分类，我们需要测量花瓣长度、花瓣宽度、萼片长度、萼片宽度等特征。而深度学习算法可以处理没有预定义特征的非结构化数据，例如图像、文本或声音，并且可以在大小和格式上有所不同，深度学习算法可以自动从原始数据中提取特征并学习层次表示。
计算能力：机器学习算法可以在标准 CPU 上运行，不需要太多内存或存储空间。深度学习算法需要高性能GPU或专门的硬件来处理大量数据和复杂的计算，以及需要更多的内存和存储空间来存储过程中的结果和参数。
特征提取：机器学习算法依靠技术人员为每个问题领域定义和选择相关特征，这个过程既费时又主观，并且可能无法捕获数据的所有方面。而深度学习算法通过使用多层神经元从原始数据中自动提取特征，从而消除了部分手动工作，这减少了人为干预和偏见，并允许更多的概括和适应。
性能：机器学习算法可以在许多问题上取得很好的结果，但它们可能难以处理涉及高维输入、非线性关系或噪声数据的复杂任务。而深度学习算法可以为许多具有挑战性的问题取得最先进的结果，例如计算机视觉、自然语言处理、语音识别、机器翻译等，有时会超越人类水平的表现。它们还可以比机器学习算法更好地处理噪声数据，因为它们可以从大量数据中学习稳健的表示。

流行的深度学习开发框架

深度学习框架是帮助数据科学家和开发人员更轻松、更高效地构建和部署深度学习模型的软件库或工具，可以抽象出底层算法和硬件的低级细节，并提供用于创建、训练、测试和部署各种类型的神经网络的高级API和功能。当今一些最流行的深度学习框架是：

TensorFlow：谷歌开发的开源平台，支持Python、C++、Java、Go等多种语言，可以运行在CPU、GPU、TPU和移动设备上。它为分布式处理和生产环境提供了一个灵活且可扩展的架构。
PyTorch：Facebook 开发的一个开源框架，它基于 Torch，一个用于 Lua 的科学计算库。它支持 Python 作为主要语言，可以在 CPU 和 GPU 上运行。它提供了一个动态计算图，比 TensorFlow 的静态图具有更大的灵活性和交互性。
Keras：可以在 TensorFlow、Theano 或 CNTK 之上运行的高级 API。它支持 Python 作为主要语言，可以在 CPU 和 GPU 上运行。它提供了一个简单且用户友好的界面，用于构建常见类型的神经网络，例如卷积神经网络 (CNN) 或递归神经网络 (RNN)。
SciKit-Learn：一个流行的 Python 机器学习库，还支持一些深度学习功能，例如神经网络模型、特征提取、降维等，只能在 CPU 上运行。
Apache MXNet：一个开源框架，支持 Python、R、Scala、Julia 等多种语言。它可以跨多种设备运行在 CPU 和 GPU 上。它提供了一种声明式编程风格，可以轻松进行并行化和优化。

其他深度学习框架包括Caffe（计算机视觉应用程序框架）、Theano（Python 符号数学库）、Deeplearning4j（Java 框架）、MATLAB（数值计算环境）、Sonnet（建立在 TensorFlow 之上的库）和百度推出的飞桨PaddlePaddle。