深度学习

什么是深度学习

深度学习，是机器学习，AI的一个分支，是十分重要的AI算法。

深度学习主流算法

卷积神经网络（Convolutional Neural Networks, CNN）

1. LeNet-5

• 描述：早期的卷积神经网络，用于手写数字识别。
• 应用：数字识别、字符识别等。

2. AlexNet

• 描述：在ImageNet图像分类比赛中取得突破性成果的卷积神经网络。
• 应用：图像分类、目标检测等。

3. VGGNet

• 描述：具有深层结构的卷积神经网络，通过小卷积核来构建深层网络。
• 应用：图像分类、风格迁移等。

4. GoogLeNet (Inception)

• 描述：引入了Inception模块，通过多尺度卷积来提高网络性能。
• 应用：图像分类、目标检测等。

5. ResNet

• 描述：使用残差学习，通过跳跃连接解决梯度消失问题，实现更深的网络。
• 应用：图像分类、物体检测、语义分割等。

6. MobileNet

• 描述：轻量级卷积神经网络，适用于移动设备和嵌入式系统。
• 应用：移动端图像处理、实时物体检测等。

循环神经网络（Recurrent Neural Networks, RNN）

1. Vanilla RNN

• 描述：最基础的循环神经网络，具有短时记忆。
• 应用：自然语言处理、时间序列预测等。

2. Long Short-Term Memory (LSTM)

• 描述：通过引入门控机制解决梯度消失问题，具有长时记忆能力。
• 应用：机器翻译、语音识别等。

3. Gated Recurrent Unit (GRU)

• 描述：与LSTM类似，但参数更少，训练速度更快。
• 应用：自然语言处理、图像描述生成等。

生成对抗网络（Generative Adversarial Networks, GAN）

1. Vanilla GAN

• 描述：由生成器和判别器组成，通过对抗训练生成真实样本。
• 应用：图像生成、风格转换等。

2. DCGAN (Deep Convolutional GAN)

• 描述：在GAN中引入卷积结构，提高图像生成的质量。
• 应用：人脸生成、艺术创作等。

3. CycleGAN

• 描述：通过循环一致性损失实现两个域之间的图像转换。
• 应用：风格转换、图像翻译等。

强化学习（Reinforcement Learning）

1. Q-Learning

• 描述：基于值函数的强化学习方法，用于解决马尔可夫决策过程问题。
• 应用：游戏智能、机器人控制等。

2. Deep Q Network (DQN)

• 描述：将深度学习引入Q-Learning，提高对复杂环境的适应能力。
• 应用：游戏智能、自动驾驶等。

3. Policy Gradient Methods

• 描述：通过直接优化策略函数来学习决策策略。
• 应用：机器人控制、自然语言处理等。

Transformer