Res DL3:计算

异步计算 NumPy 学习率的主要优化算法

异步计算

样本数据量较大，数据读取较慢，建议采用异步数据读取方式。

几个模型的准确率在测试集上差距不大，尽量选用结构相对简单的模型。

生成器

NumPy

高性能科学计算和数据分析的基础包

全链接神经网络

卷积神经网络

学习率的主要优化算法

SGD

SGD

Momentum

AdaGrad

Adam

分布式训练

梯度同步

PRC通信

NCCL2通信

过拟合

理想拟合

欠拟合