日程

培训模块

培训内容

第一天

计算机视觉中的目前最先进的算法

—卷积神经网络

●  卷积神经网络的架构设计思路与技术原理详细介绍：

1. LetNet

2. AlexNet

3. VGGNet：vgg16和vgg19

4.GoogleNet：Inception v1-v4

5.ResNet：50层，110层和1001层ResNet

6.DenseNet

●  卷积层和池化层原理与工业界实际应用中设计技巧；

●  卷积神经网络在实际应用中性能提升方法和技巧介绍：网络深度，卷积核大小，学习率，激活函数，图片处理与数据增强等

第一天

一种全新的富有吸引力的人工智能架构

—胶囊网络

●  卷积神经网络的缺点和症结，以及可能导致安全缺口

●  胶囊网络的起源和概念：为什么要抛弃反向传播

●  胶囊网络的设计架构细节解析：Capsule 层和Dynamic Routing 算法

●  胶囊网络的训练技巧解析：squashing function和最优化

●  手把手教实战：胶囊网络在实际工业的应用，以及实际应用中提高准确度技巧详解

第二天

自然语言处理（NLP）中的深度学习

●  词向量的表达形式和词嵌入方式的分析与介绍;

●  Airbnb（爱彼迎公司）推荐系统与近似搜索背后的秘密—Word2Vec；

●  循环神经网络的架构设计思路详解与5种不同网络拓扑结构在不同领域中的实际应用：

1.情感识别分析；

2.短视频理解与字母生成；

3.机器翻译；

4.聊天机器人；

5.阅读理解与完型填空；

●  Seq2Seq的模型架构介绍和在实际NLP中的应用地位；

●  手把手教实战：用基于Seq2Seq实现机器翻译

第二天

Google翻译背后的深度学习模型—替代RNN的“变形金刚”Transformer：

●  循环神经网络的几大‘罪状’

●    Transformer网络架构设计与技术原理详细介绍：Residual connection，Mask结构与Positional encoding结构

●    Advanced Attention机制的设计思路和原理：自注意力机制，点乘注意力机制与多头注意力机制

●    Transformer网络训练最优化问题

●    手把手教实战：Transformer的实现与实际工业应用

第二天

机器学习中的“道”与“术”—论机器学习在工业界实践与大规模行业应用

●    机器学习之“道”的详解：Bias and Various trade-off， Ensemble模型为什么会提高5%的精度，Xgboost屡试不爽背后的秘密

●    机器学习之“术”的介绍：实际工作中如何避免Overfitting和Underfitting, Ensemble如何组合会达到最大的效果，Xgboost在实际项目中的应用，随机森林与深度学习的完美结合

●    手把手教实战：机器学习股票价格预测初级，高级实战

第三天

深度学习在Google、BAT等互联网巨头公司中的实际应用——广告点击率预估（CTR预估）

●    广告点击率预估的重要性，广告点击率预估的商业价值;

●    早期Google、BAT等互联网巨头公司中广告点击率预估的实践方法与经验详解介绍；

●    深度学习在Google、BAT等互联网巨头公司中实际应用模型架构设计原理与设计思路：

1. Wide & Deep Learning;

2. Deep Learning over Multi-field categorical data: FNN and SNN;

3. Product-based Neural Networks: PNN;

4. DeepFM;

5. Neural Factorization Machine（NFM）

6. Attentional Factorization Machine（AFM）

第三天

未来强人工智能（AGI）方向—迁移学习（transferlearning），生成对抗网络（GAN）和深度强化学习（Deep Reinforcement Learning）：

●    迁移学习的基本概念和各种应用场景；

●    深度迁移学习（transferlearningindeeplearning）与多任务学习（multi-tasklearning）：

●    深度迁移学习在工业界的大规模应用；

●    GAN的网络结构设计与原理解析；

●    AlphaGo架构设计与原理解析；

●    AlphaGo的现实意义和未来强人工智能的走向

●  揭开Google的AutoML的神秘面纱：自动机器学习的架构搜索初探和工程实践