您的位置: 主页 > 人工智能学家 > DeepMind深度学习最佳实践与新技术展望,181页PPT全景展示最近深度学习技术

DeepMind深度学习最佳实践与新技术展望,181页PPT全景展示最近深度学习技术

时间: 2017-12-14阅读:

来源:专知

概要:在NIPS2017上,DeepMind及Google所发布的教程《深度学习实战及趋势》(Deep Learning: Practice and Trends)对最新的深度学习技术及2017年的技术新趋势做了详细总结。这次报告内容主要分为实践和趋势两个部分,其中实践包含最新的卷积网络,循环网络,Attention机制的应用和技巧,趋势部分包括最新的元学习,图结构学习等内容。


摘要


深度学习已经成为各种实际应用,研究实验室,工业领域的基本工具。在本教程中,我们将提供一套指导实践方法,帮助新手了解最新和先进的模型, (例如图像,视频,波形,序列,图形)以及复杂的任务(如从一些简单样本中学习,或者生成分子)的应用。


内容主要分为实践和趋势两个部分,其中实践包含最新的卷积网络,循环网络,Attention机制的应用和技巧,趋势部分包括最新的元学习,图结构学习等内容。



每一部分都是从模型的输入输出,结构以及损失函数三部分来介绍。



演讲者


Nando de Freitas 剑桥大学机器学习教授,Deepmind研究科学家主

https://www.cs.ox.ac.鹤壁鹤源饭店uk/people/nando.defreitas/


ScottReed DeepMind高级研究科学家

http://www.scottreed.info/


Oriol Vinyals Google研究科学家

https://research.google.com/pubs/OriolVinyals.html


实践部分


深度学习工具箱




卷积网络


-    卷积基本结构

-     AlexNet

-      深层卷积的挑战,实践与技巧

-      ResNet,DenseNet,U-Net




循环网络与注意力机制


-      循环网络语言模型

-      seq2seq

-      seq2seq with Attention




趋势部分


自回归模型


-      NADE, MADE, RIDE,PixelCNN,WaveNet

-      因果卷积(causal convolutions)

-      Self-Attenion




领域对齐


-      跨领域图像生成

-      CycleGAN

-      图像到图像翻译(Image-to-image Translation)

-      DiscoGAN

-      GraspGAN

-      无监督机器翻译




元学习


-      Meta Learning/Learning to Learn

-      One-shot imitation learning



图结构和神经网络


-      消息传递神经网络(Message Passing Neural Networks

-      Gated Graph neural networks



参考:


https://nips.cc/Conferences/2017/Schedule?showEvent=8730

https://www.youtube.com/watch?v=C80S_2mivFA


PPT简介


专知内容组专门整理出《深度学习实战及趋势》报告PPT:


上一篇:HaptX力反馈手套提供非常细腻的力反馈手感 | VR2048
下一篇:没有了

相关阅读