原文: https://machinelearningmastery.com/deep-learning-courses/
深入学习可能很难开始。
值得庆幸的是,许多大学免费开设了深度学习的课程,当您希望更好地理解深度学习的基础时,这可能是一个很好的起点。
在这篇文章中,您将了解关于深度学习的课程,您可以浏览和学习,以发展和巩固您对该领域的理解。
这是一篇很长的文章,可以深入链接到很多视频,你可以收藏,跳转到整个课程的特定目录,而不是选择一门课程并从头至尾完成。
通过我的新书中的几行代码,了解如何为一系列问题的预测性建模并开发深度学习模型,总共包括 18 个分步教程和 9 个项目。
让我们现在开始吧。
我们将快速浏览以下 6 个深度学习课程。
- 牛津深度学习
- 谷歌深度学习 Udacity
- 蒙特利尔深度学习暑期学校
- 斯坦福大学自然语言处理的深度学习
- 斯坦福大学视觉识别的卷积神经网络
- 舍布鲁克大学的神经网络课程
最后还有一个“其他课程”部分,以收集其他视频课程,这些课程并不是免费的,而且是零散的课程,并且适合更为细分的领域,并不完全适合本摘要评审。
有很多课程和很多很棒的免费材料。
我最好的建议是:
不要选择一门课程并通过从头至尾的方式学习。
这与大多数人的建议相反。
你“认真”并且挑选“最好的”课程学习并完成所有的课程材料的冲动会几乎导致你肯定失败。
材料很难,你需要花时间在每个主题上获得不同的观点。
真正进入这一材料的最好方法是逐个主题地学习,并从所有课程中选取相关介绍,直到你真正理解一个主题,然后再进入下一个主题学习。
您无需了解所有主题,也无需使用单一来源来理解单个主题。
将此页面添加为书签,然后在您需要时浏览案例并深入了解您需要的材料,同时学习如何使用 Keras 等平台在代码中实现真正的真实深度学习模型。
这是一个机器学习课程,侧重于 Nando de Freitas 在牛津大学教授的深度学习。
我真的很喜欢这门课程,我花费了双倍时间观看了所有视频并做了笔记,它提供了良好的理论基础,涵盖了现代深度学习主题,如 LSTM,代码示例显示在 Torch 中。
我注意到教学大纲与实际可用的视频讲座不同,YouTube 播放列表列出了无序的讲座,因此以下是 2015 年视频讲座的顺序:
- 深度学习讲座 1:简介
- 深度学习讲座 2:线性模型
- 深度学习讲座 3:最大可能性和信息
- 深度学习第 4 讲:正则化,模型复杂性和数据复杂性(第 1 部分)
- 深度学习第五讲:正则化,模型复杂性和数据复杂性(第 2 部分)
- 深度学习第六讲:优化
- 深度学习第 7 讲:逻辑回归,Torch 实现
- 深度学习第 8 讲:模块化反向传播,逻辑回归和 Torch
- 深度学习讲座 9:Torch 中的神经网络和模块化设计
- 深度学习讲座 10:卷积神经网络
- 深度学习讲座 11:最大边缘学习,转移和记忆网络
- 深度学习讲座 12:递归神经网络和 LSTM
- 深度学习讲座 13:Alex Graves 关于 RNNs 的设想
- 深度学习第 14 讲:关于变分自编码器和图像生成的 Karol Gregor
- 深度学习讲座 15:深度强化学习 - 政策检索
- 深度学习第 16 讲:强化学习和神经动态规划
对我来说,最重要的课程是 Alex Graves 关于 RNN 的讨论(第 13 讲),这是一个聪明的人做的伟大的工作,我在观看这个视频的时候正在阅读很多亚历克斯的论文,所以我可能会有偏见。
这是来自 Udacity 的 Arpan Chakraborty 和 Google 的首席科学家 Vincent Vanhoucke 之间的一个小型课程合作。
该课程是免费的,托管在 Udacity 上,专注于 TensorFlow。它是 Udacity 上托管的机器学习工程师 Nanodegree 的一小部分。
您必须注册 Udacity,但一旦您登录,您就可以免费访问此课程。
所有课程视频都在 YouTube 上,但(有意)很难找到不良的命名和链接,如果有人知道所有视频的盗版播放列表,请在评论中发布。
该课程分为 4 课:
- 第 1 课:从机器学习到深度学习
- 第 2 课:深度神经网络
- 第 3 课:卷积神经网络
- 第 4 课:文本和序列的深层模型
该课程很短,但分为许多短视频并且 Udacity 的界面友好, Vincent 似乎出现在我看过的所有视频中(这很棒),视频也显示在 YouTube 界面中。
还有一个讨论表格,您可以通过流畅的对话软件来提问和回答问题。
我倾向于深入了解我感兴趣的视频,而不是完成整个课程或完成任何课程作业。
2015 年在蒙特利尔大学举办了深度学习暑期学校。
根据该网站,暑期学校的目标是研究生和工业工程师以及已经掌握机器学习基础知识的研究人员。
在从入门材料到最新研究的一系列主题的深度学习领域,至少有著名研究人员的 30 场演讲(有 30 个视频)。
蒙特利尔深度学习暑期学校
这些视频是真正的宝库,花点时间仔细挑选您的主题。所有视频都在 VideoLectures.net 网站上托管,该网站具有足够好的界面,但不如 YouTube 干净。
许多(所有?)谈话都在视频下方提供了 PDF 幻灯片的下载链接,更多信息可从官方网站的日程页面获得。
以下是讲座主题的完整列表,其中包含视频链接。我试图将相关视频列在一起(例如,第 1 部分,第 2 部分)。
- 机器学习简介
- 深度学习:理论动机
- 多层神经网络
- 训练深度神经网络
- 多层神经网络
- 深度学习分布估计
- 无向图形模型
- 受限制的玻尔兹曼机器
- 在歧管和自编码器
- 视觉特征:从傅立叶到 Gabor
- 视觉特征 II
- 卷积网络
- 学习比较
- NLP 和深度学习 1:人类语言单词向量
- NLP 和深度学习 2:成分深度学习
- 使用深度学习看人
- 深度学习
- 深度学习 2
- 语音识别和深度学习
- 神经网络优化问题教程
- 深度学习(希望更快)
- 对抗性实例
- 从语言建模到机器翻译
- 深 NLP 递归神经网络
- Deep NLP 应用程序和动态记忆网络
- 记忆,阅读和理解
- 平滑,有限和凸优化深度学习暑期学校
- 非平滑,非有限和非凸优化
- 变分自编码器和扩展
- 深度生成模型
选择一个主题并深入学习,效果会非常好!
看起来会有一个 2016 暑期学校,希望会有视频。
这是一个深度学习课程,重点是斯坦福大学 Richard Socher 教授的自然语言处理(NLP)。
一个有趣的说明是,您可以访问 PDF 版本的学生报告,这些工作可能会激发您的灵感或给您提供具有创意的想法。
YouTube 播放列表的文件名称很差,而且有些缺少讲座, 2016 年的视频尚未全部上传。以下是 2015 年讲座和视频链接的列表。只是选择进一个特定主题就轻松多了。
- 讲座 1:NLP 和深度学习简介
- 第 2 讲:简单的单词向量表示:word2vec,GloVe
- 第 3 讲:高级单词向量表示:语言模型,softmax,单层网络
- 第 4 讲:词窗分类和神经网络
- 第 5 讲:项目建议,神经网络和反支柱(全部详细信息)
- 第 6 讲:实用技巧:梯度检查,过拟合,正则化,激活功能,细节
- 第 7 讲:用于语言建模和其他任务的循环神经网络
- 第 7 讲(8!?):用于机器翻译的 GRU 和 LSTM
- 第 9 讲:递归神经网络的解析
- 第 10 讲:针对不同任务的递归神经网络(例如情绪分析)
- 第 11 讲:期中考试
- 第 13 讲:用于句子分类的卷积神经网络
- 第 15 讲:DL 在 NLP 方面上 的应用
- 与 Andrew Maas 的客座讲座:语音识别
- 与杰森韦斯顿的客座讲座:记忆网络
- 与 Elliot 英语的客座讲座:高效的实现和 GPU
如果您正在深入学习 NLP,这将是一个非常优秀的领域,这也是一个很好的学习材料。
本课程重点介绍使用卷积神经网络对计算机视觉应用进行深度学习。
这是斯坦福大学的另一门课程,这次由 Andrej Karpathy 和其他人讲授。
不幸的是,课程视频被删除了,但是一些聪明的人已经找到了将它们放回其他地方的方法,请参阅下面资源部分中的播放列表。
我现在很遗憾的通知,由于法律问题,我们被迫删除了 CS231n 视频。仅仅有 25 万的社会观点因此服务而受益。
- Andrej Karpathy(@karpathy) 2016 年 5 月 3 日
另一个很棒的课程
以下是 2016 年课程的视频讲座,但我不确定这些链接会持续多长时间,如果链接失效,请发表评论以便于我及时修复链接。
- 第 1 讲 引言及历史背景
- 第 2 讲 数据驱动方法,kNN,线性分类 1
- 第 3 讲 线性分类 2,优化
- 第 4 讲 神经网络第 1 部分,反向传播
- 第 5 讲 神经网络第 2 部分
- 第 6 讲 神经网络第 3 部分,卷积介绍
- 第 7 讲 卷积神经网络
- 第 8 讲 定位和检测
- 第 9 讲 可视化,深度梦想,神经风格,对抗性实例
- 讲座 10 回归神经网络,图像字幕,LSTM
- 第 11 讲 实践中的讲座
- 第 12 讲 深度学习库
- 第 13 讲 分段,软注意,空间变换器
- 第 14 讲 视频和无监督学习
- 第 15 讲 由 Jeff Dean 邀请演讲
这是由魁北克舍布鲁克大学的 Hugo Larochelle 教授的神经网络课程。
有大量的材料,至少一吨(^_^
)。
视频是一对一而不是讲座,每个主题都有许多小视频,而不是大型的一小时视频信息。
我认为这可能是比传统讲座更好的方式,但我还没有完全尝试并比较,困难的是有 92 个视频(!!!)可供浏览,很难找到要观看的特定视频。
教材包括 10 个主题:
- 主题 1:前馈神经网络
- 主题 2:训练神经网络
- 主题 3:条件随机字段
- 主题 4:训练条件随机字段
- 主题 5:受限制的玻尔兹曼机器
- 主题 6:自编码器
- 主题 7:深度学习
- 主题 8:稀疏编码
- 主题 9:计算机视觉
- 主题 10:自然语言处理
我的建议是使用主菜单主页浏览主题,然后将这利用这些链接学习特定视频, YouTube 播放列表中有太多视频无法播放和理解,选择的悖论会杀死你。
以下是一些非免费,难以访问或范围较小的视频课程。
- CILVR Lab @ NYU 的深度学习课程(断开的链接?)
- Udemy 的小型深度学习课程
- CMU 的深度学习
- 用于深度学习的 Nvidia 自学课程
- 多伦多大学 Coursera 机器学习神经网络(太棒了,但不再免费)
- 更新:您可以在这里免费观看所有视频。
- 研究生暑期学校:深度学习,特色学习,2012
在这篇文章中,您发现了许多关于深度学习的世界级视频课程,包括理论,理论,计算机视觉,自然语言处理等。
注意这篇文章顶部的建议。
按主题浏览并深入讲座学习,而不要尝试学习整个课程,学习一件事,而不是尝试学习一切。
你可以花点时间,为此页面添加书签,以便您可以方便回来享受学习的乐趣。
你知道我还没有列出其他深度学习的视频课程吗?请在评论中告诉我,我会更新清单。