概率图模型(PGM)在统计学与机器学习的交叉领域形成一个独立的分支。一般说来关于 PGM 的书籍和课程有很多。这里我们提出的是:在深度学习中如何应用这些模型。Hugo Larochelle 的课程介绍了几个著名的模型,而《Deep Learning》一书则用了四章(16-19)来阐述该理论,并在最后一章介绍了十几种模型。这些课题都需要大量的数学知识。
3. 条件随机场(Conditional Random Fields/CRF)★★★ 4. 训练条件随机场 ★★★ 5. 受限玻尔兹曼机(Restricted Boltzmann Machine/RBM)★★★ 7.7-7.9. 深度信念网络(Deep Belief Network/DBN)★★★ 9.10. 卷积受限玻尔兹曼机 ★★★ 13. 金融线性模型(Linear Factor Models)——概率模型的第一步 ★★★ 16. 深度学习的结构化概率模型 ★★★ 17. 蒙特卡洛(Monte Carlo)方法 ★★★ 18. 对抗配分函数(Confronting the Partition Function)★★★ 19. 近似推断(Approximate Inference)★★★ 20. 深度生成模型(Deep Generative Models)——包括玻尔兹曼机(RBM、DBN 等)、变分自编码器(variational autoencoders)、生成对抗网络、自回归模型(Autoregressive Models)等 ★★★ 生成模型——变分自编码器、生成对抗网络及其 OpenAI 改进方面的一篇博文。★★★ 神经网络园(The Neural Network Zoo)试图使用一个单一方案组织大量架构。★★ 更高层次的框架(Lasagne、Keras)不执行图形模型。但有很多为 Theano、Tensorflow 和 Torch 而编写的代码。
Theano 中的受限玻尔兹曼机 ★★★ Theano 中的深度信念网络 ★★★ 由特征向量生成大图像——结合运用变分自编码器(variational autoencoders)与生成对抗网络。★★★ 在 TensorFlow 中使用深度学习进行图像修复——生成对抗网络的另一个应用。★★★ 使用 Torch 的面部生成——生成对抗网络的 Torch 实现 ★★ 前沿 深度学习是一个非常活跃的科学研究领域。要想跟上顶尖的科研进程,就必须阅读新的论文并跟上重要的会议。通常每个新思想都是在 arXiv.org 的预印本论文上发表。然后其中一些提交给会议并进行同行评议。最好的那些会在会议上被提出并发表在期刊上。如果该作者不发布其模型的代码,atv,许多人会试图实现它们并将其放在 GitHub 上。这得需要 1、2 年的时间,合理解释其思想和实现过程的高品质技术博客、教程和视频才会出现在网络上。
深度学习论文阅读路线图包含一长串的重要文件。 Arxiv Sanity Preserver 的用户界面在 arXiv 上浏览论文的效果不错。 Videolectures.net 包含许多高级课题相关的视频。 /r/MachineLearning 是一个非常活跃的 Reddit 板块。所有新的重要论文都会在那里进行讨论。 ©本文由机器之心编译,转载请联系本公众号获得授权。 ?------------------------------------------------ 加入机器之心(全职记者/实习生):[email protected] 投稿或寻求报道:[email protected] 广告&商务合作:[email protected] (责任编辑:本港台直播) |