2017年最期待的一件事是对深度学习底层数学理论的理解。这里引用下AI大神田渊栋的一段话 ,“目前为止,我们还没有对深度学习有深层次的本质理解,大量的研究思路都是简单粗暴的,在计算资源极大丰富的今天,对于它们质量的主观判断,经常远不及写代码上机实验来得快与准。很多想法不论对错,不论它看起来有多离谱荒谬,先试一下再说,往往蒙得比想得快,atv,动手比动脑快。和我们每天刷手机类似,思维方式的这种转变是好是坏,目前还无从评判。这样的做法,完全可以归入浮躁和急功近利之流,与传统学术做法背道而驰”。 我当时看到后颇有感触。人类能够自由飞翔,不是因为发明出了类似鸟的翅膀,或者模拟了鸟的骨骼结构,而是因为我们发现了空气动力学本质原理(感谢欧拉,感谢伯努利)。超越进化的本质是对普适性科学原理的发现、理解与传播,当调参的工作变得又如种田般枯燥,刷各类benchmark已经刷出了《五年高考三年模拟》的既视感后,理解深度学习的底层数学原理来的格外重要,不然只会让深度学习和多层神经网络这个好东西,在仿生泥潭里越走越远。 如果还有一个期待的话,那就是NLP作为第三座AI大山,期待早日被深度学习攻克。 2016年最重要的一项AI技术进展,个人觉得是GAN(Generative Adversarial Networks) 的全面开花。2014年NIPS上Goodfellow和Bengio提出了GAN的概念,之后GAN以及其衍生版本在ICLR和NIPS被反复提及,LeCun更是在今年NIPS的keynote上将GAN称为深度学习近20年来最令人兴奋的主题。GAN的设计也非常巧妙,将博弈论和机器学习理论完美结合起来。让generative model和discriminative model互相竞争,力求达到纳什均衡,从而不再需要一个假设的数据分布,并可以极大程度上逼近真实样本。GAN未来在各种视觉类模拟(图像理解、文字转图像、图像合成、图像还原)有着极大的潜力和应用场景 甩一个2016 NIPS GAN大神GoodFellow的入门级slide。 2016年AI行业应用方面,首先AI已经普及20几年了,传统意义上的机器学习早就深入我们生活的点点滴滴了,你用个邮箱打个车背后都是各种AI和算法的的支撑,离开AI估计阿里收入得砍大半(什么购买推荐,反欺诈,违禁商品过滤,哪个不是靠AI)。如果要说深度学习消费级应用,实在没有特别多。如果真的要选一个,估计是新版本逆天的Google翻译吧,虽然在算法上没有太大的创新,但是架构和工程上的功力也是多年积累后的大爆发,是一个非常好的实用主义产品。在2017年希望看到嵌入式AI不依赖特殊硬件的全面普及(恩我说的是Pilot.ai),以及真正意义Level3以上无人车的真实可行性方案的出现(恩我说的是AutoX)。 (责任编辑:本港台直播) |