但这些武功有一个问题,就是只用了单层复杂函数来模拟现实。现实世界是复杂的,用单层复杂模型难免会顾此失彼,别说在图像识别这种领域里“鼻子眼睛眉毛”这些特征都很难用一句话说清楚,计算机的表现差强人意就不奇怪了。 深度学习的前生叫“神经网络”,单层神经网络叫“感知机”,名字取得挺好听,实际上啥也感知不了,武功弱爆了,基本被上面说的各派武功秒杀。好在“神经网络派”虽小,但是几位长老不甘心,孤心苦诣研究出多层神经网络,终在几次华山论剑中大胜,从此名动江湖,有了人工智能的今天。 啰嗦了半天,到底多层神经网络(深度学习)为什么牛?最重要的一点就是深度学习用非线性的拟合函数一层一层套下去,无限逼近任何函数数据模型!N层网络套下来,这个函数在纸上根本都写不下。这相当于在高维非线性空间里创造出一个可以任意弯曲的超级粒子“深度子”!(函数即粒子,恕我借用了量子力学中“波粒二象性”的观点)。这个“深度子”能量超高,具备万有逼近能力,前面说的“树子”,“SVM子”等等处理相对简单的“小数据”问题还行,在比拼模拟真实复杂世界的能力上,j2直播,一下子就输给“深度子”了(比如说图像识别大赛)。 驾驭“深度子”非常不易,神经网络派长老们用了王重阳的办法,以多打一,用“天罡北斗七星阵”,结阵御敌。层数一多,阵中参数上亿,变化玄妙,人类不能参透。长老们陆续想出了一些方法,比如说 1.下山法(GD算法):深度学习要做得事情其实就是找到给定高维空间中目标函数的最小值。这如同要求“深度子”在有无数崎岖山峰的大山中寻找最低点,牛顿300多年前发明的“下山法”就帮上忙了,“深度子”每到一处就丈量四周坡度,找个最陡的角度往下俯冲; 2.回溯法(BP算法):“深度子”找最低点不可能一蹴而就,长老们就在终点检查“深度子”交的作业,如果结果不理想,长老们就沿着“北斗七星阵”逆流回溯,哪个节点做得最差就让从哪里改起,逐步优化(只听王重阳喝到:孙不二,你这剑力量弱了,让敌人跑了,赶紧加力)。 3.卷积法(CNN):比如说要从千万张的二维图像中分辨中是猫、狗、猴子,“深度子”先化身为一个小范围扫描仪,扫遍全图分析结果。这样一遍一遍扫下来,“深度子”就逐步能认出毛发,眉眼,再到面貌,最后给长老交作业:这是猫!那是狗!嗯,这个不太确定,像是个猴子。 4.循环法(RNN):深度神经网络阵法一经催动,变幻如流水;流水川流不息,就算最后在入海口能通过CNN辨别万象,但是逝者如斯夫,不会形成“记忆”;这样处理时序问题就不太行。循环算法大致就是让阵中前后相连的神经元捉对循环演练(孙不二和郝大通互相推手N次再练下一招,这样孙不二就对郝大通的武功有了记忆)。RNN有个变种叫LSTM,特别适合做语义理解和机器翻译。 深度学习还有很多算法和trick,太深的我也不懂,atv,就点到为止了。神经网络派的武功外表看平淡无奇,但如要深入研习,需要极深的内功。在超高维空间中寻求非线性泛函的极值参数,早已超越人类直觉所及,现在的产出已经用到了很多古往今来许多科学大家的成就,牛顿,莱布尼兹,拉格朗日,高斯,黎曼,玻尔兹曼,尽在其列。Goodfellow和Bengio写的深度学习宝典里提到了变分法,微分几何,拓扑流形,动量方程,统计力学等等,几百年来数理大家们创出的武林绝学,都被计算机今贤们用来探索人工智能的理论前沿了。 综上,超高维弯曲空间中,“深度子”青衫磊落险峰行,(各类算法)剑气碧烟横! 先就此打住,下一篇讲讲我的最爱:从 AlphaGo 到 Master。 (本文授权转自作者褚达晨个人微信公众号“达晨随笔”,特此感谢!) 新智元招聘
职位:COO 职位年薪:50万(工资+奖金)-100万元(含期权) 工作地点:北京-海淀区 所属部门:运营部 汇报对象:CEO 下属人数:10人 年龄要求:25 岁至 40 岁 语 言:英语六级以上或海外留学从业背景 职位背景:在IT领域有专业团队管理经验 学历要求:硕士及以上 职位描述: 1. 负责新智元总体市场运营,智库与人工智能百人会经营,政府关系统筹协调 2. 擅长开拓市场,并与客户建立长期多赢关系,有建构产业生态系统能力 3. 深度了解人工智能及机器人产业及相关市场状况,善于捕捉商业机会 4. 统筹管理公司各运营部门,兼管公司HR及财务部门 5. 带领运营团队完成营业额目标,并监控协调运营部与编辑部、研究部运作 6. 负责公司平台运营总体战略计划、合作计划的制定与实施 岗位要求 1、硕士以上学历,英语六级以上,较强的英语沟通能力或外企从业经验 2、 3年以上商务拓展经验,有团队管理经验,熟悉商务部门整体管理工作 3、 IT领域商务拓展经验、强大的团队统筹管理能力 4、 有广泛的TMT领域人脉资源、 有甲方市场部工作经验优先考虑 5、 知名IT媒体商务部门管理经验,广告、公关公司市场拓展部负责人优先 应聘邮箱:[email protected] HR微信:13552313024 (责任编辑:本港台直播) |