自从原始的NTM论文,目前已经有一些令人兴奋的文章探索类似的方向。 神经GPU(Kaiser&Sutskever,2015)克服了NTM无法添加和乘数的问题。(Zaremba&Sutskever,2016)训练NTMs使用强化学习,而不是原始使用的可微分的读/写。 神经随机存取机器(Kurach et al.,2015)基于指针工作。(这就是模仿我们现在使用的计算机内存) 一些论文已经探索了可微分的数据结构,如堆栈和队列(Grefenstette等人2015; Joulin&Mikolov,2015)。 和记忆网络(Weston et al.,2014; Kumar et al.,2015)是解决类似问题的另一种方法。 在某些客观意义上,这些模型可以执行的许多任务 - 例如学习数的加法 - 客观上并不是很困难。 传统的搞程序合成的小伙伴会像吃午饭一样简单地解决这种问题。 不过,神经网络能够做许多其他的事情,像神经图灵机模型已经跨越了一个非常深刻的神经网络能力限制。我们可以明显地看出,神经网络可以不用“deep”,但却可以完成更加复杂的任务,这是从感知能力到推理能力的跨越。DeepMind最新的基于NTM的架构是DNC - Differentiable Neural Computer,直播,改善了NTM的记忆读写机制,可以看作神经版的NTM,里面有不少有趣的东西,后面有空可以结合代码解读写一期。很快地我们将会看到不同网络的各种结合,通过引入多目标函数来整合感知能力和推理能力。开源代码 计算机科学,无疑动手实践很重要,参考之后这些实现之后应该自己实现一遍Neural Turing Machine include Taehoon Kim’s(TensorFlow), Shawn Tan’s (Theano), Fumin’s (Go), Kai Sheng Tai’s (Torch), Snip’s (Lasagne); Differentiable Neural Computer: Mostafa-Samir(TensorFlow) Code for the Neural GPU: TensorFlow Models repository; Memory Networks include Facebook’s (Torch/Matlab), YerevaNN’s (Theano), and Taehoon Kim’s (TensorFlow). 本文首发于知乎,作者张嘉伟授权新智元转载。 作者邮箱:jeven-[email protected] 原文链接:https://zhuanlan.zhihu.com/p/24150657 责编:XJ 新智元招聘 职位 运营总监 职位年薪:36- 50万(工资+奖金) 工作地点:北京-海淀区 所属部门:运营部 汇报对象:COO 下属人数:2人 年龄要求:25 岁 至 35 岁 性别要求:不限 工作年限:3 年以上 语 言:英语6级(海外留学背景优先) 职位描述 负责大型会展赞助商及参展商拓展、挖掘潜在客户等工作,人工智能及机器人产业方向 擅长开拓市场,并与潜在客户建立良好的人际关系 深度了解人工智能及机器人产业及相关市场状况,随时掌握市场动态 主动协调部门之间项目合作,组织好跨部门间的合作,具备良好的影响力 带领团队完成营业额目标,并监控管理项目状况 负责公司平台运营方面的战略计划、合作计划的制定与实施 岗位要求 大学本科以上学历,硕士优先,要求有较高英语沟通能力 3年以上商务拓展经验,有团队管理经验,熟悉商务部门整体管理工作 对传统全案公关、传统整合传播整体方案、策略性整体方案有深邃见解 具有敏锐的市场洞察力和精确的客户分析能力、较强的团队统筹管理能力 (责任编辑:本港台直播) |