如果要让AI解决一个数据有限、数据成本很高或者获取十分耗时的任务时,能从小样本中学习最优解决方法的模型十分重要。用小量数据进行训练有很多挑战,一个替代的方法把之前机器学习模型知识转移到新的模型上,这叫做转移学习(transfer learning)。 应用:训练浅层网络来模拟在大规模数据集上训练好的神经网络;与深度网络模型表现相同、但参数更少的模型;机器翻译。 公司:Geometric Intelligence/Uber, DeepScale.ai, Microsoft Research, Curious AI Company, Google, Bloomsbury AI 05 用于训练和推理的硬件 AI发展的一个主要催化剂是将GPU用于训练大规模神经网络。训练神经网络需要大量的运算量,GPU用于训练远远快于CPU。自从2012年首个使用GPU的深度神经网络AlexNet出现后,GPU 成为了训练神经网络的首选。在2017年英伟达继续领跑这一领域,而英特尔、高通、超微和谷歌紧随其后。 GPU最初并不是为了机器学习而制作的,而是用于渲染电子游戏画面。GPU计算精度很高,直播,并且不会经常遭遇内存带宽的限制和数据溢出的问题。有一批专为深度学习定制芯片的创业公司,Google又开发了针对高维机器学习应用的芯片。新型的芯片内存宽带更高、计算能力更强、能耗更低。提高AI系统运算能力为AI公司和用户带来的好处是:更快更高效的训练模型→更好的用户体验→用户更多使用产品→产生更多的数据→数据帮助优化模型。因此,谁能够更快、更高效的训练和部署AI模型,就能拥有巨大的优势。 应用:快速训练模型(尤其是图片领域)、进行预测时的能源和数据效率、运行前沿AI系统(物联网设备)、随时可进行语音交互的物联网设备、云基础设施服务、自动驾驶汽车、无人机、机器人。 公司:Graphcore, Cerebras, Isocline Engineering, Google (TPU), NVIDIA (DGX-1), Nervana Systems (Intel), Movidius (Intel), Scortex 06 模拟环境 如前文所述,为AI系统生成训练数据通常是一个挑战。而且如果要能在现实世界应用,AI需要概括各种情况。因此,开发模拟真实世界物理和行为模型的数字环境需要能够衡量和训练AI通用能力的试验环境。在模拟环境中进行训练有助于我们更好的理解AI如何学习、如何改善自身,同时为我们提供了潜在的可以转换为真实应用的模型。 应用:学习驾驶、制造业、工业设计、游戏开发、智慧城市 公司:Improbable, Unity 3D, Microsoft (Minecraft), Google DeepMind/Blizzard, OpenAI, Comma.ai, Unreal Engine, Amazon Lumberyard *如需转载请在后台申请。 — END — >>>> (责任编辑:本港台直播) |