这个库以TensorFlow或者Theano作为底层，这样可以使其用起来更加简单。Keras同时也有支持CNTK的计划。目前，把Keras融入到TensorFlow的工作正在进行中，而以后就会出现一个仅支持TensorFlow的独立的版本。

TF Learn

　　开发语言：Python

　　跟Keras一样，是一个基于TensorFlow的高级别的库。

FANN

　　开发语言：支持超过15种语言，但不支持GPU

　　这是一个使用C语言开发的高级别的开源库，仅可用于完全连接和稀疏连接的神经网络。然而，FANN却已经流行了很多年，甚至已经包含在一些Linux发行版中。Hackaday最近的一篇“通过强化学习来让机器人学习走路”中提到了关于FANN的使用。

Torch

　　开发语言：Lua

　　一款使用C语言开发的开源库。特别要注意的一点，在Rorch官网上特别注明了该框架支持嵌入式设备，例如iOS、Android和FPGA。

PyTorch

　　开发语言：Python

　　PyTorch相对来说还是比较新的，在其官网上注明了目前还属于早起的测试版，但似乎现在已经吸引了很多人的目光。它运行在Linux和OS X上，并以Torch作为底层。

　　你应该选择哪一个框架呢？除编程语言或者操作系统对你来说是影响选择的一个大问题，如果你觉得数学太难，或者不想深入地挖掘神经网络的细节，那么尽量选择一个高级的框架吧。在这种情况下，请远离TensorFlow，因为相对于Kera、TFLearn或者其他高级框架，你必须去学习更多的API函数。该框架在强调自身具有强大数学功能的同时，也需要你去花费更多的精力来创建神经网络。另外一个影响你选择框架的因素是你是否需要做基础研究，直播，一个高级框架可能不会让你能接触到内部逻辑。

　　在线服务

　　你是否正在寻找一种可用的神经网络库，但你又不想花费太多的时间去学习呢？这里有一些互联网在线服务可以满足你的要求。

　　我们已经看到了无数使用亚马逊Alexa语音识别服务的例子。Google也提供了包括视觉和语音的云机器学习服务。这方面的例子有：使用树莓派来对糖果进行排序，以及识别人类的表情。Wekinator是一款针对艺术家和音乐家的软件，它可用于训练神经网络，可以让人们用手势来控制屋内的电器的开关。当然了，微软也有自己的认知服务API，包括视觉、语音、语言等多个方面。

　　GPU和TPU

　　遍历一个神经网络

　　训练一个神经网络需要循环迭代访问整个神经网络，包括正向的和反向的，每次迭代都会提高神经网络的精度。从某种程度上来说，迭代的越多，最后的精度也越高。总的迭代次数可能会达到几百次甚至上千次。对于80、90年代的计算机来说，要实现足够多的迭代次数可能需要花费的不可思议的时间。文章“深度学习神经网络：概述”提到，在2004年，GPU的使用使得完全连接神经网络的速度提高了20倍，在2006年，卷积神经网络的速度提高了4倍，到2010年，使用CPU来训练的速度比使用GPU提高了50倍，神经网络的精度也越来越高。

　　Nvidia Titan Xp显卡。 图片来源： Nvidia

　　GPU是如何来提高训练的速度的呢？训练神经网络最重要的部分是做矩阵乘法运算，在这方面，GPU要比CPU快得多。显卡和GPU的市场领导者，Nvidia公司，创建了一套名叫CUDA的API，神经网络软件可以使用这套API来充分利用GPU。今后，我们会经常看到CUDA这个词。随着深度学习的发展，Nvidia公司又增加了不少API，包括CuDNN（用于深度神经网络的CUDA）。

　　Nvidia也有自己的单板计算机：Jetson TX2。该计算机主要用来设计自动驾驶汽车的大脑、自动拍照的无人机等等。当然，我们也要指出，这个电脑的价格还是有点高的。