现在，仅仅加速推理的初代 TPU 已经不能满足谷歌的需求。神经网络的“训练”部分——也是对计算量需求最大最多最重要的部分，谷歌此前还是依赖市售的 CPU/GPU。而显然，这些也已经无法满足谷歌的需求。

　　现在，Pichai 在 2017 谷歌 I/O 大会宣布的第二代 TPU，既能够加速推理，也能够加速训练。

　　第二代 TPU 设备单个的性能就能提供高达 180 teraflops 的浮点计算量。不仅如此，谷歌还将这些升级版的 TPU 集成在一起成为 Cloud TPU。每个 TPU 都包含了一个定制的高速网络，构成了一个谷歌称之为“TPU pod”的机器学习超级计算机。一个TPU pod 包含 64 个第二代TPU，最高可提供多达 11.5 petaflops，加速对单个大型机器学习模型的培训。

　　Pichai 还在演讲中表示，使用 TPU pods，谷歌已经大幅提升了训练神经网络的时间。谷歌的一个新的大型翻译模型，以前要 32 颗商业上最好的 GPU 花费一整天的时间来训练——现在，只需一个下午，8 个第二代 TPU 就能达到同样的训练精度。

　　依然奉行保密主义，升级版的 TPU 具体设计架构也用散热片挡住。

　　现在，第二代升级版 TPU 已经在谷歌数据中心部署使用——这不禁让人想起去年，谷歌也是在使用初代 TPU 一年多以后才公开宣布 TPU 的存在——每个“TPU pod”都包含了 64 个第二代 TPU，最高速度能达到 11.5 petaflops 的加速度。

　　谷歌将新的 TPU 引入云端，作为 Google Compute Engine 的一部分，将其称之为 Cloud TPU。你可以把这个 Cloud TPU 想象成一台超级计算机，能够连接其他类型的硬件（包括英特尔 Skylake CPU 和英伟达的 GPU）。显然，谷歌在这里仍然向英特尔和英伟达示好，表示不会抛开市售 CPU/GPU。

　　而 Cloud TPU 带来的最大好处，则是谷歌的开源机器学习框架 TensorFlow。TensorFlow 现在已经是 Github 最受欢迎的深度学习开源项目，可以想象，Cloud TPU 出现以后，开发人员和研究者使用高级 API 编程这些 TPU，这样就可以更轻松地在CPU、GPU 或 Cloud TPU 上训练机器学习模型，而且只需很少的代码更改。

　　此前，计算机体系结构宗师 David Patterson 宣布加入谷歌 TPU 团队，并且表示谷歌没有解散团队，看来就是在为研发第二代 TPU。

　　Sundar Pichai 在演讲中提到，谷歌将免费开放 1000 台 Cloud TPU 供开发者和研究人员使用，并且推出了 TensorFlow Research Cloud。地址：https://www.tensorflow.org/tfrc/

　　相信，TensorFlow 作为开源机器学习/深度学习框架，其受欢迎程度又会有一个明显的提升。

　　作为谷歌云的主管之一，李飞飞在随后的开发者Keynote上也介绍了谷歌的新TPU。她说，打造 AI 专业技能，是一项重要的投资。我加入谷歌正是出于这一原因，希望能保证每一个人都能利用AI，来保持自己的竞争力， 来解决对自己来说重要的问题。TPU只是其中的一部分。更多的是如何让计算整件事民主化。对于大多数人来说，谷歌云让这些难以获得的硬件资源变得可用了。

　　除了TPU，李飞飞还介绍了TensorFlow 研究云平台。下图有试用地址：

　　谷歌AI 大一统：Google.AI

　　Sundar Pichai 在演讲中提到，谷歌将会把自己所有的AI相关事务集合到一个网站Google.AI 上。

　　他说，这一平台主要关注三件事：研究、工具和应用。

　　机器学习的自动化：AutoML

　　为了简化构建机器学习算法的概念，他们开发了 AutoML——一种能够帮助开发者构建自己的机器学习神经网络的模型，一种帮助机器“学习如何学习”的工具。

　　Google Assistant 可用于 iPhone