【新智元导读】谷歌公布 TPU 论文（被ISCA-17 接收）引发新一轮讨论，连英伟达CEO黄仁勋都亲自撰文回应。使用 TPU 代表了谷歌为其人工智能服务设计专用硬件迈出的第一步，为特定人工智能任务制造更多的专用处理器很可能成为未来的趋势。TPU 推理性能卓越的技术原理是什么，TPU 出现后智能芯片市场格局又会出现哪些变化？中国在智能芯片市场上的位置如何？

　　中科院计算所研究员包云岗指出，计算机体系结构旗舰年会ISCA是各大公司展示硬实力的舞台，每年的关键技术对信息产业的推动作用不容忽视。寒武纪创始人兼CEO陈天石指出，需要密切注意谷歌 TPU 给智能领域带来的新生态，j2直播，“是与之融合，还是与之抗衡，是每个芯片公司需要考虑的问题”。

　　如果说现在是 AI 走出实验室，走进三百六十行纷纷落地的时代，那么支撑这场技术应用大浪潮的背后，正是芯片、硬件行业的茁壮发展和惨烈竞争。要将一款芯片研发出来并且推向市场，需要几十亿乃至几百亿美元的巨资，更不用说这伴随的人力资源和研发时间。很多的项目都死掉了。而把握住并且乘上了深度学习这股浪潮的 GPU 巨头英伟达，现在是以季度乃至月为单位往外推出新品，其速度和效率令人咂舌。GPU 在深度学习市场势不可挡。

　　上周，谷歌公布了张量处理器（TPU）的论文——TPU 已经在谷歌数据中心内部使用大约两年，而且TPU 在推理方面的性能要远超过 GPU（“尽管在一些应用上利用率很低，但 TPU 平均比当前的 GPU 或 CPU 快15~30倍，性能功耗比高出约 30~80 倍”）——不啻一块巨石，在业内激起了又一波围绕深度学习专用加速器的热浪。TPU 的出现以及谷歌研发芯片这一举动本身，都对整个智能产业有着深远的意义。

　　任何一款新的芯片都值得我们关注，因为这影响着千千万万的应用和使用这些应用人。下面，我们从谷歌 TPU 的诞生讲起，全面回顾这款芯片及其出现在智能领域代表的新的趋势和重要意义。

　　TPU 诞生：从谷歌决定自己打造更高效的芯片说起

　　2011年，Google 意识到他们遇到了问题。他们开始认真考虑使用深度学习网络了，这些网络运算需求高，令他们的计算资源变得紧张。Google 做了一笔计算，如果每位用户每天使用3分钟他们提供的基于深度学习语音识别模型的语音搜索服务，他们就必须把现有的数据中心扩大两倍。他们需要更强大、更高效的处理芯片。

　　他们需要什么样的芯片呢？中央处理器（CPU）能够非常高效地处理各种计算任务。但 CPU 的局限是一次只能处理相对来说很少量的任务。另一方面，图像处理单元（GPU） 在执行单个任务时效率较低，而且所能处理的任务范围更小。不过，GPU 的强大之处在于它们能够同时执行许多任务。例如，如果你需要乘3个浮点数，CPU 会强过 GPU；但如果你需要做100万次3个浮点数的乘法，那么 GPU 会碾压 CPU。

　　GPU 是理想的深度学习芯片，因为复杂的深度学习网络需要同时进行数百万次计算。Google 使用 Nvidia GPU，但这还不够，他们想要更快的速度。他们需要更高效的芯片。单个 GPU 耗能不会很大，但是如果 Google 的数百万台服务器日夜不停地运行，那么耗能会变成一个严重问题。

　　谷歌决定自己造更高效的芯片。

　　TPU 首次公开亮相，号称“把人工智能技术推进 7 年”

　　2016年5月，谷歌在I/O大会上首次公布了TPU（张量处理单元），并且称这款芯片已经在谷歌数据中心使用了一年之久，李世石大战 AlphaGo 时，TPU 也在应用之中，并且谷歌将 TPU 称之为 AlphaGo 击败李世石的“秘密武器”。

　　作为芯片制造商的大客户，谷歌揭幕 TPU 对 CPU 巨头英特尔和 GPU 巨头英伟达来说都是不小的商业压力。为了适应市场趋势，英特尔和英伟达都在去年分别推出了适用于深度学习的处理器架构和芯片意欲扩张当下的市场份额，但看来“专用芯片”的需求比他们预计还要更深。

　　不仅如此，单是谷歌自己打造芯片的这一行为，就对芯片制造商构成了巨大影响。尤其是谷歌基础设施副总裁 Urs Holzle 在 2016 年的发布会上表示，使用 TPU 代表了谷歌为其人工智能服务设计专用硬件迈出的第一步，今后谷歌将设计更多系统层面上的部件，随着该领域逐渐成熟，谷歌“极有可能”为特定人工智能任务制造更多的专用处理器。

　　当时，Holzle 对 TechCrunch 记者说：“有些时候 GPU 对机器学习而言太通用了。”

　　显然，面向机器学习研发专用的处理器已经是芯片行业的发展趋势。

　　2016年谷歌首次公开TPU时给出的图片，当时出于保密考虑，关键部分都盖着散热片，看不出具体设计。