接下来，Google Research 的软件工程师 Noah Fiedel 就做了关于 TensorFlow Serving（serving 是指将训练好的模型应用到生产中的过程）的演讲。Fiedel 介绍说，serving 的目标是实现在线的、低延迟的应用，能将多个模型应用到单一一个流程中，可以随时间加载一个模型的多个版本，可以实时计算成本变化以满足产品需求（通过 CloudML、Docker & K8s 自动扩展），在训练时间通过 mini-batching 提高效率（除非有异步的要求）。而 TensorFlow Serving 就是一个专为生产环境设计的，用于机器学习模型的灵活高性能 serving 平台：https://tensorflow.github.io/serving

还在演讲后面介绍一种新技术 SavedModel，这是一种用于 TensorFlow 模型的通用的序列化格式（universal serialization format），已经包含在了 TensorFlow 1.0 中，其有两个重要功能：支持多个 MetaGraph（同时共享变量和 asset）和 SignatureDef。

其中 SignatureDef 定义了由 TensorFlow graph 所支持的计算的签名。

此外还有 Multi-headed Inference 和 Sequence Models 技术：

分布式 TensorFlow 也是一个值得关注的亮点，Google Research 的软件工程师 Derek Murray 带来了一个自底向上的关于分布式 TensorFlow 的介绍，并展示了所有可以用来利用这种力量的工具。我们为什么要使用分布式 TensorFlow 呢？随着技术和方法的不断发展，深度学习系统的规模也变得越来越大，对计算资源的要求也随之增长。为了应对这个问题，我们可以将计算分配给不同的 GPU 集群而并行地进行计算，从而减少计算时间。

我们需要分布式 TensorFlow 的情况是模型非常大的时候，比如谷歌的「」模型 和超大规模模型，现有的单个硬件可能无法将它装进去进行计算。

超大规模有多达 680 亿个参数

在具体的应用方面，Google Research 的软件工程师 Heng-Tze Cheng 介绍了用 TensorFlow 实现「宽度&深度学习」——将记忆（memorization）和归纳（generalization）结合到一起。参阅《》，该网络已经在 Google Play 上得到了应用。

TensorFlow 的高级 API，你需要 10 行代码就能实现一个这种类型的网络模型。

Google Research 的产品经理 Lily Peng 以视网膜成像为例介绍了 TensorFlow 在医疗领域的应用。机器之心之前已经有过介绍了《》。在谈到 TensorFlow 所发挥的作用时，Peng 介绍说 TensorFlow 的优点包括：快速的原型构建、支持大规模实验并且可以根据实际的应用所收集到的数据和标签重新训练模型。

此外，不久之前得以上 Nature 封面的癌症方面的研究也应用到了 TensorFlow。斯坦福大学的研究人员训练了一个可以诊断皮肤癌的算法。在论文中，他们展示了使用一个单一的深度卷积神经网络进行皮肤病变分类的过程，该网络仅使用像素和疾病标签作为输入，直接从图像中端到端地训练出来。测试结果显示深度卷积神经网络在这两个任务上的表现都达到了所有测试的专家的水平，证明了该人工智能的皮肤癌鉴定水平达到了媲美皮肤科医生的水平。配备该深度神经网络的移动设备可以让皮肤科医生的诊断拓展到临床之外。