谷歌开源更快、更高效的 TensorFlow 运行时 TFRT

TensorFlow 官方博客宣布开源新的运行时 TFRT，该运行时提供了统一的、可扩展的基础结构层，并在各类硬件上均具有高性能。

TFRT 产品经理 Eric Johnson 表示，TFRT 将取代现有的 TensorFlow 运行时。原有的 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。与之相比，新的运行时将急切的执行需求放在第一位，同时特别强调架构的可扩展性和模块化。

它能够很好地满足开发复杂模型时寻求更快的迭代时间的开发者需求、在训练和服务生产模型时改进性能的需求，以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。

简单来讲，TFRT 可以减少开发、验证和部署企业级模型所需的时间。

TFRT 利用了 eager 和图形执行的通用抽象，为了获得更好的性能，其图执行器支持并发执行操作和异步 API 调用。在性能测试中，与 TensorFlow 当前的运行时相比，TFRT 将经过训练的 ResNet-50 模型（一种流行的图像识别算法）在图形卡上的推理时间缩短了 28%。

TFRT 仍处在早期开发阶段，它已经与 TensorFlow 集成，最终将成为其默认运行时。

关于 TFRT 的更多信息，可查看 TensorFlow 官方博客：

https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html