文件名称：运行时：TensorFlow的高性能和模块化运行时
文件大小：15.2MB
文件格式：ZIP
更新时间：2024-03-04 02:06:24
MLIR
TFRT：新的TensorFlow运行时 TFRT是新的TensorFlow运行时。 它旨在为各种特定领域的硬件提供具有同类最佳性能的统一，可扩展的基础架构层。 它提供了对多线程主机CPU的有效利用，支持完全异步的编程模型，并专注于低级效率。 TFRT将使广泛的用户受益，但是如果您是： 研究人员希望尝试复杂的新模型并向TensorFlow添加自定义操作 应用程序开发人员在生产中提供模型时寻求改进的性能 硬件制造商希望将硬件插入TensorFlow，包括边缘和数据中心设备 ...或者您只是对很酷的ML基础架构和低级运行时技术感到好奇！ 要了解有关TFRT早期进展和胜利的更多信息，请查看我们的，其中我们提供了基于ResNet 50的小批量GPU推理的性能基准，以及，其中我们提供了TFRT的详细概述核心组件，低级抽象和一般设计原则。 注意： TFRT是一个早期项目，尚未准备通用。 入门