文件名称：特斯拉Dojo FP8、FP16数据规格
文件大小：683KB
文件格式：PDF
更新时间：2022-09-23 16:23:23
浮点数 fp8 fp16 tesla
A Guide to Tesla’s Configurable Floating Point Formats & Arithmetic 本标准规定了用于深度学习神经网络训练的计算机编程环境中新的 8 位和 16 位二进制浮点算法的特斯拉算法格式和方法。 本标准还规定了异常条件及其状态标志。 符合该标准的浮点系统的实现可以完全用软件、完全用硬件或软件和硬件的任意组合来实现。