文件名称:TF2:基于FPGA的开源深度学习推理引擎
文件大小:17.78MB
文件格式:ZIP
更新时间:2024-06-13 19:30:49
fpga deep-learning opencl inference cnn
浪潮深度学习推理加速器TF2 TF2社区 TF2 TF2是由浪潮AI和HPC开发的基于FPGA计算平台的深度学习推理加速器。 可以支持各种通用的深度神经网络。 我们提供的工具包可轻松将流行的深度学习框架(例如Pytorch,TensorFLow和Caffe)中的模型加载到TF2中。 无需任何代码级FPGA开发工作,就可以将经过预训练的深度学习模型编译到FPGA中,这对于FPGA上的AI推理应用而言可以是一种敏捷的解决方案。 有关我们的论文,请参见链接 :基于FPGA上模型压缩的深度学习推理加速器 TF2加速器由两部分组成:转换套件和运行时引擎。 TransForm套件 Transform Kit是用于模型优化和转换的工具,具有模型压缩,修剪和量化等模块。TransformKit旨在减小模型数据的大小并简化数学计算。 另外,还可以在转换套件中完成计算节点融合,以通过将多个计算节点集成为一个