文件名称:Kubernetes集群的GPU共享调度程序-Golang开发
文件大小:7.35MB
文件格式:ZIP
更新时间:2024-06-15 09:24:01
Golang Miscellaneous
Kubernetes中的GPU共享调度程序扩展器概述越来越多的数据科学家在Kubernetes上运行基于Nvidia GPU的推理任务。 其中一些任务可以在同一Nvidia GPU设备上运行,以增加Kubernetes中的GPU Sharing Scheduler Extender。概述越来越多的数据科学家在Kubernetes上运行其基于Nvidia GPU的推理任务。 其中一些任务可以在同一Nvidia GPU设备上运行,以提高GPU利用率。 因此,一项重要的挑战是如何在Pod之间共享GPU。 社区对此主题也非常感兴趣。 现在在本地Kubernetes上有一个GPU共享解决方案:它基于调度程序扩展器和设备插件机制,因此您可以重复使用此解决方案