Kubernetes集群的GPU共享调度程序-Golang开发

时间:2024-06-15 09:24:01
【文件属性】:

文件名称:Kubernetes集群的GPU共享调度程序-Golang开发

文件大小:7.35MB

文件格式:ZIP

更新时间:2024-06-15 09:24:01

Golang Miscellaneous

Kubernetes中的GPU共享调度程序扩展器概述越来越多的数据科学家在Kubernetes上运行基于Nvidia GPU的推理任务。 其中一些任务可以在同一Nvidia GPU设备上运行,以增加Kubernetes中的GPU Sharing Scheduler Extender。概述越来越多的数据科学家在Kubernetes上运行其基于Nvidia GPU的推理任务。 其中一些任务可以在同一Nvidia GPU设备上运行,以提高GPU利用率。 因此,一项重要的挑战是如何在Pod之间共享GPU。 社区对此主题也非常感兴趣。 现在在本地Kubernetes上有一个GPU共享解决方案:它基于调度程序扩展器和设备插件机制,因此您可以重复使用此解决方案


网友评论