iCreatAI News
跳到正文
NVIDIA Technical Blog· Elizabeth Goodman·· 5 天前AI 评分35

NVIDIA CUDA 13.4 如何在 Kubernetes 中实现内存强制的 GPU 共享

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

AI 导读

NVIDIA CUDA 13.4 支持在 Kubernetes 中对 GPU 进行内存强制隔离的共享,让多个 AI 工作负载共用同一块 GPU 而不必各占整卡。NVIDIA GPU 已支持多种共享方式,其中 MIG 可将 GPU 拆分为对应用透明的硬件隔离实例。

来源:NVIDIA Technical Blog · developer.nvidia.com