容器里的 GPU 显存、CPU 内存与共享内存
容器里的 GPU 显存、CPU 内存与共享内存
难度:入门。本文为中文技术整理,保留来源中的技术边界;示例只用于阅读,未在本服务器执行。
GPU OOM、CPU OOM 和 /dev/shm 不足不是同一种故障。模型和 batch 主要消耗显存,DataLoader 多进程可能消耗共享内存,数据缓存又可能挤压 CPU 内存。应分开观察。
示例
services:
train:
shm_size: "8gb"
来源
- https://docs.docker.com/compose/how-tos/gpu-support/
容器里的 GPU 显存、CPU 内存与共享内存
https://blog.529808.xyz//archives/tech-1d0533d07943