用 Docker 分开训练、评估和推理
用 Docker 分开训练、评估和推理
难度:进阶。本文为中文技术整理,保留来源中的技术边界;示例只用于阅读,未在本服务器执行。
训练服务需要 GPU、数据和 checkpoint;评估服务需要固定数据和指标;推理服务只保留运行依赖。健康检查要区分进程存活、依赖可用和模型就绪。
示例
services:
inference:
volumes:
- ./models:/models:ro
environment:
MODEL_PATH: /models/model.pt
来源
- https://docs.docker.com/compose/how-tos/use-docker-compose-in-production/
用 Docker 分开训练、评估和推理
https://blog.529808.xyz//archives/tech-44a3cc645a42