Oldpan/Pytorch-Memory-Utils
این ابزار به شما کمک می‌کنه تا مصرف حافظه در PyTorch رو در حین آموزش مدل‌های یادگیری عمیق رصد کنید ️️
با استفاده از این کتابخانه می‌تونید جلوی نشت حافظه (Memory Leak) رو بگیرید و عملکرد بهتری از GPU داشته باشید
کاربرد:
این ابزار برای ردیابی استفاده از حافظه GPU در طول آموزش مدل‌های پایتونی با PyTorch طراحی شده. به شما نشون می‌ده چه قسمت‌هایی از کد دارن حافظه زیادی مصرف می‌کنن و کجا باید بهینه‌سازی انجام بدید
در چه شرایطی بهتره استفاده شود؟
وقتی با خطاهای خروج از حافظه (CUDA out of memory) مواجه می‌شید، یا می‌خواید مدل‌تون رو بهینه کنید و بدون اتلاف منابع، آموزش بدید
همچنین برای توسعه‌دهندگانی که روی سخت‌افزارهای با حافظه محدود کار می‌کنن، عالیه
چند مثال از موارد استفاده:
- تشخیص نشت حافظه بعد از هر ایپاک آموزش
- مقایسه مصرف حافظه قبل و بعد از اضافه کردن یک لایه جدید
- بهینه‌سازی داده‌ها و تبدیلات (Transforms) در DataLoader
- رصد حافظه در حین استفاده از حلقه‌های پیچیده یا مدل‌های بزرگ مثل Transformer یا YOLO
- ##PyTorch
- ##MemoryOptimization
- ##DeepLearning
- ##GPUUsage
- ##ModelTraining
- ##CUDA
- ##AI
- ##MachineLearning
- ##CodeOptimization
- ##MemoryTracking