پروژه distiller

IntelLabs/distiller

کاربرد:

این ابزار یک بستهٔ پایتونیه که توسط آزمایشگاه هوش مصنوعی اینتل ساخته شده و به محققان کمک می‌کنه تا شبکه‌های عصبی رو فشرده کنن. این فشرده‌سازی باعث کاهش حجم مدل، مصرف کمتر حافظه و انرژی و اجرای سریع‌تر مدل‌ها میشه — بدون اینکه عملکردشون خیلی کم شود.

در چه شرایطی بهتره استفاده شود؟

وقتی که می‌خوای یک مدل بزرگ عصبی رو روی دستگاه‌های کم‌منبع مثل موبایل یا IoT اجرا کنی، این ابزار خیلی مفیده. همچنین برای تحقیقات در زمینه‌های کوانتیزه کردن وزن‌ها، حذف نرون‌های غیرضروری (pruning) و انتقال دانش از مدل بزرگ به کوچک (knowledge distillation) مناسبه.

چند مثال از موارد استفاده

- فشرده‌سازی یک مدل BERT برای استفاده در دستگاه‌های همراه

- کاهش اندازهٔ یک مدل تصویر ResNet برای اجرای آنلاین در دوربین‌های هوشمند

- تحقیق در روش‌های جدید کوانتیزاسیون برای مدل‌های یادگیری عمیق