پروژه alibi-detect

SeldonIO/alibi-detect

کاربرد:

این ابزار برای تشخیص داده‌های پرت (outlier)، حملات مخرب (adversarial attacks) و تغییرات در توزیع داده‌ها (drift detection) در مدل‌های یادگیری ماشین استفاده می‌شه. ️

با استفاده از الگوریتم‌های پیشرفته، به تو می‌گه که آیا داده‌های جدید ورودی به مدل، غیرعادی هستند یا تغییری در محیط مدل رخ داده.

در چه شرایطی بهتره استفاده شود؟

وقتی مدل‌های هوش مصنوعی در محیط‌های واقعی استفاده می‌شن، داده‌ها ممکنه با گذشت زمان تغییر کنن یا کاربران سعی کنن با ورود داده‌های فریب‌دهنده، مدل رو فریب بدن. ️‍️

این کتابخونه توی این شرایط مفیده:

- وقتی می‌خوای مطمئن بشی مدل دیگه داره خوب کار می‌کنه یا نه.

- وقتی نگران حملات هوشمند به سیستم‌هات هستی.

- وقتی داده‌های ورودی ممکنه با زمان تغییر کنن (مثل تغییر سلیقه کاربران در سیستم‌های توصیه‌گر).

چند مثال از موارد استفاده

تشخیص تقلب در تراکنش‌های بانکی با پیدا کردن داده‌های غیرعادی.

نظارت بر مدل‌های تشخیص تصویر برای فهمیدن اینکه آیا تصاویر فریب‌دهنده ارسال شده یا نه.

تشخیص تغییر در داده‌های حسگرها در سیستم‌های صنعتی یا خودروهای خودران.

نظارت بر مدل‌های پیش‌بینی فروش که ممکنه به دلیل تغییر فصل یا روند بازار دچار انحراف بشن.