sicara/tf-explain
این ابزار به تو کمک می‌کنه تا مدل‌های tf.keras رو در TensorFlow 2.x بهتر درک کنی و بفهمی چطور تصمیم‌گیری می‌کنن.
کاربرد:
این کتابخونه روش‌های مختلفی برای تفسیرپذیری مدل‌های یادگیری عمیق ارائه می‌ده، مثل نمایش اینکه کدوم قسمت‌های ورودی (مثلاً تصاویر) بیشترین تأثیر رو روی خروجی مدل داشتن. ️
در چه شرایطی بهتره استفاده شود؟
وقتی می‌خوای مدل‌های خودت رو تحلیل کنی، به‌خصوص در حوزه‌هایی مثل پزشکی، مالی یا هر جایی که نیاز داری بدونی مدل چرا یه تصمیم خاصی گرفته. همچنین برای آموزش و تدریس مفاهیم شبکه‌های عصبی عالیه.
چند مثال از موارد استفاده:
- دیدن اینکه کدوم قسمت‌های یه تصویر رو مدل بیشتر توجه کرده (مثلاً در تشخیص بیماری از عکس ریه)
- بررسی اهمیت ویژگی‌ها در یه مدل طبقه‌بندی متنی یا عددی
- نمایش گرادیان‌ها و فعال‌سازی‌های لایه‌ها برای اشکال‌زدایی مدل ️
- ##tf
- ##TensorFlow
- ##ModelInterpretability
- ##ExplainableAI
- ##DeepLearning
- ##MachineLearning
- ##AI
- ##XAI
- ##NeuralNetworks
- ##TF