natolambert/rlhf-book
این یک کتاب درسی درباره یادگیری تقویتی از بازخورد انسان (Reinforcement Learning from Human Feedback) است.
کاربرد:
این کتاب به درک عمیق‌تر از روش‌هایی می‌پردازد که در آن‌ها مدل‌های یادگیری ماشین با استفاده از بازخورد مستقیم انسان آموزش داده می‌شوند، به‌ویژه در حوزه‌هایی مثل پردازش زبان طبیعی و رباتیک.
در چه شرایطی بهتره استفاده شود؟
وقتی می‌خواهید مدل‌های هوش مصنوعی را با تعامل انسان همسو کنید، مثلاً برای تولید متن مناسب، اخلاقی و مفید، یا زمانی که آموزش با پاداش‌های دستی سنتی دشوار است.
چند مثال از موارد استفاده:
آموزش چت‌بات‌های هوشمند با استفاده از انتخاب‌های کاربران
بهبود پاسخ‌های مدل‌های زبانی با رأی‌دهی انسان
کنترل ربات‌ها با نشانه‌های بازخورد از اپراتور انسانی
- ##RLHF
- ##ReinforcementLearning
- ##AIAlignment
- ##HumanFeedback
- ##NLP
- ##MachineLearning
- ##EthicalAI
- ##Chatbots
- ##Textbook
- ##AI