ThuCCSLab/Awesome-LM-SSP
این یک لیست جامع و منظم از منابع تحقیقاتی در حوزه ایمنی، امنیت و حریم خصوصی مدل‌های بزرگ زبانی (Large Language Models) است.
کاربرد:
این پروژه به محققان، توسعه‌دهندگان و علاقه‌مندان کمک می‌کند تا با آخرین پیشرفت‌ها، چالش‌ها و راهکارهای موجود در زمینه امنیت، ایمنی محتوا و حریم خصوصی در مدل‌های بزرگ آشنا شوند.
در چه شرایطی بهتره استفاده شود؟
وقتی قصد داری روی موضوعاتی مثل حملات تزریق پرامپت، نشان‌زدن مدل، سرقت داده‌های آموزشی یا کاهش محتوای مضر تحقیق کنی، این لیست یک نقطه شروع عالیه. همچنین برای توسعه سیستم‌های مبتنی بر LLM که نیاز به رعایت استانداردهای امنیتی و اخلاقی دارند، بسیار مفید است. ️
چند مثال از موارد استفاده:
- بررسی روش‌های مقابله با محتوای توهین‌آمیز یا نادرست در خروجی مدل‌ها
- تحلیل آسیب‌پذیری مدل‌ها در برابر حملات مبتنی بر داده (Data Poisoning)
- طراحی سیستم‌های تشخیص نفوذ یا سرقت هویت مدل (Model Stealing)
- مطالعه چارچوب‌های نظارتی و اخلاقی برای استفاده از مدل‌های بزرگ
- ##LLM
- ##AI
- ##Privacy
- ##Model
- ##Prompt
- ##Data
- ##Trustworthy
- ##AI
- ##Machine
- ##Responsible