نرم‌افزارهای تولیدشده توسط هوش مصنوعی در نیمی از موارد ناامن هستند
گزارش جدید نشان می‌دهد نزدیک به نیمی از کدهایی که توسط مدل‌های هوش مصنوعی نوشته شده‌اند، دارای آسیب‌پذیری‌های امنیتی جدی هستند.
به گزارش تکراتو و به نقل از slashdot، گزارش تازه‌ای از سوی شرکت Veracode درباره امنیت کدهای تولیدشده توسط هوش مصنوعی منتشر شده که نگرانی‌هایی جدی را درباره آینده توسعه نرم‌افزار با استفاده از این فناوری مطرح می‌کند.
در این گزارش که با عنوان گزارش امنیت کدهای تولیدی توسط هوش مصنوعی در سال ۲۰۲۵ ارائه شده، بررسی ۸۰ وظیفه برنامه‌نویسی مختلف که توسط بیش از ۱۰۰ مدل زبانی بزرگ انجام شده، نشان داده که حدود ۴۵ درصد از کدهای تولیدشده دارای ایرادات امنیتی بوده‌اند.
این درصد بالایی است و فقط مربوط به خطاهای کوچک برنامه‌نویسی نیست. بسیاری از این نقص‌ها در دسته‌بندی OWASP Top 10 قرار می‌گیرند که شامل مهم‌ترین و خطرناک‌ترین آسیب‌پذیری‌های امنیتی در برنامه‌های تحت وب است.
نکته نگران‌کننده‌تر اینکه وقتی به مدل‌های هوش مصنوعی فرصت انتخاب بین نوشتن کد ایمن یا ناامن داده شده، در نیمی از موارد گزینه اشتباه را انتخاب کرده‌اند.
این یافته‌ها نشان می‌دهد با وجود پیشرفت سریع هوش مصنوعی در زمینه برنامه‌نویسی، هنوز هم به نظارت انسانی دقیق نیاز دارد و نمی‌توان بدون بررسی و کنترل، به کدهای تولیدشده توسط آن اعتماد کامل داشت.