webonnx/wonnx
یک زمان اجرای استنتاج ONNX با شتاب WebGPU که کاملاً با زبان Rust نوشته شده و برای استفاده در محیط‌های وب و نیتیو آماده است.
کاربرد:
این پروژه امکان اجرای مدل‌های یادگیری ماشین (به فرمت ONNX) را با سرعت بالا در مرورگر و همچنین در برنامه‌های نیتیو فراهم می‌کند. با استفاده از WebGPU و Rust، عملیات محاسباتی سنگین مدل‌های هوش مصنوعی را به‌صورت کارآمد اجرا می‌کند.
در چه شرایطی بهتره استفاده شود؟
وقتی نیاز داری مدل‌های هوش مصنوعی را بدون وابستگی به سرور، مستقیماً در مرورگر کاربر اجرا کنی — مثل پردازش تصویر، تحلیل متن یا تشخیص صدا در real-time. همچنین برای توسعه‌دهندگانی که به دنبال عملکرد بالا و کنترل بیشتر روی زیرساخت استنتاج هستند، عالیه.
چند مثال از موارد استفاده
- اجرای مدل‌های تشخیص چهره در مرورگر بدون ارسال تصویر به سرور
- پردازش زبان طبیعی (NLP) برای چت‌بات‌های آفلاین
- تحلیل تصاویر پزشکی در دستگاه کاربر با حفظ حریم خصوصی
- بازی‌های هوشمند با هوش مصنوعی داخلی که در GPU دستگاه اجرا می‌شود
- ##WebGPU
- ##Rust
- ##ONNX
- ##AIinBrowser
- ##MachineLearning
- ##WebAI
- ##InferenceEngine
- ##WASM
- ##PrivacyFirst
- ##EdgeComputing