onnx-tensorrt
کاربرد: این ابزار یک بکاند TensorRT برای مدلهای ONNX فراهم میکنه و بهینهسازی عملکرد استنتاج (inference) روی سختافزارهای NVIDIA GPU رو ممکن میسازه. در چه شرایطی بهتره استفاده بشه؟ وقتی میخوای مدلهای یادگیری عمیق رو با سرعت بالا و تأخیر کم روی دستگاههای مبتنی بر NVIDIA اجرا کنی، مثل سیستمهای ...
