BitNet
کاربرد: این پروژه یک پیادهسازی از مدل BitNet در PyTorch است که هدف آن کاهش مصرف حافظه و افزایش سرعت محاسبات در مدلهای زبان بزرگ (LLM) با استفاده از وزنهای 1 بیتی است. به جای استفاده از وزنهای ممیز شناور (مثل float32 یا float16)، BitNet از وزنهای دودویی (±1) استفاده میکند که باعث کاهش چشمگیر نی ...
