وب‌سرویس مجید

پروژه datatable

h2oai/datatable

این یک بستهٔ پایتون برای کار با داده‌های جدولی دو بعدی است، مشابه pandas اما با تمرکز بر سرعت و کارایی بالا.

کاربرد:

سریع‌ترین کتابخانهٔ پردازش داده در پایتون است و برای خواندن، تبدیل و دستکاری حجم‌های بزرگ از داده‌های جدولی مناسب است. همچنین حافظه کمتری مصرف می‌کند.

در چه شرایطی بهتره استفاده شود؟

وقتی با داده‌های خیلی بزرگ (چند گیگابایت یا بیشتر) کار می‌کنید و نیاز به عملیات سریع مثل فیلتر، گروه‌بندی یا ادغام دارید. همچنین وقتی زمان اجرای کد مهم است، مثل پایپ‌لاین‌های داده در محیط تولید.

چند مثال از موارد استفاده

خواندن سریع فایل‌های CSV بزرگ (تا چند میلیارد ردیف)

پاک‌سازی داده در پایپ‌لاین‌های ETL

اجرای عملیات گروهی (groupby) روی داده‌های حجیم

ادغام جداول بزرگ با عملکرد بهتر از pandas

  • ##datatable
  • ##Python
  • ##DataScience
  • ##BigData
  • ##ETL
  • ##H2Oai
  • ##DataProcessing
  • ##HighPerformance
  • ##MachineLearning
  • ##DataEngineering