نموذج مويراي 2.0: ثورة جديدة في مجال التنبؤ بالمتسلسلات الزمنية من سيلزفورس

يُعلن قسم أبحاث الذكاء الاصطناعي في سيلزفورس عن إطلاق نموذج مويراي 2.0، وهو أحدث إنجاز في عالم نماذج المتسلسلات الزمنية الأساسية. بُني هذا النموذج على بنية مُحوّل فك التشفير فقط (Decoder-only Transformer)، ويُحدد معيارًا جديدًا للأداء والكفاءة، حيث حاز على المركز الأول في معيار GIFT-Eval، وهو المعيار الذهبي لتقييم نماذج التنبؤ بالمتسلسلات الزمنية.

مميزات نموذج مويراي 2.0 المميزة:

ابتكارات في البنية:

  • محول فك التشفير فقط (Decoder-only Transformer): يُمكّن التحول من مُشفّر مُقنّع إلى مُحوّل فك تشفير فقط نموذج مويراي 2.0 من نمذجة توليد التنبؤات التلقائية بشكل أفضل، مما يُعزز القابلية للتطوير والأداء على مجموعات بيانات أكبر وأكثر تعقيدًا.
  • التنبؤ بكفاءة متعددة الرموز: من خلال التنبؤ بعدة رموز في وقت واحد (بدلاً من رمز واحد فقط)، يحقق النموذج كفاءة واستقرارًا أكبر أثناء عملية التنبؤ.
  • فلترة البيانات المتقدمة: يتم تصفية المتسلسلات الزمنية منخفضة الجودة وغير قابلة للتنبؤ تلقائيًا أثناء التدريب، مما يُحسّن من المتانة.
  • ترميز مُجزّأ للرموز (Patch Token Embedding) والتمويه العشوائي: تقنيات جديدة لترميز معلومات القيم المفقودة والمتانة في حالة البيانات غير المكتملة أثناء الاستنتاج.

مجموعة بيانات موسعة للتدريب المسبق:

يستفيد مويراي 2.0 من مزيج أغنى من بيانات التدريب:

  • مجموعات بيانات حقيقية مثل GIFT-Eval.
  • بيانات تدريب Chronos المختلطة: متسلسلات زمنية اصطناعية مُدمجة من أجل التنوع.
  • إجراءات KernelSynth من أبحاث Chronos.
  • بيانات تشغيلية داخلية من أنظمة تكنولوجيا المعلومات في سيلزفورس.

تُمكّن هذه الأساس الواسع من البيانات مويراي 2.0 من التعميم عبر العديد من مهام التنبؤ والمجالات.

الأداء: إنجازات جديدة:

يُمثّل مويراي 2.0 نقلة نوعية عن أسلافه:

  • أفضل درجة MASE على GIFT-Eval للنماذج غير المُسرّبة للبيانات (مقاييس مُعتمدة في الصناعة لدقة التنبؤ).
  • أداء CRPS يُطابق أحدث تقنيات التنبؤ.
  • مقارنةً بنموذج مويراي الكبير:
    • تحسين بنسبة 16% في MASE.
    • تحسين بنسبة 13% في CRPS.
    • سرعة استنتاج أسرع بنسبة 44%.
    • حجم المعلمات أصغر بنسبة 96%.

تُسهّل هذه النتائج التنبؤ عالي الأداء والقابل للتطوير لجمهور أوسع.

أهمية مويراي 2.0 للممارسين:

تتجاوز إمكانيات مويراي 2.0 المعايير الأكاديمية لتشمل المجالات الحاسمة في المؤسسات، مثل:

  • عمليات تكنولوجيا المعلومات: التحجيم الاستباقي للقدرة، والكشف عن الشذوذ.
  • التنبؤ بالمبيعات: تنبؤات دقيقة وقابلة للتطوير بالإيرادات.
  • التنبؤ بالطلب: إدارة المخزون المُحسّنة.
  • تخطيط سلسلة التوريد: جدولة أفضل، وتقليل الهدر.
  • والكثير من العمليات التجارية القائمة على البيانات.

بفضل حجم النموذج المُقلّص بشكل كبير وسرعته المُحسّنة، يمكن الآن تطبيق التنبؤ عالي الجودة على نطاق واسع، مما يُمكّن الشركات من اتخاذ قرارات أذكى وأسرع بغض النظر عن بنيتها التحتية للبيانات.

البدء باستخدام مويراي 2.0:

التكامل سلس للمطورين وعلماء البيانات. إليك مثال على سير العمل النموذجي، باستخدام الوحدات مفتوحة المصدر المتوفرة على Hugging Face:

import matplotlib.pyplot as plt
from gluonts.dataset.repository import dataset_recipes
from uni2ts.eval_util.data import get_gluonts_test_dataset
from uni2ts.model.moirai2 import Moirai2Forecast, Moirai2Module

model = Moirai2Forecast(
    module=Moirai2Module.from_pretrained("Salesforce/moirai-2.0-R-small"),
    prediction_length=100,
    context_length=1680,
    target_dim=1,
    feat_dynamic_real_dim=0,
    past_feat_dynamic_real_dim=0
)

test_data, metadata = get_gluonts_test_dataset("electricity", prediction_length=None, regenerate=False)
predictor = model.create_predictor(batch_size=32)
forecasts = predictor.predict(test_data.input)

# Example visualization
fig, axes = plt.subplots(nrows=2, ncols=3, figsize=(25, 10))
# Use Moirai plotting utility to display forecasts

يوفر موقع سيلزفورس أمثلة كاملة وروابط لدفاتر ملاحظات لأبحاث أعمق.

نموذج شامل، قابل للتطوير، ومتين:

من خلال تمكين الوصول إلى تقنية التنبؤ متعددة الأغراض والمتطورة، يُعد مويراي 2.0 جاهزًا لإعادة تشكيل مشهد نماذج المتسلسلات الزمنية. بفضل مرونته عبر المجالات، ومتانته المُحسّنة، وسرعة الاستنتاج الأسرع، والمتطلبات الحسابية المنخفضة، يُمهد نموذج أبحاث الذكاء الاصطناعي في سيلزفورس الطريق للشركات والباحثين على مستوى العالم للاستفادة من قوة التنبؤ لاتخاذ قرارات تحويلية.

يمكنكم زيارة الرابط التقني و [Hugging Face](رابط Hugging Face) للاطلاع على المزيد من التفاصيل. كما ندعوكم لزيارة صفحة [GitHub](رابط GitHub) لدينا لمشاهدة المزيد من الدروس البرمجية ودفاتر الملاحظات. تابعونا أيضًا على [Twitter](رابط Twitter) وانضموا إلى مجتمعنا على [Reddit](رابط Reddit) واشتركوا في [نشرتنا الإخبارية](رابط النشرة الإخبارية).

المصدر: MarkTechPost