הקרב על הקוד הפתוח: Llama 4 של מטא תכלול יכולות 'חשיבה' דומות ל-o1

מארק צוקרברג ממשיך במשימה שלו להפוך את מטא למובילה הבלתי מעורערת של עולם הקוד הפתוח בבינה מלאכותית. השבוע דלפו פרטים ראשונים על פיתוח ה-Llama 4, והם מצביעים על קפיצת מדרגה משמעותית: שילוב יכולות 'הסקת מסקנות' (Reasoning) בזמן אמת. המודל החדש לא רק ינבא את המילה הבאה, אלא 'יחשוב' לפני שהוא עונה, בדומה למודל o1 של OpenAI.

על פי הדיווח ב-The Neuron, מטא משקיעה משאבי מחשוב עצומים באימון המודל על דאטה-סטים של לוגיקה, מתמטיקה ותכנות מתקדם. המטרה היא לייצר מודל שיוכל לבצע 'Self-Correction' – כלומר, לבדוק את התשובות של עצמו ולתקן טעויות לפני שהן מוצגות למשתמש. זהו שינוי מרכזי מהמודלים הנוכחיים שלעיתים קרובות סובלים מהזיות (Hallucinations) בגלל חוסר ביכולת בקרה פנימית.

האסטרטגיה של מטא, כפי שנותחה ב-Stratechery, היא להפוך את הבינה המלאכותית המתקדמת ביותר לנגישה בחינם לקהילת המפתחים. בכך, מטא מקווה לקבוע את הסטנדרטים של התעשייה ולמנוע מ-OpenAI וגוגל לכלוא את השוק בתוך 'גנים סגורים'. אם Llama 4 אכן יציע ביצועים של מודל 'חשיבה' בקוד פתוח, המשמעות היא שכל סטארט-אפ יוכל לבנות סוכני AI חכמים להפליא ללא עלויות רישוי מטורפות.

בנוסף ליכולות החשיבה, Llama 4 צפוי להיות יעיל בהרבה בצריכת הזיכרון שלו, מה שיאפשר להריץ גרסאות 'מקוצצות' שלו אפילו על מחשבים ניידים חזקים וסמארטפונים. מטא מתכננת לשחרר את המודל במספר גדלים, כאשר הגרסה הגדולה ביותר צפויה לחצות את רף ה-500 מיליארד פרמטרים. ההשקה הרשמית מתוכננת למחצית השנייה של השנה, אך המפתחים כבר נערכים למה שנראה כרעידת האדמה הבאה בעולם ה-AI.