המהפכה של אנבידיה: שבב ה-Inference החדש שישאיר את המתחרות מאחור
פורסם ב:
אנבידיה לא נחה על זרי הדפנה. בעוד שכולם דיברו על אימון מודלים (Training), ענקית השבבים עוברת להתמקד בדבר הגדול הבא: הסקת מסקנות (Inference). שבב ה-B300 החדש, שצפוי להיחשף רשמית השבוע, מציע שיפור של פי 10 בביצועים לכל וואט בהרצת מודלים גדולים. לפי הדיווחים ב-'The Information', אנבידיה הבינה שהשוק עובר משלב הפיתוח לשלב היישום, שבו חברות צריכות להריץ את ה-AI במיליארדי מכשירים ושרתים בעלות מינימלית. השבב החדש כולל 'מנוע הסקה' ייעודי שמסוגל לדחוס מודלים ללא איבוד דיוק, מה שמאפשר להריץ מודלים כבדים גם על חומרה מקומית. המהלך הזה הוא תשובה ישירה לניסיונות של חברות כמו אפל ואמזון לפתח שבבים משלהן. אם אנבידיה תצליח להוכיח שהחומרה שלה היא לא רק החזקה ביותר אלא גם היעילה ביותר כלכלית, היא תמשיך לשלוט בשוק השבבים ללא עוררין.