"נבנה לדמוקרטיזציה של בינה מלאכותית עם טריליון פרמטרים."
בכנס הטכנולוגיה GTC 2024 של חברת אנבידיה (Nvidia) חשף מנכ"ל החברה ג'נסן הואנג את הדור הבא בארכיטקטורת שרתי לימוד מכונה-Blackwell B200.
ה-Blackwell B200 החדש מציע עד 20 פטהפלופס (Petaflops) עם ביצועים של פי 30 עבור עומסי עבודה של לימוד מכונה והפחתה משמעותית של צריכת אנרגיה:
הסופר-שבב NVIDIA GB200 Grace Blackwell מחבר בין שני GPUs מדגם NVIDIA B200 Tensor Core, יחד עם CPU מדגם NVIDIA Grace בחיבור שבב-אל-שבב של 900 גיגה-בייט לשנייה. כך, GB200 מציע שיפור של עד פי 30 בביצועים בהשוואה ל-NVIDIA H100 עבור הסקה במודלי שפה גדולים, ומפחית את צריכת האנרגיה עד פי 25.
בהודעה לעיתונות אנבידיה אמרה שאחד השיפורים העיקריים הוא מנוע שנאי מהדור השני שמכפיל את המחשוב, רוחב הפס וגודל הדגם על ידי שימוש בארבע סיביות לכל נוירון במקום שמונה (ולכן, 20 הפטפלופים של FP4 שהוזכרו קודם לכן). מתג NVLink מהדור הבא מאפשר ל-576 GPUs לדבר זה עם זה, עם 1.8 טרה-בייט לשנייה של רוחב פס דו-כיווני.
כל זה דרש מאנבידה לבנות שבב מיתוג רשת חדש לגמרי, אחד עם 50 מיליארד טרנזיסטורים וחלק ממחשבים מובנה משלה: 3.6 טרפלופ של FP8. במדד GPT-3 LLM עם 175 מיליארד פרמטרים, אנבידיה טוענת של-GB200 יש ביצועים צנועים יותר פי שבעה מהביצועים של H100 והוא מציע פי 4 יותר במהירות הלימוד מכונה.
החברה בונה על חברות שיקנו כמויות גדולות של GPUs אלה, ואורזת אותם בעיצובים גדולים יותר, כמו GB200 NVL72, שמחברים 36 יחידות ו-72 יחידות לתוך מתלה אחד מקורר נוזלים בכדי לקבל בטוטאל 720 פטפלופס של ביצועי אימון בינה מלאכותית או 1,440 פטפלופים (1.4 אקספלופס) שיתחברו באמצעות 5,000 כבלים בודדים.
אנבידיה הודיעה שאמזון, גוגל, מיקרוסופט ואורקל כבר מתכננות לשלב את מערכות ה-NVL72 בהיצע שירותי הענן שלהן, אך לא ידוע על איזו כמות מדובר.
באשר לכרטיסי מסך למשחקים, לא שמענו משהו חדש בנושא זה, בכל זאת מדובר בכנס הטכנולוגיה של Nvidia, שבדרך כלל מתמקדת לחלוטין במחשוב ארגוני וב-AI, לא במשחקים. אבל סביר להניח שארכיטקטורת ה-Blackwell תניע גם שורה עתידית של כרטיסי מסך מסדרת RTX 50.
כתבות באותו נושא:
- בזכות ה-AI: אנבידיה שווה כבר 2 טריליון דולר
- אנבידיה הכריזה על כרטיס המסך NVIDIA RTX 2000
- מנכ"ל אנבידיה: AI יתחרה בבני אדם בעוד 5 שנים
- אנבידיה השיקה צ'אט עם RTX – צ'אט בוט AI הניתן להתאמה אישית
לקינוח, שיתפה החברה שקף 'אנבידיה ישראל' המעורר גאווה לאומית, במיוחד בימים אלה:
