על פי הדיווחים, קצה השבב במעלה הזרם של NVIDIA AI GPU H200 נכנס לתקופת הייצור ההמונית בשלהי Q2 המאוחר וצפוי להימסר בכמויות גדולות לאחר הרבעון השלישי.אולם לוח זמנים ההשקה של פלטפורמת NVIDIA Blackwell הוא לפחות רבעים אחד עד שניים לפני לוח הזמנים, מה שמשפיע על נכונותם של לקוחות הקצה לרכוש H200.
שרשרת האספקה מציינת כי נכון לעכשיו, הזמנות הלקוח המחכות למשלוח עדיין מרוכזות ברובם בארכיטקטורת HGX של H100, עם חלק מוגבל של H200.ברבעון השלישי, ה- H200 שייקבע ומועבר המוני הוא בעיקר nvidia dgx h200;באשר ל- B100, יש לה כבר נראות חלקית והיא צפויה להישלח במחצית הראשונה של השנה הבאה.
כמוצר שדרוג איטרטיבי של H100 GPU, H200 מאמצת לראשונה טכנולוגיית זיכרון רוחב פס HBM3E HBM3E לראשונה על בסיס ארכיטקטורת הופר מתקדמת, השגת מהירות העברת נתונים מהירה יותר ויכולת זיכרון גדולה יותר, במיוחד מראה יתרונות משמעותיים ליישומי מודל שפה רחבי היקף.על פי נתונים רשמיים שפרסמה NVIDIA, כאשר מתמודדים עם מודלים מורכבים בשפה גדולה כמו LLAMA2 של מטא, H200 יש שיפור מקסימאלי של 45% במהירות התגובה לתפוקה של AI בהשוואה ל- H100.
H200 ממוקם כתוצר נוסף של אבן דרך של NVIDIA בתחום מחשוב AI, לא רק שירש את היתרונות של H100, אלא גם משיג פריצות דרך משמעותיות בביצועי הזיכרון.עם היישום המסחרי של H200, הביקוש לזיכרון רוחב פס גבוה צפוי להמשיך לעלות, מה שיניע עוד יותר את פיתוח כל שרשרת התעשייה לחומרי חומרה מחשוב AI, במיוחד הזדמנויות השוק עבור ספקים הקשורים ל- HBM3E.
ה- B100 GPU יאמץ טכנולוגיית קירור נוזלים.פיזור החום הפך לגורם מפתח בשיפור ביצועי השבבים.ה- TDP של NVIDIA H200 GPU הוא 700W, ואילו מעריכים באופן שמרני כי ה- TDP של B100 קרוב לקילוואט.קירור אוויר מסורתי אולי לא יוכל לעמוד בדרישות פיזור החום במהלך פעולת השבבים, וטכנולוגיית פיזור החום תוחזר באופן מקיף לקירור נוזלים.
מנכ"ל NVIDIA הואנג רנקון הצהיר כי החל מ- B100 GPU, טכנולוגיית הקירור של כל המוצרים בעתיד תעבור מקירור אוויר לקירור נוזלי.Galaxy Securities מאמינה כי B100GPU של NVIDIA יש לפחות פי שניים מהביצועים של H200 והוא יעלה על פי ארבעה מזה של H100.השיפור בביצועי השבבים נובע בחלקו מתהליכים מתקדמים, ומצד שני, פיזור החום הפך לגורם מפתח בשיפור ביצועי השבבים.ה- TDP של ה- H200 GPU של NVIDIA הוא 700W, אשר מוערך באופן שמרני קרוב לקילוואט.קירור אוויר מסורתי עשוי שלא להיות מסוגל לענות על צרכי פיזור החום במהלך פעולת השבבים, וטכנולוגיית פיזור החום תוחלל באופן מלא לקראת קירור נוזלים.
