הצטרפו לקבוצות שלנו לקבלת עדכונים מרוכזים פעם בשבוע:

ווטסאפ:
http://wa.dwh.co.il
טלגרם:
http://telegram.dwh.co.il

NVIDIA הכריזה על  פלטפורמת NVIDIA Blackwell - המאפשרת לארגונים בכל מקום לבנות ולהריץ AI מחולל בזמן אמת על מודלים של שפות גדולות של טריליון פרמטרים בעלות וצריכת אנרגיה נמוכה עד פי 25 מזו שלה הקודם.

ארכיטקטורת ה-Blackwell GPU כוללת שש טכנולוגיות טרנספורמטיביות עבור מחשוב מואץ, שיסייעו לפתוח פריצות דרך בעיבוד נתונים, הדמיית הנדסה, אוטומציה של עיצוב אלקטרוני, תכנון תרופות בעזרת מחשב, מחשוב קוונטי ובינה מלאכותית יצירתית - כולם הזדמנויות חדשות בתעשייה עבור NVIDIA.

חידושי Blackwell 

שש הטכנולוגיות המהפכניות של Blackwell, המאפשרות יחד אימון בינה מלאכותית והסקת LLM בזמן אמת עבור דגמים בקנה מידה של עד 10 טריליון פרמטרים, כוללות:

השבב החזק ביותר בעולם - עמוסים ב-208 מיליארד טרנזיסטורים, מעבדי GPU בארכיטקטורת Blackwell מיוצרים באמצעות תהליך 4NP TSMC בנוי בהתאמה אישית עם קוביות GPU מגבילות שני רשתות המחוברות באמצעות 10 TB/שנייה שבב-שבב קישור ל-GPU יחיד ומאוחד .

מנוע טרנספורמטור של הדור השני - מונע על ידי תמיכה חדשה בקנה מידה מיקרו-טנזור ואלגוריתמים מתקדמים לניהול טווח דינמי של NVIDIA המשולבים במסגרות NVIDIA TensorRT™-LLM ו-NeMo Megatron, Blackwell תתמוך בגדלים כפולים של מחשוב ודגמים עם בינה מלאכותית חדשה של 4 סיביות נקודה צפה יכולות מסקנות.

הדור החמישי של NVLink - כדי להאיץ את הביצועים עבור דגמי AI מרובי טריליון פרמטרים ושילוב של מומחים, האיטרציה האחרונה של NVIDIA NVLink® מספקת תפוקה דו-כיוונית פורצת דרך של 1.8TB/s ל-GPU, ומבטיחה תקשורת חלקה במהירות גבוהה בין עד 576 GPUs. עבור לימודי LLM המורכבים ביותר.

מנוע RAS - GPUs המונעים על ידי Blackwell כוללים מנוע ייעודי לאמינות, זמינות ושירות. בנוסף, ארכיטקטורת Blackwell מוסיפה יכולות ברמת השבב כדי להשתמש בתחזוקה מונעת מבוססת בינה מלאכותית להפעלת אבחון וחיזוי בעיות אמינות. זה ממקסם את זמן הפעולה של המערכת ומשפר את הגמישות לפריסות בינה מלאכותית בקנה מידה מסיבי שיפעלו ללא הפרעה במשך שבועות או אפילו חודשים בכל פעם וכדי להפחית את עלויות התפעול.

AI מאובטח - יכולות מחשוב סודיות מתקדמות מגנות על דגמי בינה מלאכותית ונתוני לקוחות מבלי לפגוע בביצועים, עם תמיכה בפרוטוקולי הצפנת ממשק מקוריים חדשים, שהם קריטיים עבור תעשיות רגישות לפרטיות כמו שירותי בריאות ושירותים פיננסיים.

מנוע שחרור - מנוע שחרור דחיסה תומך בפורמטים העדכניים ביותר, מאיץ שאילתות מסד נתונים כדי לספק את הביצועים הגבוהים ביותר בניתוח נתונים ובמדעי הנתונים. בשנים הקרובות, עיבוד הנתונים, שעליו מוציאות חברות עשרות מיליארדי דולרים מדי שנה, יואץ יותר ויותר ב-GPU.

המקור: חברת NVIDIA  בכתובת הזאת.