AWS ו-NVIDIA הכריזו על הרחבת שיתוף הפעולה האסטרטגי שלהן כדי לספק את התשתית, התוכנה והשירותים המתקדמים ביותר כדי להניע את חידושי הבינה המלאכותית (AI) של לקוחות.
החברות יפגישו את המיטב של טכנולוגיות NVIDIA ו-AWS - ממערכות מרובות הצמתים החדשות ביותר של NVIDIA הכוללות GPUs, CPUs ותוכנות AI מהדור הבא, ועד לווירטואליזציה ואבטחה מתקדמת של AWS Nitro System, חיבור מתאם אלסטי (EFA) ו-UltraCluster מדרגיות - שהן אידיאליות לאימון מודלים של יסודות ובניית יישומי AI גנרטיביים.
שיתוף הפעולה המורחב מתבסס על מערכת יחסים ארוכת שנים שהזינה את עידן הבינה המלאכותית הגנרטיבית בכך שהציעה לחלוצי למידת מכונה מוקדמת (ML) את ביצועי המחשוב הנדרשים כדי לקדם את הטכנולוגיה המתקדמת ביותר בטכנולוגיות אלו.
כחלק משיתוף הפעולה המורחב להגברת הבינה המלאכותית הגנרטיבית בכל התעשיות:
AWS תהיה ספקית הענן הראשונה שתביא לענן את שבבי העל של NVIDIA GH200 Grace Hopper עם טכנולוגיית NVLink מרובה-צומתים חדשה. הפלטפורמה מרובת הצמתים NVIDIA GH200 NVL32 מחברת 32 שבבי Grace Hopper עם טכנולוגיות NVIDIA NVLink ו-NVSwitch למופע אחד. הפלטפורמה תהיה זמינה במופעי Amazon Elastic Compute Cloud (Amazon EC2) המחוברים לרשת החזקה של אמזון (EFA), הנתמכת על ידי וירטואליזציה מתקדמת (AWS Nitro System), ואשכולות בקנה מידה גבוה (Amazon EC2 UltraClusters), המאפשרות ללקוחות משותפים להגדיל את קנה המידה. לאלפי GH200 Superchips.
NVIDIA ו-AWS ישתפו פעולה כדי לארח את NVIDIA DGX Cloud - אימון AI-כשירות של NVIDIA - ב-AWS. זה יהיה ה-DGX Cloud הראשון הכולל את GH200 NVL32, המספק למפתחים את הזיכרון המשותף הגדול ביותר במופע בודד. DGX Cloud ב-AWS יאיץ אימון של AI יצירתי חדשני ומודלים של שפות גדולות שיכולים להגיע מעבר לטריליון פרמטרים.
NVIDIA ו-AWS משתפות פעולה ב-Project Ceiba כדי לעצב את מחשב העל המהיר בעולם AI המופעל על ידי GPU - מערכת בקנה מידה עם חיבורי GH200 NVL32 ו-Amazon EFA המארח AWS עבור צוות המחקר והפיתוח של NVIDIA. מחשב העל הראשון מסוגו - הכולל 16,384 שבבי-על של NVIDIA GH200 ומסוגל לעבד 65 אקספלופים של AI - ישמש את NVIDIA כדי להניע את הגל הבא של חדשנות בינה מלאכותית.
AWS תציג שלושה מופעים חדשים נוספים של Amazon EC2: מופעי P5e, המופעלים על ידי NVIDIA H200 Tensor Core GPUs, עבור עומסי עבודה של AI ו-HPC יצרני בקנה מידה גדול ומתקדם, ומופעי G6 ו-G6e, המופעלים על ידי NVIDIA L4 GPUs ו-NVIDIA L40S GPUs , בהתאמה, עבור קבוצה רחבה של יישומים כגון כוונון עדין של AI, מסקנות, עומסי עבודה של גרפיקה ווידאו. מופעי G6e מתאימים במיוחד לפיתוח זרימות עבודה תלת-ממדיות, תאומים דיגיטליים ויישומים אחרים באמצעות NVIDIA Omniverse, פלטפורמה לחיבור ובנייה של אפליקציות תלת-ממד מחוללות AI.
מופעים חדשים של אמזון EC2 משלבים את הטכנולוגיה המתקדמת של NVIDIA ו-AWS
AWS תהיה ספקית הענן הראשונה שתציע NVIDIA GH200 Grace Hopper Superchips עם טכנולוגיית NVLink מרובה צמתים. כל GH200 Superchip משלב מעבד Grace מבוסס Arm עם GPU של ארכיטקטורת NVIDIA Hopper באותו מודול. מופע יחיד של Amazon EC2 עם GH200 NVL32 יכול לספק עד 20 TB של זיכרון משותף כדי להפעיל עומסי עבודה בקנה מידה טרה-בייט.
AWS תחילה לארח את NVIDIA DGX Cloud מופעל על ידי גרייס הופר
AWS תשתף פעולה עם NVIDIA כדי לארח את NVIDIA DGX Cloud המופעל על ידי תשתית GH200 NVL32 NVLink. NVIDIA DGX Cloud הוא שירות מחשוב-על בינה מלאכותית המעניק לארגונים גישה מהירה למחשוב-על מרובה-צמתים להכשרת דגמי ה-LLM וה-AI המורכבים ביותר, עם תוכנת NVIDIA AI Enterprise משולבת וגישה ישירה למומחי NVIDIA AI.
פרויקט ענק Ceiba Supercomputer כדי להטעין את פיתוח ה-AI של NVIDIA
מחשב העל Project Ceiba ש-AWS ו-NVIDIA משתפות בו פעולה ישולב עם שירותי AWS, כגון רשת מוצפנת של Amazon Virtual Private Cloud (VPC) ואחסון בלוק בעל ביצועים גבוהים של Amazon Elastic Block Store, המעניקים ל-NVIDIA גישה לסט מקיף של יכולות AWS .
NVIDIA תשתמש במחשב העל למחקר ופיתוח כדי לקדם AI עבור LLMs, גרפיקה וסימולציה, ביולוגיה דיגיטלית, רובוטיקה, מכוניות בנהיגה עצמית, חיזוי אקלים Earth-2 ועוד.
NVIDIA ו-AWS Supercharge Generative AI, HPC, עיצוב וסימולציה
כדי להפעיל את הפיתוח, ההכשרה וההסקה של ה-LLMs הגדולים ביותר, מופעי AWS P5e יציגו את ה-H200 GPUs האחרונים של NVIDIA המציעים 141 GB של זיכרון HBM3e GPU, שהוא גדול פי 1.8 ומהיר פי 1.4 מ-H100 GPUs. חיזוק זה בזיכרון ה-GPU, יחד עם עד 3,200 Gbps של רשת EFA המאפשרת מערכת AWS Nitro, יאפשרו ללקוחות להמשיך לבנות, לאמן ולפרוס את הדגמים החדשניים שלהם ב-AWS.
תוכנת NVIDIA ב-AWS מגבירה פיתוח בינה מלאכותית
בנוסף, NVIDIA הכריזה על תוכנה ב-AWS להגברת פיתוח בינה מלאכותית. NVIDIA NeMo Retriever microservice מציע כלים חדשים ליצירת צ'אטבוטים וכלי סיכום מדויקים ביותר באמצעות אחזור סמנטי מואץ. NVIDIA BioNeMo, זמין ב-Amazon SageMaker כעת ומגיע ל-AWS ב-NVIDIA DGX Cloud, מאפשר לחברות תרופות להאיץ את גילוי התרופות על ידי פישוט והאצת ההדרכה של מודלים באמצעות הנתונים שלהם.
המקור: חברת NVIDIA בכתובת הזאת.