חברת NVIDIA משתפת פעולה עם Google Cloud כדי להביא יכולות בינה מלאכותית של סוכנים לארגונים שמעוניינים להשתמש באופן מקומי במשפחת מודלי הבינה המלאכותית Google Gemini, באמצעות פלטפורמות NVIDIA Blackwell HGX ו-DGX, ובשילוב עם NVIDIA Confidential Computing לשמירה על אבטחת המידע.
באמצעות פלטפורמת NVIDIA Blackwell על גבי Google Distributed Cloud, מרכזי נתונים מקומיים יכולים לעמוד בדרישות רגולציה וחוקי ריבונות מידע, על ידי הגבלת הגישה למידע רגיש, כגון תיקים רפואיים, עסקאות פיננסיות ומידע ממשלתי מסווג. טכנולוגיית Confidential Computing של NVIDIA גם מגינה על הקוד הרגיש במודלים של Gemini מפני גישה לא מורשית ודליפות מידע.
"בזכות שילוב מודלי Gemini בסביבה מקומית יחד עם הביצועים פורצי הדרך של Blackwell ויכולות החישוב המוגן, אנו מאפשרים לארגונים לממש את מלוא הפוטנציאל של בינה מלאכותית אייג'נטית," אמר סאצ'ין גופטה, סגן נשיא ומנכ"ל תחום תשתיות ופתרונות ב-Google Cloud. "שיתוף פעולה זה מבטיח שהלקוחות יוכלו לחדש בצורה מאובטחת – מבלי להתפשר על ביצועים או קלות תפעול."
חישוב מוגן עם NVIDIA Blackwell מעניק לארגונים ביטחון טכני בכך שהפניות של המשתמשים לממשק התכנות (API) של מודלי Gemini – כמו גם המידע ששימש לכיול המודלים – נשמרים מאובטחים ואינם נחשפים או משתנים.
במקביל, בעלי המודלים יכולים להגן על עצמם מפני גישה לא מורשית או שיבוש, תוך יצירת שכבת הגנה כפולה שמאפשרת לארגונים לחדש עם מודלי Gemini מבלי לפגוע בפרטיות המידע.
---
**סוכני בינה מלאכותית מניעים יישומים חדשים בארגונים**
הפתרון החדש מגיע בעיצומה של מהפכת הבינה המלאכותית האייג'נטית בתחום הטכנולוגיה הארגונית, עם יכולות פתרון בעיות מתקדמות יותר. בניגוד למודלים של בינה מלאכותית שמבוססים על ידע נרכש בלבד, מערכות אייג'נטיות מסוגלות להסיק מסקנות, להסתגל ולקבל החלטות בסביבות דינמיות. לדוגמה, בתמיכה טכנית ארגונית, בעוד שמודל מבוסס ידע עשוי להציג מדריכי פתרון תקלות, מערכת בינה מלאכותית אייג'נטית יכולה לאבחן תקלות, לבצע תיקונים ולהסלים בעיות מורכבות – בצורה אוטונומית.
באופן דומה, בתחום הפיננסים, מודל מסורתי יכול לזהות עסקאות חשודות על בסיס דפוסים, אך מערכת אייג'נטית תוכל גם לחקור אנומליות ולנקוט פעולות פרואקטיביות – כמו חסימת עסקאות או התאמה בזמן אמת של כללי גילוי הונאות.
---
**הדילמה של סביבות מקומיות (On-Premises)**
בעוד שרבים כבר יכולים להשתמש במודלים עם יכולות הסקה מולטימודלית – שמשלבת טקסט, תמונות, קוד וסוגי נתונים נוספים – על מנת לפתור בעיות מורכבות ולבנות יישומי בינה מלאכותית בענן, אלו שמחויבים לדרישות מחמירות של אבטחת מידע או ריבונות מידע – טרם יכלו לעשות זאת.
ההכרזה הנוכחית הופכת את Google Cloud לאחת מספקיות הענן הראשונות המציעות יכולות חישוב מוגן (Confidential Computing) כדי להגן על עומסי עבודה של בינה מלאכותית של סוכן– בכל סביבה, בין אם בענן או במודל היברידי.
הפתרון, שמבוסס על פלטפורמת NVIDIA HGX B200 עם כרטיסי המסך Blackwell וטכנולוגיית Confidential Computing של NVIDIA, יאפשר ללקוחות להגן על המודלים והמידע שלהם, תוך שמירה על ביצועים פורצי דרך ויעילות אנרגטית – ללא פגיעה באבטחת מידע או בשלמות המודלים.
---
**תצפיות ואבטחת מידע לבינה מלאכותית של סוכן**
כדי להרחיב את השימוש בבינה מלאכותית אייג'נטית בפרודקשן, יש צורך בתשתיות תצפית ואבטחה חזקות שיבטיחו ביצועים אמינים ועמידה בדרישות רגולציה.
Google Cloud הכריזה על שער חיזוי חדש ל-GKE (Inference Gateway), שמטרתו לשפר את פריסת עומסי העבודה של חיזוי (Inference) בינה מלאכותית באמצעות ניתוב מתקדם וסקיילביליות. בשילוב עם NVIDIA Triton Inference Server ו-NVIDIA NeMo Guardrails, הפתרון מציע איזון עומסים חכם לשיפור הביצועים והפחתת עלויות, תוך אפשרות לאבטחה וניהול ריכוזיים של המודלים.
בעתיד, Google Cloud פועלת לשיפור יכולות התצפית על עומסי עבודה של בינה מלאכותית אייג'נטית, באמצעות שילוב NVIDIA Dynamo – ספריית קוד פתוח שנבנתה במיוחד לשירות והרחבה של מודלים להסקת מסקנות ב-AI Factories.
המקור Nvidia בכתובת הזאת.