סוכני בינה מלאכותית מוכנים לשנות את הפרודוקטיביות עבור מיליארד עובדי הידע בעולם עם "רובוטי ידע" שיכולים לבצע מגוון משימות. כדי לפתח סוכני בינה מלאכותית, ארגונים צריכים לטפל בדאגות קריטיות כמו אמון, בטיחות, אבטחה ותאימות.
שירותי מיקרו NIM חדשים של NVIDIA עבור מעקות בטיחות בינה מלאכותית - חלק מאוסף כלי התוכנה של NVIDIA NeMo Guardrails - הם מיקרו-שירותים ניידים ומותאמים המסייעים לחברות לשפר את הבטיחות, הדיוק והמדרגיות של יישומי הבינה המלאכותית שלהן.
מרכזי בתזמור של שירותי המיקרו הוא NeMo Guardrails, חלק מפלטפורמת NVIDIA NeMo לאיסוף, התאמה אישית ומעקה AI. NeMo Guardrails עוזר למפתחים לשלב ולנהל מעקות AI ביישומי מודל שפה גדול (LLM). מובילות התעשייה Amdocs, Cerence AI ו-Loe's הן בין אלה המשתמשות במעקות NeMo Guardrail כדי להגן על יישומי בינה מלאכותית.
מפתחים יכולים להשתמש בשירותי המיקרו של NIM כדי לבנות סוכני AI מאובטחים ואמינים יותר, המספקים תגובות בטוחות ומתאימות במסגרת הנחיות ספציפיות להקשר ומתחזקים נגד ניסיונות פריצת Jail. הפרוסים בשירות לקוחות בתעשיות כמו רכב, פיננסים, שירותי בריאות, ייצור וקמעונאות, הסוכנים יכולים להגביר את שביעות הרצון והאמון של הלקוחות.
אחד משירותי המיקרו החדשים, שנבנה לניהול בטיחות תוכן, הוכשר באמצעות ערכת הנתונים של Aegis Content Safety – אחד ממקורות הנתונים האיכותיים ביותר עם הערות אנושיות בקטגוריה שלו. מערך הנתונים, שנאסר ובבעלות NVIDIA, זמין לציבור ב-Huging Face וכולל למעלה מ-35,000 דגימות נתונים עם הערות אנושיות שסומנו על בטיחות AI וניסיונות פריצת כלא לעקוף הגבלות מערכת.
המקור: חברת Nvidia. לידיעה המלאה, הקישו כאן.