צוות מ־MIT מלמד מודלים של בינה מלאכותית דברים שהם עדיין לא ידעו.
השימוש בבינה מלאכותית (AI) מתרחב במהירות ומשתלב יותר ויותר בחיי היומיום שלנו ובתעשיות בעלות חשיבות קריטית, כגון שירותי בריאות, תקשורת ואנרגיה. אך לצד כוח רב מגיעה גם אחריות רבה: מערכות בינה מלאכותית טועות לעיתים או מספקות תשובות לא ודאיות שעלולות להיות להן השלכות משמעותיות.
מדוע הדבר חשוב כל כך?
מודלים רבים של בינה מלאכותית, גם המתקדמים שבהם, עלולים לעיתים לייצר מה שמכונה „הזיות” — תשובות שגויות או חסרות ביסוס. בתחומים שבהם להחלטות יש משקל רב, כגון אבחון רפואי או נהיגה אוטונומית, הדבר עלול להוביל לתוצאות הרות אסון. Themis AI פיתחה את Capsa, פלטפורמה המיישמת כימות אי־ודאות: היא מודדת ומכמת את מידת אי־הוודאות של פלט הבינה המלאכותית באופן מפורט ואמין.
כיצד זה עובד?
הקניית מודעות לאי־ודאות למודלים מאפשרת להם לצרף לפלטים תווית סיכון או רמת מהימנות. לדוגמה, מכונית אוטונומית יכולה לציין שאינה בטוחה לגבי מצב מסוים, ובשל כך להפעיל התערבות אנושית. הדבר לא רק מגביר את הבטיחות, אלא גם מחזק את אמון המשתמשים במערכות בינה מלאכותית.
- בשילוב עם PyTorch, עטיפת המודל מתבצעת באמצעות
capsa_torch.wrapper()כאשר הפלט כולל הן את התחזית והן את הסיכון:
עבור Fortis AI ועבור לקוחותיה, טכנולוגיה זו מייצגת צעד עצום קדימה. אנו יכולים לספק יישומי בינה מלאכותית שאינם רק חכמים, אלא גם בטוחים יותר וצפויים יותר, עם סיכון מופחת להזיות. הדבר מסייע לארגונים לקבל החלטות מבוססות יותר ולהפחית סיכונים בעת הטמעת בינה מלאכותית ביישומים קריטיים לעסק.
סיכום
ה־MIT צוות מראה שעתיד הבינה המלאכותית אינו עוסק רק בחוכמה רבה יותר, אלא בעיקר בתפקוד בטוח והוגן יותר. ב־Fortis AI אנו מאמינים שבינה מלאכותית הופכת לבעלת ערך אמיתי רק כאשר היא שקופה לגבי מגבלותיה. באמצעות כלים מתקדמים לכימות אי־ודאות, כגון Capsa, תוכלו ליישם חזון זה גם בפועל.
