לסמוך על המכונה: איך בונים אמון בעולם שבו AI שולט?

בעולם שבו אלגוריתמים מכירים אותנו כמעט כמו החברים הכי טובים שלנו, וה-AI  כבר לא רק משמש רק לכתיבת שירים, אלא גם מחליט מי יתקבל לעבודה או האם מישהו אשם או זכאי  – עולה שאלה קריטית: האם אפשר לסמוך עליו? איך ארגונים יכולים לבסס אמון בעידן שבו הבינה מלאכותית הופכת לדומיננטיות כמעט בכל תחום?

אבל למה בכלל צריך לבנות אמון במכונה – האם לא מספיק שהיא עובדת?

אחד מהמחקרים המעמיקים שביצעה Deloitte בשנה האחרונה בתחומי הבינה המלאכותית, אשר כלל ראיונות של כמעט 2,000 מומחי תוכן שונים, מצא כי יוזמות GenAI שכללו פעולות להגברת האמון במערכות בינה מלאכותית הובילו להטמעות מוצלחות בשיעור הגבוה פי שישה לעומת יוזמות שלא כללו פעולות כאלה או כללו רק פעולות "קונבנציונליות" של ניהול סיכונים.

מחקר נוסף של Deloitte מראה שכ-65% מהמנהלים מאמינים ש-AI הוא קריטי להצלחת הארגון שלהם בחמש השנים הקרובות - אך פחות ממחצית מהעובדים מרגישים בנוח לאמץ פתרונות חדשים מבוססי AI. הפער הזה נובע, בין היתר, מחוסר אמון: עובדים חוששים מהשפעת ה-AI על תפקידם, מהיעדר שקיפות, ומהאפשרות להטיות לא הוגנות בהחלטות שמתקבלות על ידי מכונה.

ההתקדמות המהירה של טכנולוגיות ה- AI ופיתוחם של סוכנים (Agents) ומודלי שפה גדולים (LLM) והמעבר להסתמכות על מערכות אוטונומיות גוררת דילמות מסובכות ומורכבות יותר סביב שאלות בתחומי האחריות, אתיקה ושקיפות – במיוחד כאשר החלטות משמעותיות מתקבלות על ידי מכונה ולא על ידי אדם. במציאות זו, אמון הלקוחות והעובדים הופך למשאב קריטי, שבלעדיו קשה להטמיע חדשנות ולהפיק את המירב מהפוטנציאל של הבינה המלאכותית.

אז איך בונים אמון כשהמכונה היא כבר חלק מהצוות ותהליכי קבלת ההחלטות?

1. שקיפות - לא רק למומחים
העובדים והלקוחות רוצים להבין איך ה-AI מקבל החלטות. ארגון שיצליח להסביר בפשטות – ולא רק ב"שפת מכונה" – כיצד פועלות המערכות שלו, יזכה לאמון רב יותר. Deloitte פועלת להטמיע מנגנונים של "Explainable AI" – כלומר, מערכות בינה מלאכותית שבנוסף מספקות הסבר נהיר לפעולת המודל, על מנת למנוע שימוש ב"קופסה שחורה" ("Black-Box") שאיננו מבינים" 3.

3. פרטיות ואבטחת מידע – תנאי סף
הגנה על המידע האישי של לקוחות ועובדים היא אינה מותרות. ארגונים צריכים לאמץ סטנדרטים מחמירים של פרטיות ואבטחה, ולשקף ללקוחות ולעובדים כיצד נעשה שימוש במידע שלהם. מחקרים רבים של Deloitte מצביעים על כך שארגונים המיישמים סטנדרטים מחמירים לפרטיות ואבטחה - ומתקשרים זאת ללקוחות בצורה ברורה - זוכים מרמות אמון גבוהות יותר.

4. שיתוף והכשרה - צמצום הפחד מה"לא נודע"
אימוץ מוצלח של AI מחייב בשיתוף העובדים, בהכשרתם ובהסברת היתרונות, המגבלות והסיכונים הגלומים באימוץ הטכנולוגיה. ארגונים שמקדמים אמון תוך כדי תהליך ההטמעה של מערכות הבינה המלאכותית השונות, מצליחים להגדיל את שיעור האימוץ של פתרונות AI ומצליחים להפחית התנגדויות5.

5. מדידת אמון – לא רק תחושת בטן
המלצה אחרונה: אל תסתפקו בהנחות או הרגשה. מדדו את רמת האמון של העובדים והלקוחות כלפי ה-AI שלכם בעזרת שאלונים, מדדי התנהגות וכלים ייחודיים הקיימים בשוק והשתמשו בתובנות כדי לשפר תהליכים בארגון. Deloitte פיתחה כלים ייעודיים לארגונים למדידת אמון לאורך כל שלבי הפיתוח וההטמעה – וכך לזהות נקודות תורפה ולטפל בהן בזמן אמת 5.

לסיכום:
אמון הוא לא רק ערך - הוא גם אמצעי מהותי להטמעה אפקטיבית של פתרונות AI שמטרתו ליצור מנוע צמיחה ויתרון תחרותי לארגונים. בעולם שבו AI הוא שותף אסטרטגי, ארגונים שישכילו לבסס, למדוד ולשפר את רמות האמון בנוגע ל- AI, ייהנו מיציבות תפעולית וממערכות יחסים בריאות עם עובדים ולקוחות.

החברות הללו שמצליחות ליצור אמון במערכות מבוססות AI, בעלות סיכויי הצלחה טובים יותר להנות מיתרונות הטכנולוגיה: עובדים מרגישים בטוחים יותר בשימוש בטכנולוגיה, לקוחות מוכנים לאמץ שירותים חדשניים, והארגון כולו נהנה מהגברת שיתוף הפעולה והפחתת התנגדויות.  

אחרי הכול, גם המכונה הכי חכמה לא שווה הרבה אם אף אחד לא סומך עליה.