פתחתם כלי AI כדי לסכם מסמך, בניתם לעצמכם סוכן שיעשה חלק מהעבודה או חיברתם מערכת אוטומטית למידע מהארגון? מבחינת העובד זה יכול להיראות כמו עוד דרך לחסוך זמן ולשפר ביצועים. מבחינת המעסיק, התמונה עלולה להיות הרבה יותר מורכבת, בעיקר אם אף אחד במחלקת ה-IT לא יודע שהכלי הזה בכלל פועל.
מחקר חדש של חברת Veeam מצביע על תופעה שמתרחבת בתוך ארגונים: עובדים יוצרים בעצמם תהליכי בינה מלאכותית אוטונומיים, בזמן שמערכות הפיקוח מתקשות להדביק את הקצב. לפי המחקר, 67% מהארגונים דיווחו כי עובדים יוצרים תהליכי AI שמחלקת ה-IT אינה מסוגלת לעקוב אחריהם באופן מלא.
מחפשים עבודה חדשה? מאות משרות פתוחות מחכות לכם באתר ג'ובנט מקבוצת וואלה >>
הנתון המדאיג יותר נוגע למידע שאליו אותם כלים עשויים להגיע. 70% מהארגונים הודו כי תהליכי AI אוטומטיים באים במגע עם נתונים תאגידיים רגישים ללא פיקוח מלא. כלומר, הבעיה כבר אינה רק באילו כלי AI העובדים משתמשים, אלא גם במה הם מזינים לתוכם, לאילו מערכות הם מתחברים ומי בכלל יודע שהגישה הזו מתקיימת.
המחקר נערך בקרב 1,000 מקבלי החלטות בתחומי ה-IT, הנתונים ואבטחת המידע בארגונים המעסיקים יותר מ-500 עובדים בבריטניה, גרמניה, צרפת ובאזור EMEA, הכולל את אירופה, המזרח התיכון ואפריקה.
הסוכן הפרטי שלכם הופך לבעיה של הבוס
לתופעה הזו כבר יש שם: "סוכני צללים" (Shadow Agents). בדומה לשימוש בתוכנות שלא אושרו רשמית על ידי הארגון, כאן מדובר בתהליכי AI שקמים בתוך מקום העבודה בלי שלמחלקות הטכנולוגיה יש בהכרח תמונה מלאה עליהם.
אלא שבעידן ה-AI המשמעות עלולה להיות רחבה יותר. כלי כזה יכול לעבוד עם מסמכים, נתונים ותהליכים פנימיים, ולכן כשהוא מופעל מחוץ למסגרת המנוהלת של הארגון נוצר פער בין מה שהעובד עושה בפועל לבין מה שהחברה מסוגלת לפקח עליו.
הפער הזה כבר מזמן אינו מטריד רק את אנשי ה-IT. לפי המחקר, 40% מהמנהלים חוששים מאחריות אישית או מהשלכותיה, 39% מדווחים על עלייה בפיקוח מצד הדירקטוריון ו-37% אומרים שהמצב הגביר אצלם את הלחץ או החרדה האישית. 32% אף מעידים כי הלחץ יצר מתחים או סכסוכים מול מנהלים אחרים.
ומה אם משהו משתבש?
החשש של ההנהלות אינו מתקיים בחלל ריק. 58% מהארגונים שהשתתפו במחקר כפופים כיום לחוקי אחריות תאגידית חדשים, בעוד 12% מהמשיבים הודו כי תחומי האחריות האישיים עדיין אינם ברורים לחלוטין ומוגדרים כ"משותפים".
במילים אחרות, ככל שכלי AI מקבלים גישה ליותר מידע ומבצעים יותר פעולות באופן עצמאי, עולה גם השאלה מי נושא באחריות במקרה של טעות, שימוש לא מורשה או בעיית ציות. זו הסיבה שמה שהתחיל ככלי עבודה אישי ונוח של העובד יכול להגיע במהירות עד לשולחן הדירקטוריון.
עם זאת, המחקר מצביע גם על צד חיובי: 45% מהמנהלים אמרו שהאחריות המוגברת דווקא שיפרה את הסנכרון והמיקוד בקרב שדרת ההנהלה.
הארגונים מנסים להחזיר את השליטה
על רקע התפשטות "סוכני הצללים", ארגונים כבר מנסים לצמצם את הפער. לפי המחקר, 41% מהם בונים מודלי AI מקומיים או ריבוניים, בעוד 49% מאמצים מודל היברידי - שימוש במודלים מקומיים עבור מידע רגיש ובמודלים גלובליים למשימות כלליות.
גם חוק הבינה המלאכותית של האיחוד האירופי מוסיף ללחץ. 83% מהמנהלים שנשאלו מאמינים כי תהיה לו השפעה חיובית, אך 62% חוששים ש"אזורים אפורים" בחוק ייצרו סיכוני ציות, ו-63% מודאגים מסיכונים משפטיים ותפעוליים בלתי צפויים.
ישראל קציר, דירקטור אזורי בכיר ב-Veeam, אומר: "משבר 'סוכני הצללים' מסכן את המידע הארגוני הרגיש ביותר וחושף מנהלים לתביעות ולאחריות אישית. ארגונים שממהרים לאמץ AI כדי להישאר בתחרות חייבים לעצור ולוודא אילו דלתות הם משאירים פתוחות. שילוב בינה מלאכותית בצורה בטוחה ברמת האנטרפרייז מתחילה בכמה דברים מרכזיים: אבטחה, ניהול ושליטה מוחלטת בנתונים שמזינים אותה".