Shadow AI: האיום השקט שנכנס לארגון דרך העובדים

העובדים שלכם כבר משתמשים ב-AI.

השאלה היא לא אם, אלא באילו כלים, עם איזה מידע, ובאיזו רמת שליטה של הארגון.

עובד שרוצה לסכם מסמך, לנסח הצעה, לתרגם חוזה, לנתח קובץ Excel, לתקן קוד או להכין מצגת יכול היום לפתוח בתוך שניות כלי AI חיצוני ולהתחיל לעבוד.

מבחינתו זו דרך יעילה יותר לבצע את המשימה.

מבחינת הארגון, לעומת זאת, יכול להיות שבאותו הרגע מידע עסקי, מידע אישי, קוד מקור, מסמך פנימי או נתוני לקוחות הועברו לשירות חיצוני שאיש לא בדק ואיש לא אישר.

זוהי תופעת Shadow AI.

וכמו Shadow IT, גם כאן הבעיה אינה עצם השימוש בטכנולוגיה.

הבעיה מתחילה כאשר השימוש מתרחש מחוץ למסגרת שהארגון יודע לנהל.

מהו Shadow AI?

Shadow AI הוא שימוש של עובדים, צוותים או יחידות עסקיות בכלי בינה מלאכותית שלא אושרו, לא נבדקו או שאינם מנוהלים על ידי הארגון.

זה יכול להיות:

• כלי Generative AI ציבורי.
• מערכת לכתיבה וסיכום טקסט.
• כלי תרגום מבוסס AI.
• כלי ליצירת קוד.
• Copilot או Assistant המותקן בדפדפן.
• תוסף AI למערכת SaaS קיימת.
• כלי לניתוח מסמכים וקבצים.
• שירות תמלול וסיכום פגישות.
• AI Agent שמקבל גישה למייל, קבצים או מערכות.
• שירות AI שהעובד נרשם אליו עם חשבון פרטי או כרטיס אשראי אישי.

במקרים רבים העובד אינו מנסה לעקוף מדיניות.

להפך.

הוא פשוט רוצה לבצע את העבודה מהר יותר.

וזה בדיוק מה שהופך את Shadow AI לאתגר ניהולי משמעותי.

Shadow AI הוא בעצם הדור הבא של Shadow IT

Shadow IT אינו תופעה חדשה.

במשך שנים ארגונים מתמודדים עם עובדים המשתמשים בשירותי ענן, מערכות שיתוף קבצים, אפליקציות SaaS וכלי Collaboration שלא עברו אישור של ה-IT או אבטחת המידע.

אבל ב-Shadow AI נוסף ממד חשוב.

כאשר עובד משתמש במערכת SaaS לא מאושרת, הארגון עלול לאבד שליטה על מקום האחסון, ההרשאות או אופן השיתוף.

כאשר העובד משתמש בכלי AI, הוא עשוי גם להזין אל תוך המערכת את המידע עצמו.

לכן השאלה אינה רק:

באיזו מערכת אנחנו משתמשים?

אלא גם:

איזה מידע אנחנו נותנים לה לקרוא, לעבד, לנתח וללמוד ממנו?

התרחיש מתחיל כמעט תמיד ממשימה לגיטימית

Shadow AI בדרך כלל אינו מתחיל באירוע אבטחת מידע.הוא מתחיל במשימה פשוטה.

• עובד במחלקת מכירות רוצה לשפר הצעה מסחרית.
• עורכת דין רוצה לסכם חוזה.
• עובד משאבי אנוש רוצה לנסח משוב על מועמד.
• מפתח רוצה למצוא באג בקוד.
• איש כספים רוצה לנתח גיליון נתונים.
• מנהל פרויקט רוצה לסכם תמלול של פגישה.
• הדרך הקצרה ביותר היא לפתוח כלי AI ולהעלות אליו את החומר.

והכול עובד מצוין.

עד ששואלים:

• איזה מידע הועלה?
• מי הספק שמפעיל את המערכת?
• איפה הנתונים נשמרים?
• כמה זמן הם נשמרים?
• האם הם משמשים לשיפור המודל?
• מי יכול לגשת אליהם?
• האם המערכת מחוברת לשירותים נוספים?
• האם העובד השתמש בחשבון ארגוני או פרטי?
• האם קיימת התחייבות למחיקת המידע?
• האם השימוש תואם למדיניות הפרטיות והאבטחה של הארגון?

אם לארגון אין תשובות, נוצר Shadow AI.

למה Shadow AI מסוכן יותר ממה שהוא נראה?

1. זליגת מידע רגיש

הסיכון המיידי ביותר הוא הזנת מידע שלא אמור לצאת מגבולות הארגון.

לדוגמה:

מידע אישי על עובדים או לקוחות, מידע פיננסי, חוזים, תוכניות עסקיות, קוד מקור, מידע רפואי, נתוני ספקים, מסמכי מכרזים או קניין רוחני.

גם אם העובד לא "שלח את הקובץ החוצה" במובן המסורתי, ברגע שהמידע הוזן לשירות חיצוני הארגון צריך להבין מה נעשה איתו.

2. אובדן נראות

קשה להגן על מערכת שלא יודעים שהיא קיימת.

כאשר כל עובד יכול לפתוח חשבון חדש ולהתחיל להשתמש בשירות AI, צוותי IT ואבטחת מידע עלולים לא לדעת:

מי משתמש בכלי, מה הועלה אליו, אילו הרשאות הוא קיבל ואיזה מידע הוא מעבד.

זו בדיוק אותה בעיה של Shadow IT — רק בקצב הרבה יותר גבוה.

3. פרטיות ורגולציה

כאשר כלי AI מקבל מידע אישי, השימוש הופך גם לסוגיית פרטיות.

צריך לבחון, בין היתר:

• מטרת עיבוד המידע.
• הרשאות וגישה.
• סוג המידע שנמסר.
• שימוש בספק חיצוני.
• העברת מידע לצדדים נוספים.
• שמירת מידע.
• מחיקה.
• אחריותיות ותיעוד.

לארגונים הכפופים לדרישות פרטיות, רגולציה או הסכמים חוזיים מול לקוחות, השאלה אינה רק האם הכלי "טוב".

השאלה היא האם מותר להשתמש בו בצורה שבה משתמשים בו בפועל.

4. קניין רוחני וסודיות עסקית

הדבקה של קטע קוד, מפרט מוצר, אסטרטגיה מסחרית או הצעת מחיר לתוך כלי AI נראית לעובד כמו פעולה טכנית קטנה.

אבל מבחינת הארגון מדובר בהעברה של מידע שיכול להיות רגיש מאוד.

הבעיה אינה מוגבלת רק ל-"PII".

גם מידע שאינו אישי יכול להיות אחד הנכסים החשובים ביותר של החברה.

5. הרשאות רחבות מדי

הדור החדש של כלי AI כבר אינו מסתפק בפרומפט.

מערכות AI מתחברות למייל, ל-SharePoint, ל-Google Drive, למערכות CRM, לקוד, ליומנים, למסדי נתונים ולמערכות עסקיות.

AI Agent שמקבל הרשאה רחבה מדי יכול להפוך שימוש נקודתי בכלי AI לחיבור עמוק אל תוך סביבת המידע הארגונית.

בשלב הזה כבר לא מדובר רק ב-Shadow AI.

מדובר ב-Shadow Access.

6. הרעלת נתונים והסתמכות על תוצאה שגויה

Shadow AI מייצר גם סיכון שאינו בהכרח "סייבר".

עובד עשוי לקבל תשובה שנראית מקצועית ומשכנעת, ולהשתמש בה בלי לבצע בדיקה.

כאשר מדובר בניסוח שיווקי, הטעות אולי קטנה.

כאשר מדובר בהחלטה משפטית, קוד, חישוב פיננסי, ניתוח אבטחה או החלטה הנוגעת ללקוח, המשמעות יכולה להיות שונה לחלוטין.

עוד על הרעלת נתונים במערכות בינה מלאכותית במאמר

Shadow AI אינו רק ChatGPT

אחת הטעויות הנפוצות היא לחשוב שניהול Shadow AI מסתכם בהחלטה אם לאפשר או לחסום ChatGPT.

המציאות מורכבת הרבה יותר.

יכולות AI נכנסות כיום לתוך:

• מערכות SaaS.
• אפליקציות Productivity.
• כלי פיתוח.
• מערכות CRM.
• כלי Marketing.
• מערכות HR.
• שירותי Collaboration.
• דפדפנים.
• Plugins.
• Extensions.
• כלי Meeting Intelligence.
• פתרונות אוטומציה.

כלומר, לפעמים העובד אפילו אינו תופס את עצמו כמשתמש ב-"מערכת AI".

ה-AI פשוט הפך לפיצ'ר בתוך כלי העבודה.

ומה לגבי AI Agents?

כאן הסיכון מקבל ממד נוסף.

כלי Generative AI רגיל מקבל שאלה ומחזיר תשובה.

AI Agent יכול לקבל גם יכולת לבצע פעולה.

לדוגמה:

לקרוא מיילים, לחפש מסמכים, לעדכן מערכת, ליצור משימה, לשלוח מידע או להפעיל Workflow.

ככל שסוכני AI מקבלים יותר הרשאות, כך ניהול הזהות, ההרשאות והגישה שלהם הופך לחלק בלתי נפרד מניהול אבטחת המידע.

ארגון שאינו יודע אילו Agents פועלים בסביבה שלו, לאילו מערכות הם מחוברים ומה הם מורשים לבצע, עלול להיווכח שה-Shadow AI שלו כבר הפך לתשתית תפעולית של ממש.

למה פשוט לחסום AI זו בדרך כלל לא התשובה

אפשר לנסות לחסום את כל כלי ה-AI.

בפועל, זה לא תמיד עובד.

כאשר הטכנולוגיה מייצרת לעובדים ערך ברור והחלופה הארגונית אינה מספיק טובה, העובדים ימצאו דרך להשתמש בה.

• דרך הטלפון
• דרך חשבון אישי
• דרך דפדפן אחר
• דרך כלי שמכיל AI כחלק ממוצר גדול יותר

לכן המטרה אינה ליצור ארגון שבו אין AI.

המטרה היא ליצור ארגון שבו AI נכנס בצורה מנוהלת.

אותו עיקרון נכון גם ב-Shadow IT:

חלופה רשמית שעובדת היטב בדרך כלל אפקטיבית יותר מאיסור שאף אחד לא מסוגל לקיים.

איך מצמצמים Shadow AI בארגון?

מתחילים במיפוי

אי אפשר לנהל את מה שלא יודעים שקיים.

צריך להבין:

• אילו כלי AI נמצאים בשימוש.
• מי משתמש בהם.
• עבור אילו תהליכים.
• איזה מידע נכנס אליהם.
• אילו מערכות מחוברות אליהם.
• אילו הרשאות הם מקבלים.

המיפוי צריך לכלול גם שירותים שאינם ממותגים ככלי AI מרכזיים אך כוללים יכולות AI בתוכם.

מגדירים שימושים מותרים ואסורים

מדיניות AI צריכה להיות פשוטה מספיק כדי שעובד באמת יבין אותה.

במקום מסמך של עשרות עמודים שאף אחד לא יקרא, אפשר להגדיר בצורה ברורה:

מותר: שימוש בתוכן ציבורי או מידע שאינו רגיש בכלים מאושרים.

דורש אישור: שימוש במסמכים פנימיים, מידע עסקי או אינטגרציה עם מערכת ארגונית.

אסור: מידע אישי רגיש, סיסמאות, Credentials, מידע מסווג, קוד רגיש או מידע של לקוח כאשר אין לכך אישור מתאים.

ההגדרות כמובן צריכות להיות מותאמות לארגון.

בוחרים כלים מאושרים

אם העובדים צריכים AI כדי לעבוד, צריך לתת להם דרך בטוחה להשתמש בו.

בחירת פתרון ארגוני מאפשרת לבחון מראש נושאים כמו:

• תנאי שימוש.
• שמירת מידע.
• שימוש בנתונים לצורכי Training.
• הצפנה.
• הפרדת לקוחות.
• הרשאות.
• Audit Logs.
• SSO.
• MFA.
• Data Residency.
• מחיקה.
• התחייבויות חוזיות של הספק.

מחברים את AI לסיווג המידע

לא כל מידע בארגון דורש אותה רמת הגנה.

סיווג מידע מאפשר להגדיר איזה מידע יכול להיכנס לכלי AI ואיזה מידע צריך להישאר בתוך מערכות מאושרות בלבד.

ככל שה-AI הופך לכלי עבודה שגרתי, החיבור בין Data Classification לבין AI Governance הופך חשוב יותר.

מנהלים ספקים והרשאות

כל כלי AI חדש הוא גם ספק חדש, ובמקרים רבים גם נקודת גישה חדשה למידע.

לכן תהליך האישור צריך לכלול בחינת אבטחת מידע, פרטיות, תנאים חוזיים, הרשאות וחיבורים למערכות אחרות.

מדריכים את העובדים

Shadow AI הוא בראש ובראשונה אתגר התנהגותי.

העובדים צריכים להבין שלא כל טקסט ניתן להדביק לכלי AI ולא כל מסמך ניתן להעלות למערכת רק משום שהפעולה טכנית ופשוטה.

הדרכות מודעות עובדים לאבטחת מידע צריכות כיום לכלול גם שימוש בטוח ב-AI כחלק משגרת העבודה.

Shadow AI צריך להיכנס לסקר הסיכונים

אחד הדברים החשובים ביותר שארגון יכול לעשות הוא להפסיק להתייחס ל-AI כפרויקט נפרד.

AI הוא כבר חלק מסביבת הסיכון.

לכן במסגרת סקרי סיכוני אבטחת מידע צריך לשאול גם:

• אילו כלי AI נמצאים בשימוש?
• איזה מידע הם מעבדים?
• מי אישר אותם?
• לאילו מערכות הם מחוברים?
• אילו הרשאות הם מקבלים?
• איך נראית שרשרת הספקים שלהם?
• ומה יקרה אם המידע או ההרשאות ייחשפו?

גם במאמר שלנו על ISO 27001 בשנת 2026 הדגשנו שמערכת ניהול סיכונים עדכנית צריכה לשקף שינויים כמו ענן, SaaS, AI ו-Shadow AI ולא להסתמך על תמונת מצב שנבנתה לפני מספר שנים.

AI Governance: לעבור מאיסור לניהול

Shadow AI הוא סימפטום.

אם העובדים משתמשים בכלי AI מחוץ למסגרת, כדאי לשאול לא רק איך לעצור אותם – אלא למה המסגרת הארגונית אינה מדביקה את קצב העבודה.

גישה נכונה ל-AI Governance מחברת בין:

אנשים, תהליכים וטכנולוגיה.

• אנשים יודעים מה מותר ומה אסור.
• תהליכים מאפשרים לבדוק ולאשר כלים ושימושים חדשים.
• הטכנולוגיה מספקת נראות, בקרת גישה ואכיפה.

ארגונים שרוצים לבנות מסגרת רחבה יותר לניהול AI יכולים גם לבחון את ISO/IEC 42001 ומסגרות נוספות לניהול מערכות בינה מלאכותית, כחלק מתוכנית Governance רחבה.

לא לעצור את ה-AI – להוציא אותו מהצללים

ה-AI כבר נמצא בארגון.

ניסיון להתייחס אליו כאל טכנולוגיה עתידית או לאסור אותו באופן גורף לא ישנה את המציאות הזו.

האתגר האמיתי הוא להפוך שימוש בלתי נראה לשימוש מנוהל.

• לדעת אילו כלים קיימים.
• להבין איזה מידע נכנס אליהם.
• לבחון את הספקים וההרשאות.
• להדריך את העובדים.

וליצור מסגרת שבה אפשר להשתמש ב-AI כדי לעבוד טוב ומהר יותר – בלי לוותר על אבטחת מידע, פרטיות ושליטה.

זה בדיוק ההבדל בין Shadow AI לבין AI מנוהל.

האם אתם יודעים באילו כלי AI העובדים שלכם משתמשים?

באינפוגארד אנחנו מסייעים לארגונים לבחון את סיכוני ה-AI כחלק מתמונת אבטחת המידע הכוללת: מיפוי שימושים וכלים, סקרי סיכונים ופערים, בניית מדיניות, בחינת ספקים והרשאות, הדרכות עובדים וליווי של מנהלי אבטחת מידע.

באמצעות CISO as a Service אנחנו מסייעים להפוך תחום שמתפתח במהירות לתהליך מנוהל, מדיד וישים, כזה שמאפשר חדשנות אבל שומר את המידע והסיכון בשליטה.

רוצים להבין איפה ה-Shadow AI נמצא אצלכם? דברו איתנו ונעזור לכם להוציא אותו מהצללים.

רוצים לצמצם סיכונים ולהתמודד חכם ונכון יותר עם אתגר SHADOW IT?
דברו איתנו

המידע המוצג במאמר זה נועד למטרות מידע והעשרה ואינו מהווה תחליף ל: ייעוץ מקצועי, רגולטורי, משפטי או טכנולוגי.
כל ארגון נדרש לבחון את צרכיו, הסיכונים והדרישות החלות עליו באמצעות אנשי מקצוע מתאימים.
המאמר נכתב בשיתוף מומחי אבטחת המידע והסייבר של קבוצת IDOR, ונערך על ידי רועי קיש, חובב אבטחת מידע, סייבר ומנהל השיווק בקבוצת חברות עידור.