Dark Sourcery: כך מידע מזויף ברשת הופך לתשובה של AI

Dark Sourcery ai data poisoning security

קמפיין Dark Sourcery ממחיש סוג חדש של איום שבו התוקפים אינם צריכים לפרוץ למודל AI או למערכות הארגון. במקום זאת הם מפיצים ברשת מידע מזויף שנועד להשפיע על התשובות שמערכות כמו ChatGPT, Gemini ו-Google AI Overview מציגות למשתמשים. עבור ארגונים המשמעות היא שניהול סיכוני AI צריך לכלול לא רק את המודלים ומקורות המידע הפנימיים, אלא גם את המידע הציבורי שמערכות AI מציגות ללקוחות על החברה.