מתקפת Prompt Injection על תוסף בינה מלאכותית של אמזון.
התוסף Amazon Q Developer, הוא כלי מבוסס בינה מלאכותית של חברת אמזון המשמש מפתחים בסביבת Visual Studio Code לכתיבת קוד וכו'.
ב-17 ביולי, תוקף בשם ‘lkmanka58’ החדיר קוד זדוני לגרסה 1.84.0 של התוסף דרך בקשת עדכון ב-GitHub, שכללה Prompt Injection שנועד למחוק קבצים ומשאבים בענן.
אמזון לא שמה לב לעדכון הזדוני והפיצה את הגרסה הדשה של התוסף לכל המשתמשים, רק לאחר מספר ימים הם קיבלו דיווחים בנושא, הסירו את הקוד הזדוני, פרסמו גרסה חדשה וציינו כי (למזלם) אף אחד מהלקוחות לא נפגע זאת מאחר והתוספת הזדונית נכתבה בצורה לא תקינה.
הפעם היה לאמזון מזל.
סביר להניח שאם הקוד הזדוני אכן היה רץ אצל משתמשים וגורם נזק הם היו עולים על זה הרבה יותר מהר, ועדיין זו תמיד תזכורת טובה שגם חברות ענק, עם אלף בקרות נופלות בדברים הפשוטים.
★★★★★
0
★★★★★
Based on 0 ratings
