הצ'אטבוט החדש של OpenAI, המופעל על ידי ChatGPT בינה מלאכותית, נמצא בשימוש על ידי פושעי סייבר כדי לכתוב תוכנות זדוניות ולשפר את הפעולות.
ChatBot חדש המופעל על ידי בינה מלאכותית משמש לכתיבת תוכנות זדוניות
מומחי אבטחת סייבר מ-Check Point Research מצאו האקרים המשתמשים בצ'אטבוט ChatGPT כדי לכתוב קוד זדוני ולשפר את פעולות פשעי הסייבר.
ב-30 בנובמבר 2022, OpenAI השיקה צ'אטבוט משלה הידוע בשם ChatGPT. צ'אט בוט זה יכול לנהל שיחה עם משתמשים, אך לא לקח זמן רב לאחר תאריך ההשקה עד שפושעי סייבר החלו להתעלל בבוט זה.
ב פוסט מחקר של צ'ק פוינט, נכתב כי חוקרים מצאו שרשור בשם "'ChatGPT – Benefits of Malware'" בפורום פריצה. נראה היה שהמחבר "מתנסה ב-ChatGPT כדי ליצור מחדש זנים וטכניקות של תוכנות זדוניות מתואר בפרסומי מחקר ובכתבות על תוכנות זדוניות נפוצות", ושיתף דוגמה של העבודה שלהם; גנב מבוסס פייתון ש"מחפש סוגי קבצים נפוצים, מעתיק אותם לתיקיה אקראית בתוך תיקיית ה-Temp, מצמיד אותם ומעלה אותם לשרת FTP מקודד קשה".
מחקר צ'ק פוינט התריע לציבור בטוויטר וקבע כי "ההתעללות של #ChatGPT כבר אינה תיאורטית".
מחקר צ'ק פוינט אימת את טענות המחבר
לאחר הערכת דוגמה של סקריפט תוכנות זדוניות שסופקו בפוסט בפורום הפריצה, Check Point Research קבעה שהיא לגיטימית.
נמצא שזן ספציפי זה של תוכנות זדוניות יכול לחפש שנים עשר סוגי קבצים נפוצים, כולל קובצי PDF, מסמכי Microsoft Office ותמונות. אם התוכנה הזדונית מגלה קבצים שעלולים להיות בעלי ערך, הם מועתקים ומכווצים. לאחר מכן נשלח למפעיל התוכנה הזדונית את הקבצים המועתקים באמצעות חיבור מקוון.
מחקר צ'ק פוינט ציין גם כי מפעילת התוכנה הזדונית לא הצפינה את הקבצים שהועתקו או שלחה אותם בצורה מאובטחת, כלומר הם עלולים ליפול לידיהם של צדדים שלישיים.
נעשה שימוש ב-ChatDPT לפעילויות בלתי חוקיות נוספות
צ'ק פוינט מחקר קבעה גם בפוסט הנ"ל כי שחקני איומים יכולים להשתמש ב-ChatGPT לפעילויות פליליות אחרות. דיון נוסף, שכותרתו "ניצול לרעה של ChatGPT ליצירת סקריפטים של Dark Web Marketplaces", נמצא על ידי Check Point Research, שבו הראה המחבר כמה קל ליצור שוק Dark Web, באמצעות ChatGPT."
בשרשור, המחבר פרסם קוד שיכול לקבל מחירי מטבעות קריפטוגרפיים חיים באמצעות API של צד שלישי. זה תרם אז למען מערכות תשלום מבוססות קריפטו המשמשות לעתים קרובות ברשת האפלה.
מחקר צ'ק פוינט הגיע למסקנה כי "עדיין מוקדם מדי להחליט אם יכולות ChatGPT יהפכו לכלי המועדף החדש או לא עבור משתתפים ברשת האפלה." החברה תמשיך לעקוב אחר השימוש הבלתי חוקי ב-ChatGPT לאורך 2023 כדי לראות איך הדברים משחקים הַחוּצָה.
בינה מלאכותית עשויה להמשיך להיות ממונפת על ידי פושעי סייבר
ככל שהבינה המלאכותית ממשיכה להתפתח, סביר להניח ששחקני האיום ימשיכו לחפש דרכים חדשות להשתמש בה לרעה. הזמן יגיד אם ChatGPT יהפוך לפופולרי בקרב פושעי סייבר, או שמא כלי אחר מבוסס בינה מלאכותית ייקח את העוגה.