מי לא השתמש ב-ChatGPT בשלב זה? זה כיף, בהחלט מרתק אם יש לך עניין בבינה מלאכותית, ובחינם (בינתיים).
למרות שבדרך כלל זה מתואר כצ'טבוט, ChatGPT הוא הרבה יותר מזה. זה יכול ליצור עותק, להסביר נושאים מורכבים, לפעול כמתרגם, להמציא בדיחות ולכתוב קוד. אבל זה יכול להיות גם נשק על ידי שחקני איומים.
איך ChatGPT עובד ומדוע זה אטרקטיבי לפושעי סייבר
ChatGPT (Generative Pre-trained Transformer) פותח על ידי מעבדת המחקר לבינה מלאכותית OpenAI, והושק בנובמבר 2022. זהו מודל שפה גדול המשתמש בשילוב של טכניקות למידת מכונה מפוקחת וחיזוק.
אולי יותר חשוב, ChatGPT מכוונן כל הזמן ומאומן על ידי משתמשים, שיכולים להצביע בעד או להמעיט בתגובות שלו, מה שהופך אותו למדויק ועוצמתי יותר, מכיוון שהוא אוסף נתונים בעצמו.
זה מה שמפריד בין ChatGPT לצ'אטבוטים אחרים. ואם אי פעם השתמשת בו, אתה יודע שההבדל ניכר מיד: בניגוד למוצרים דומים אחרים, הוא מסוגל להשתתף באופן פעיל בשיחה ולהשלים משימות מורכבות בדיוק מדהים, תוך מתן קוהרנטי וכמו אנושי תגובות.
אם היו מציגים לך חיבור קצר שנכתב על ידי אדם, ואחד שנכתב על ידי ChatGPT, כנראה שהיית מתקשה לקבוע מי הוא איזה. כדוגמה, הנה חלק מהטקסט שנוצר ב-ChatGPT כשאומרים לכתוב חיבור קצר על התפסן בשדה השיפון.
זה לא אומר של-ChatGPT אין את המגבלות שלו - אין ספק שכן. ככל שתשתמש בו יותר, כך תשים לב שזה המצב. עד כמה שהיא חזקה, היא עדיין יכולה להיאבק בהיגיון היסודי, לעשות טעויות, לשתף כוזבים ומטעים מידע, לפרש לא נכון הוראות בצורה קומית, ולהיות מניפולציות לצייר את השגוי סיכום.
אבל הכוח של ChatGPT לא טמון ביכולת שלו לשוחח. במקום זאת, זה טמון ביכולת הכמעט בלתי מוגבלת שלו לבצע משימות בהמוניהם, ביעילות רבה יותר ובהרבה יותר מהר ממה שאדם יכול היה. עם הקלט והפקודות הנכונות, וכמה דרכים לעקיפת הבעיה, ניתן להפוך את ChatGPT לכלי אוטומציה עוצמתי ומטריד.
עם זאת בחשבון, לא קשה לדמיין כיצד פושע רשת יכול להפעיל נשק של ChatGPT. זה הכל על מציאת השיטה הנכונה, קנה המידה שלה, והפיכת ה-AI להשלים כמה שיותר משימות בבת אחת, עם מספר חשבונות ובכמה מכשירים במידת הצורך.
5 דברים ששחקנים יכולים לעשות עם ChatGPT
יש כבר כמה דוגמאות של מילה אמיתית של ChatGPT בשימוש על ידי שחקני איומים, אבל זה יותר סביר להניח שהוא מבוצע בנשק במספר דרכים שונות, או יהיה בשלב מסוים ב עתיד. הנה חמישה דברים שהאקרים יכולים לעשות (וכנראה עושים) עם ChatGPT.
1. כתוב תוכנה זדונית
אם ChatGPT יכול לכתוב קוד, הוא יכול לכתוב תוכנות זדוניות. אין הפתעה שם. אבל זו לא רק אפשרות תיאורטית בלבד. בינואר 2023, חברת אבטחת הסייבר צ'ק פוינט מחקר גילתה שפושעי סייבר כבר באמצעות ChatGPT כדי לכתוב תוכנות זדוניות- ומתרברב על כך בפורומים מחתרתיים.
שחקן האיום שגילה צ'ק פוינט מחקר השתמש בצ'אט בוט המתקדם בצורה יצירתית למדי, כדי ליצור מחדש תוכנות זדוניות מבוססות Python המתוארות בפרסומי מחקר מסוימים. כאשר חוקרים בדקו את התוכנית הזדונית, פושע הסייבר אמר את האמת: התוכנה הזדונית שלו שנוצרה באמצעות ChatGPT עשתה בדיוק את מה שהיא נועדה לעשות.
2. צור הודעות דיוג
עד כמה שהפכו מסנני הספאם לחזקים, הודעות דיוג מסוכנות עדיין חומק בין הסדקים, ואין הרבה שהאדם הממוצע יכול לעשות מלבד לדווח על השולח לספק שלו. אבל יש הרבה ששחקן איומים מוכשר יכול לעשות עם רשימת תפוצה וגישה ל-ChatGPT.
עם הפקודות וההצעות הנכונות, ChatGPT יכול ליצור דוא"ל דיוג משכנע, פוטנציאלי להפוך את התהליך לאוטומטי ולאפשר להם להרחיב את פעולותיו.
3. בניית אתרי הונאה
אם רק תחפש בגוגל את המונח "בנה אתר עם ChatGPT", תמצא חבורה של מדריכים המסבירים בפירוט רב כיצד לעשות זאת. למרות שמדובר בחדשות טובות עבור כל מי שרוצה ליצור אתר מאפס, הן גם חדשות נהדרות עבור פושעי רשת. מה מונע מהם להשתמש ב-ChatGPT כדי לבנות חבורה של אתרי הונאה, או דפי נחיתה דיוג?
האפשרויות הן כמעט אינסופיות. שחקן איום יכול לשכפל אתר קיים באמצעות ChatGPT ולאחר מכן לשנות אותו, לבנות אתרי מסחר אלקטרוני מזויפים, להפעיל אתר עם הונאות של תוכנות הפחדה, וכולי.
4. צור תוכן ספאם
כדי להקים אתר מזויף, להפעיל דף מדיה חברתית הונאה, או לבנות אתר העתקה, אתה צריך תוכן - הרבה ממנו. וזה צריך להיראות לגיטימי ככל האפשר כדי שהתרמית תעבוד. מדוע ששחקן איום ישכור כותבי תוכן, או יכתוב פוסטים בבלוג בעצמו, כאשר הם יכולים פשוט לבקש מ-ChatGPT לעשות זאת עבורם?
נכון, סביר להניח שאתר עם תוכן שנוצר בינה מלאכותית ייענש על ידי גוגל די מהר ולא יופיע בתוצאות החיפוש, אבל ישנן דרכים רבות ושונות שבהן האקר יכול לקדם אתר, לשלוח אליו תנועה ולהונות אנשים מכספם או לגנוב את המידע האישי שלהם.
5. הפיצו דיסאינפורמציה וחדשות מזויפות
דיסאינפורמציה מקוונת הפכה לנושא מרכזי בשנים האחרונות. חדשות מזויפות התפשטו כמו אש בשדה קוצים ברשתות החברתיות, ואנשים שלא יודעים טוב יותר נופלים לעתים קרובות לסיפורים מטעים - ולפעמים ממש מומצאים -. לזה יכולות להיות השלכות קשות בחיים האמיתיים, ונראה כאילו לאף אחד אין מושג איך להפסיק הפצת חדשות מזויפות מבלי להפר את חוקי חופש הביטוי.
כלים כמו ChatGPT עלולים להחמיר את הבעיה הזו. איומים על שחקנים שיש להם גישה לתוכנה שמסוגלת לייצר אלפי ידיעות מזויפות ופוסטים ברשתות חברתיות מדי יום נראה כמו מתכון לאסון.
אל תיקח את המילה שלנו
אם אתה לא משוכנע, שאלנו את ChatGPT איך פושע רשת ישתמש בזה. נראה שהוא מסכים עם עיקרו של מאמר זה.
בידיים הלא נכונות, ChatGPT הופך למסוכן
אפשר רק לדמיין איזו בינה מלאכותית תהיה מסוגלת בעוד חמש או 10 שנים מהיום. לעת עתה, עדיף להתעלם מההייפ ומהבהלה, ולהעריך את ChatGPT בצורה רציונלית.
כמו כל טכנולוגיה, ChatGPT אינו מועיל מטבעו ואינו מזיק. למרות כמה חסרונות, זהו ללא ספק הצ'אטבוט המסוגל ביותר שיצא לציבור אי פעם.
