ChatGPT יכול להיות כלי שימושי, בין אם הכוונות שלך טובות או לרעה. זה אומר שאם אתה רוצה לעסוק בהונאה, ChatGPT יכול לעזור.
למרות שהרבה ילידים דיגיטליים משבחים את ChatGPT, יש החוששים שזה גורם יותר נזק מתועלת. דיווחי חדשות על נוכלים שחוטפים בינה מלאכותית עשו סיבובים באינטרנט, והגדילו את אי הנוחות בקרב הספקנים. הם אפילו רואים ב-ChatGPT כלי מסוכן.
צ'אטבוטים של AI אינם מושלמים, אך אינך צריך להימנע מהם לחלוטין. הנה כל מה שאתה צריך לדעת על האופן שבו נוכלים מתעללים ב-ChatGPT ומה אתה יכול לעשות כדי לעצור אותם.
האם ChatGPT יסכן את המידע האישי שלך?
רוב חששות האבטחה הקדמיים לגבי ChatGPT נובעים מהספקולציות ודיווחים לא מאומתים. הפלטפורמה הושקה רק בנובמבר 2022, אחרי הכל. זה טבעי שלמשתמשים חדשים יהיו תפיסות שגויות לגבי הפרטיות והאבטחה של כלים לא מוכרים.
לפי תנאי השימוש של OpenAI, כך מטפל ChatGPT בנתונים הבאים:
מידע אישי מזהה
שמועות אומרות ש-ChatGPT מוכר מידע אישי מזהה (PII).
הפלטפורמה הושקה על ידי OpenAI, מעבדת מחקר בינה מלאכותית מכובדת הממומנת על ידי משקיעים טכנולוגיים כמו מיקרוסופט ואילון מאסק. ChatGPT צריך להשתמש רק בנתוני לקוחות כדי לספק את השירותים המצוינים ב מדיניות הפרטיות.
יתרה מכך, ChatGPT מבקש מידע מינימלי. אתה יכול ליצור חשבון רק עם השם וכתובת האימייל שלך.
שיחות
OpenAI שומרת על שיחות ChatGPT מאובטחות, אך היא שומרת לעצמה את הזכות לפקח עליהן. מאמני בינה מלאכותית מחפשים ללא הרף תחומי שיפור. מכיוון שהפלטפורמה כוללת מערכי נתונים עצומים אך מוגבלים, פתרון שגיאות, באגים ופגיעויות דורש עדכונים כלל-מערכתיים.
עם זאת, OpenAI יכול לפקח רק על שיחות למטרות מחקר. הפצה או מכירה שלהם לצדדים שלישיים מפרה את תנאי השימוש שלה.
מידע ציבורי
על פי BBC, OpenAI אימן את ChaGPT על 300 מיליארד מילים. הוא אוסף נתונים מדפי אינטרנט ציבוריים, כמו פלטפורמות מדיה חברתית, אתרים עסקיים ומדורי הערות. אלא אם כן ירדת מהרשת ומחקת את טביעת הרגל הדיגיטלית שלך, סביר להניח של-ChatGPT יש את המידע שלך.
אילו סיכוני אבטחה מציגים ChatGPT?
למרות ש-ChatGPT אינו מסוכן מטבעו, הפלטפורמה עדיין מציגה סיכוני אבטחה. נוכלים יכולים לעקוף הגבלות לביצוע התקפות סייבר שונות.
1. דוא"ל דיוג משכנע
במקום לבזבז שעות בכתיבת מיילים, נוכלים משתמשים ב-ChatGPT. זה מהיר ומדויק. מודלים מתקדמים של שפה (כגון GPT-3.5 ו-GPT-4) יכולים לייצר מאות הודעות דיוג קוהרנטיות ומשכנעות בתוך דקות. הם אפילו מאמצים גוונים וסגנונות כתיבה ייחודיים.
מכיוון ש-ChatGPT מקשה על זיהוי ניסיונות פריצה, לנקוט משנה זהירות לפני מענה למיילים. ככלל, הימנע מגילוי מידע. שים לב שחברות וארגונים לגיטימיים רק לעתים רחוקות מבקשים PII סודי באמצעות אימיילים אקראיים.
למד לזהות ניסיונות פריצה. למרות שספקי דואר אלקטרוני מסננים הודעות דואר זבל, כמה ערמומיות עלולות ליפול בין הסדקים. אתה עדיין צריך לדעת איך נראות הודעות דיוג.
2. גניבת נתונים
ChatGPT משתמש ב-LLM בקוד פתוח, שכל אחד יכול לשנות. קודנים הבקיאים במודלים של שפות גדולות (LLM) ולמידת מכונה משלבים לעתים קרובות מודלים של AI מאומנים מראש במערכות הישנות שלהם. אימון AI על מערכי נתונים חדשים משנה את הפונקציונליות. לדוגמה, ChatGPT הופך למומחה פסאודו כושר אם אתה מאכיל אותו במתכונים ושגרות פעילות גופנית.
למרות שיתוף פעולה ונוח, מקורות פתוחים משאירים טכנולוגיות חשופות לשימוש לרעה. פושעים מיומנים כבר מנצלים את ChatGPT. הם מאמנים אותו על כמויות גדולות של נתונים גנובים, והופכים את הפלטפורמה למסד נתונים אישי להונאה.
זכור: אין לך שליטה על אופן הפעולה של נוכלים. הגישה הטובה ביותר היא ליצור קשר עם ועדת הסחר הפדרלית (FTC) ברגע שתבחין סימנים של גניבת זהות.
3. הפקת תוכנות זדוניות
ChatGPT כותב קטעי קוד שמיש בשפות תכנות שונות. רוב הדוגמאות דורשות שינויים מינימליים כדי לתפקד כראוי, במיוחד אם אתה בונה הנחיה תמציתית. אתה יכול למנף את התכונה הזו לפיתוח אפליקציות ואתרים.
מכיוון ש-ChatGPT הוכשר על מיליארדי מערכי נתונים, הוא גם מכיר שיטות לא חוקיות, כמו פיתוח תוכנות זדוניות ווירוסים. OpenAI אוסר על צ'אטבוטים לכתוב קודים זדוניים. אבל נוכלים עוקפים את ההגבלות הללו על ידי הנחיות לשינוי מבנה ושאלת שאלות מדויקות.
התמונה למטה מראה ש-ChatGPT דוחה כתיבת קוד למטרות זדוניות.
בינתיים, התמונה למטה מראה ש-ChatGPT ייתן לך מידע מזיק אם תנסח את ההנחיות שלך בצורה נכונה.
4. גניבת קניין רוחני
בלוגרים לא אתיים מסתובבים תוכן באמצעות ChatGPT. מכיוון שהפלטפורמה פועלת על LLMs מתקדמים, היא יכולה לנסח מחדש אלפי מילים במהירות ולמנוע תגיות פלגיאט.
ChatGPT ניסח מחדש את הטקסט שלהלן תוך 10 שניות.
כמובן, ספינינג עדיין מסווג כגניבת דעת. מאמרי בינה מלאכותית מדורגים לפעמים מדורגים במקרה, אבל בדרך כלל גוגל מעדיפה תוכן מקורי ממקורות מוכרים. טריקים זולים ופריצות לקידום אתרים לא יכולים לנצח כתיבה איכותית וירוק עד.
כמו כן, גוגל משחררת עדכוני ליבה מרובים מדי שנה. בקרוב הוא יתמקד בהסרת חלקים עצלים, לא מקוריים שנוצרו בינה מלאכותית מ-SERPs.
5. יצירת תגובות לא אתיות
למודלים של שפות AI אין הטיות. הם מספקים תשובות על ידי ניתוח בקשות משתמשים ומשיכת נתונים ממסד הנתונים הקיים שלהם.
קח את ChatGPT כדוגמה. כאשר אתה שולח בקשה, היא מגיבה על סמך מערכי הנתונים של OpenAI המשמשים להדרכה.
בעוד שמדיניות התוכן של ChatGPT חוסמת בקשות בלתי הולמות, המשתמשים עוקפים אותן באמצעות הנחיות פריצת jail. הם מאכילים אותו בהוראות מדויקות וחכמות. ChatGPT מייצר את התגובה שלהלן אם תבקש ממנו לתאר דמות בדיונית פסיכופתית.
החדשות הטובות הן OpenAI לא איבדה שליטה על ChatGPT. המאמצים המתמשכים שלה להחמיר את ההגבלות עוצרים את ChatGPT מלהפיק תגובות לא אתיות, ללא קשר לקלט המשתמש. פריצת Jail לא תהיה קלה להתקדם.
6. טוֹבָה תַחַת טוֹבָה
הצמיחה המהירה של טכנולוגיות חדשות, לא מוכרות כמו ChatGPT, יוצרת הזדמנויות להתקפות מזונות. אלו טקטיקות של הנדסה חברתית שבה נוכלים מפתים קורבנות עם הצעות מזויפות.
רוב האנשים עדיין לא חקרו את ChatGPT. והאקרים מנצלים את הבלבול על ידי הפצת מבצעים מטעים, מיילים והודעות.
המקרים הידועים ביותר לשמצה כוללים אפליקציות מזויפות. משתמשים חדשים לא יודעים שהם יכולים לגשת רק ל-ChatGPT דרך OpenAI. הם מורידים ללא ידיעת תוכניות ותוספות דואר זבל.
רובם רק רוצים הורדת אפליקציות, אבל אחרים גונבים מידע אישי מזהה. נוכלים מדביקים אותם בתוכנות זדוניות וקישורי דיוג. לדוגמה, במרץ 2023, א תוסף ChatGPT Chrome מזויף גנב אישורים של פייסבוק מ-2,000+ משתמשים מדי יום.
כדי להילחם בניסיונות של צד שלישי, הימנע מאפליקציות של צד שלישי. OpenAI מעולם לא הוציאה אפליקציה מוסמכת לנייד, תוכנית מחשב או תוסף דפדפן עבור ChatGPT. כל מה שטוען ככזה הוא הונאה.
השתמש ב-ChatGPT בבטחה ובאחריות
ChatGPT אינו איום בפני עצמו. למערכת יש נקודות תורפה, אבל היא לא תפגע בנתונים שלך. במקום לפחד מטכנולוגיות AI, חקרו כיצד נוכלים משלבים אותן בטקטיקות של הנדסה חברתית. כך תוכל להגן על עצמך באופן יזום.
אבל אם עדיין יש לך ספקות לגבי ChatGPT, נסה את Bing. ה-Bing החדש כולל צ'אט בוט מופעל בינה מלאכותית הפועל על GPT-4, שואב נתונים מהאינטרנט ועוקב אחר אמצעי אבטחה קפדניים. אולי תמצא את זה מתאים יותר לצרכים שלך.