כיום, מיליונים מסתמכים על ChatGPT כמשאב מועיל, בין אם זה לעבודה, כיף או חינוך. אבל האם אתה יכול לסמוך על הצ'אטבוט הזה של AI שיספק תמיד את העובדות? האם ChatGPT משקר אי פעם, או שהוא ייתן לך רק מידע עובדתי?

מאיפה ChatGPT מקבל את המידע שלו?

בתקופת ההכשרה שלו, ChatGPT הוזן נתונים ממקורות ברחבי האינטרנט, כגון אתרי ממשלה וסוכנויות, כתבי עת מדעיים, מחקרים, מאמרי חדשות, פודקאסטים, פורומים מקוונים, ספרים, מאגרי מידע, סרטים, סרטים דוקומנטריים וחברתיים כְּלֵי תִקְשׁוֹרֶת.

באופן ספציפי, ChatGPT-3 הוכשר באמצעות מסד נתונים נרחב של מידע שהסתכם ב-570GB של נתונים. כפי שנאמר במאמר מ מדע פוקוס, 300 מיליארד מילות מידע הוזנו למערכת GPT-3 במהלך פיתוחה.

משהו שכדאי לציין כאן הוא ש-ChatGPT הוזנה רק נתונים שהיו קיימים לפני 2021. המשמעות היא שהצ'אטבוט לא יכול לענות על שאלות הקשורות לאירועים אחרונים. גם ל-ChatGPT אין גישה לאינטרנט. הנתונים שהם הוזנו בהדרכה הם מהסוג היחיד שבו הוא משתמש כדי למלא את הנחיות המשתמש.

אבל האם ChatGPT מספקת לך רק את העובדות, או שמידע מעורפל יותר מעורב בתגובות שלה? בנוסף, האם ChatGPT יכול לשקר לך?

instagram viewer

האם ChatGPT משקר?

בעוד ש-ChatGPT מספק לעתים קרובות מידע אמיתי למשתמשים, יש לו את היכולת "לשקר". כמובן, ChatGPT לא מחליטה לשקר בזדון למשתמשים, מכיוון שהיא פשוט לא יכולה לעשות זאת. אחרי הכל, ChatGPT הוא כלי לעיבוד שפה, לא חיקוי של אדם אמיתי ורגיש.

עם זאת, טכנית ChatGPT עדיין יכול לשקר דרך תופעה הידועה בשם הזיה בינה מלאכותית.

הזיה בינה מלאכותית כרוכה במערכת בינה מלאכותית המספקת מידע שנראה הגיוני או סביר אך, במציאות, אינו נכון כלל. למעשה, הזיה בינה מלאכותית יכולה לספק מידע שהוא מעולם לא הוזנה במהלך תקופת האימונים שלו. לחלופין, זה יכול להתרחש כאשר מערכת AI מספקת מידע שאינו קשור להנחיה או לבקשה. מערכת בינה מלאכותית עשויה אפילו לטעון שהיא אנושית באירוע הזיה.

מערכות בינה מלאכותית, כמו צ'טבוטים, נופלות למלכודת ההזיה מכמה סיבות: חוסר ההבנה שלהן בעולם האמיתי, באגים בתוכנה ומגבלות על הנתונים שסופקו.

כפי שצוין בעבר, ChatGPT יכול לספק מידע רק באמצעות נתונים שפורסמו עד 2021, מה שבהחלט מגביל את סוגי הנחיות שהוא יכול למלא.

אחד מ הבעיות הגדולות של ChatGPT הוא יכול גם ליפול קורבן להטיה בעת מתן מידע למשתמשים. אפילו היוצרים של ChatGPT הצהירו שמערכת הבינה המלאכותית הייתה "מוטה פוליטית, פוגענית" ו"מתנגדת אחרת" בעבר. כפי שדווח על ידי העצמאי, המפתחים של ChatGPT מחויבים להתמודד עם הנושא הזה, אבל זה לא אומר שזה כבר לא מהווה סיכון.

כשנשאל, ChatGPT ציין שהסיבות שהוא עשוי לספק מידע לא מדויק כוללות את הדברים הבאים:

  • עמימות בשאלה (הנחיות מעורפלות, לא ברורות);
  • מידע חלקי מסופק;
  • מידע מוטה או שגוי שסופק; אוֹ,
  • מגבלות טכניות (בעיקר עקב חוסר גישה לנתונים עדכניים).

אז, ChatGPT עצמה הצהירה שיש תרחישים שבהם היא לא תספק מידע מדויק למשתמשים.

בתגובה אחרת באותה שיחה, הצהיר ChatGPT כי "זה תמיד רעיון טוב לאמת כל מידע שהוא מספק עם מקורות אחרים".

האם אתה יכול לסמוך על ChatGPT?

מכיוון שהוא יכול לספק מידע שקרי, ברור לך לא יכול לסמוך על ChatGPT 100% מהזמן.

אתה יכול להפחית את הסיכון של צ'אטבוט AI להזיות על ידי הגדרת פרמטרים ספציפיים לגבי האופן שבו הוא יכול לענות לך. עם זאת, עדיין אין ערובה לכך שמידע כוזב כלשהו לא יחמוק בין הסדקים.

בגלל זה, עדיף לבדוק כל מידע ש-ChatGPT נותן לך, במיוחד אם אתה מבקש מידע על אירועים אחרונים. בדיקה כפולה של נתונים אלה על ידי הפניה למקורות אחרים יכולה לעזור לך לקבוע אם ChatGPT צודק במה שהוא אומר ויכול למנוע ממך לקבל החלטות לא מומלצות.

ChatGPT שימושי אבל לא תמיד אמת

למרבה הצער, אינך יכול לסמוך על ChatGPT כדי לספק מידע אמיתי וחסר פניות 100% מהזמן. צ'אט בוט זה המופעל בינה מלאכותית מועיל ללא ספק ויכול לעזור לך בדרכים שונות, אך תמיד כדאי לוודא אם המידע שהוא מספק הוא עובדתי.