ChatGPT הוא צ'טבוט חדש ועוצמתי של AI שמהר להרשים, ובכל זאת הרבה אנשים ציינו שיש לו כמה מלכודות רציניות. שאל את זה כל מה שאתה אוהב, ותקבל תשובה שנשמעת כאילו היא נכתבה על ידי אדם, לאחר שלמד את הידע ואת כישורי הכתיבה שלו מכמויות המוניות של מידע ברחבי האינטרנט.
עם זאת, בדיוק כמו האינטרנט, האמת והעובדות אינן תמיד מובנות ו-ChatGPT אשם בטעות. כאשר ChatGPT אמור לשנות את עתידנו, הנה כמה מהחששות הגדולים ביותר.
מה זה ChatGPT?
ChatGPT הוא מודל גדול ללימוד שפה שנועד לחקות שיחה אנושית. הוא יכול לזכור דברים שאמרת לו בעבר ומסוגל לתקן את עצמו כאשר הוא טועה.
הוא כותב בצורה דמוית אנוש ויש לו שפע של ידע כי הוא הוכשר על כל מיני טקסטים מהאינטרנט, כמו ויקיפדיה, פוסטים בבלוג, ספרים ומאמרים אקדמיים.
זה קל ללמוד כיצד להשתמש ב-ChatGPT, אבל מה שמאתגר יותר הוא לגלות מהן הבעיות הגדולות ביותר שלה. הנה כמה שכדאי לדעת עליהם.
1. ChatGPT לא תמיד נכון
הוא נכשל במתמטיקה בסיסית, לא יכול לענות על שאלות היגיון פשוטות, ואפילו ירחיק לכת עד כדי לטעון עובדות שגויות לחלוטין. כפי שמשתמשי מדיה חברתית יכולים להעיד, ChatGPT יכול לטעות ביותר מהזדמנות אחת.
OpenAI יודע על המגבלה הזו, וכותב ש: "ChatGPT כותב לפעמים תשובות שנשמעות סבירות אך לא נכונות או שטויות." זֶה "הזיה" של עובדות ובדיות, כפי שכמה מדענים מכנים זאת, מסוכנת במיוחד כשמדובר במשהו כמו רפואי עֵצָה.
בניגוד לעוזרי AI אחרים כמו Siri או Alexa, Chat GPT לא משתמש באינטרנט כדי לאתר תשובות. במקום זאת, הוא בונה משפט מילה אחר מילה, בוחר את ה"אסימון" הסביר ביותר שאמור לבוא לאחר מכן, על סמך הכשרתו.
במילים אחרות, ChatGPT מגיע לתשובה באמצעות סדרה של ניחושים, וזו חלק מהסיבה שהוא יכול להתווכח על תשובות שגויות כאילו הן נכונות לחלוטין.
למרות שהוא נהדר בהסבר מושגים מורכבים, מה שהופך אותו לכלי רב עוצמה ללמידה, חשוב לא להאמין לכל מה שהוא אומר. ChatGPT לא תמיד נכון - לפחות עדיין לא.
2. הטיה אפויה במערכת
ChatGPT הוכשר על כתיבה קולקטיבית של בני אדם ברחבי העולם, בעבר ובהווה. המשמעות היא שאותן הטיות שקיימות בנתונים, יכולות להופיע גם במודל.
למעשה, משתמשים הראו כיצד ChatGPT יכול לתת כמה תשובות נוראיות, חלקן, למשל, המפלות נשים. אבל זה רק קצה הקרחון; זה יכול לייצר תשובות שמזיקות ביותר למגוון קבוצות מיעוט.
האשמה לא טמונה רק בנתונים. חוקרים ומפתחים של OpenAI בוחרים את הנתונים המשמשים לאימון ChatGPT. כדי לעזור לטפל במה ש-OpenAI מכנה "התנהגות מוטה", היא מבקשת ממשתמשים לתת משוב על תפוקות גרועות.
עם פוטנציאל לגרום נזק לאנשים, אתה יכול לטעון ש-ChatGPT לא היה צריך להיות משוחרר לציבור לפני שבעיות אלו נלמדות ונפתרות.
צ'טבוט דומה של AI בשם Sparrow (בבעלות חברת האם של גוגל, Alphabet) שוחרר בספטמבר 2022. עם זאת, הוא הוחזק מאחורי דלתיים סגורות בגלל חששות דומים שהוא עלול לגרום נזק.
אולי גם מטה הייתה צריכה לעמוד בראש האזהרה. כשהיא הוציאה את Galactica, מודל שפת בינה מלאכותית שהוכשרה על מאמרים אקדמיים, היא נזכרה במהירות לאחר שאנשים רבים מתחו עליה ביקורת על כך שהיא מציגה תוצאות שגויות ומגמות.
3. אתגר לאנגלית בתיכון
אתה יכול לבקש מ-ChatGPT להגיה את הכתיבה שלך או לציין כיצד לשפר פסקה. לחלופין, אתה יכול להסיר את עצמך מהמשוואה לחלוטין ולבקש מ-ChatGPT לכתוב משהו בשבילך.
מורים התנסו בהזנת מטלות אנגלית ל-ChatGPT וקיבלו תשובות טובות יותר ממה שרבים מתלמידיהם יכלו לעשות. מכתיבת מכתבי כיסוי ועד לתיאור נושאים מרכזיים ביצירה ספרותית מפורסמת, ChatGPT יכול לעשות זאת ללא היסוס.
זה מעלה את השאלה: אם ChatGPT יכול לכתוב עבורנו, האם התלמידים יצטרכו ללמוד לכתוב בעתיד? זה אולי נראה כמו שאלה קיומית, אבל כשתלמידים יתחילו להשתמש ב-ChatGPT כדי לעזור בכתיבת החיבורים שלהם, בתי הספר יצטרכו לחשוב על תשובה מהר. הפריסה המהירה של AI בשנים האחרונות צפויה לזעזע תעשיות רבות, והחינוך הוא רק אחד מהם.
4. זה יכול לגרום לנזק בעולם האמיתי
קודם לכן, הזכרנו כיצד מידע שגוי על ידי ChatGPT יכול לגרום לנזק בעולם האמיתי, כאשר הדוגמה הברורה ביותר היא ייעוץ רפואי שגוי.
יש גם חששות אחרים. חשבונות מזויפים במדיה חברתית מהווים בעיה ענקית באינטרנט ועם הצגתם של צ'טבוטים של AI, הונאות אינטרנט יהפכו לקלות יותר לביצוע. הפצת מידע מזויף היא דאגה נוספת, במיוחד כאשר ChatGPT גורם אפילו לתשובות שגויות להישמע נכונות בצורה משכנעת.
הקצב שבו ChatGPT יכול לייצר תשובות שלא תמיד נכונות כבר גרם לבעיות עבור Stack Exchange, אתר שבו משתמשים יכולים לפרסם שאלות ולקבל תשובות.
זמן קצר לאחר שחרורו, תשובות של ChatGPT נאסרו מהאתר בגלל שחלק גדול מהן שגויות. ללא מספיק מתנדבים אנושיים כדי למיין את העומס, אי אפשר יהיה לשמור על רמה גבוהה של תשובות איכותיות, ולגרום נזק לאתר.
5. ל-OpenAI יש את כל הכוח
עם כוח גדול באה אחריות גדולה, ו-OpenAI מחזיקה בכוח רב. זוהי אחת מחברות הבינה המלאכותית הראשונות שבאמת זעזעה את העולם עם לא אחד, אלא דגמי AI מרובים, כולל Dall-E 2, GPT-3 ועכשיו, ChatGPT.
OpenAI בוחר באילו נתונים משמשים לאימון ChatGPT וכיצד הוא מתמודד עם ההשלכות השליליות. בין אם נסכים עם השיטות או לא, היא תמשיך לפתח את הטכנולוגיה הזו בהתאם למטרות שלה.
בעוד ש-OpenAI רואה בבטיחות בעדיפות גבוהה, יש הרבה שאנחנו לא יודעים על האופן שבו המודלים נוצרים. בין אם אתה חושב שצריך להפוך את הקוד לקוד פתוח, או מסכים שהוא צריך לשמור חלקים ממנו בסוד, אין הרבה מה לעשות בקשר לזה.
בסופו של יום, כל מה שאנחנו יכולים לעשות הוא לסמוך על כך ש-OpenAI תחקור, תפתח ותשתמש ב-ChatGPT בצורה אחראית. לחלופין, אנו יכולים לתמוך בכך שיותר אנשים יגידו באיזה כיוון בינה מלאכותית צריכה לפנות, ולחלוק את כוחה של ה-AI עם האנשים שישתמשו בה.
אם אתה מעוניין במה עוד OpenAI פיתחה, עיין במאמרים שלנו בנושא כיצד להשתמש ב-Dall-E 2 ו כיצד להשתמש ב-GPT-3.
התמודדות עם הבעיות הגדולות ביותר של AI
יש הרבה מה להתרגש עם ChatGPT, הפיתוח האחרון של OpenAI. אבל מעבר לשימושים המיידיים שלו, יש כמה בעיות רציניות שכדאי להבין.
OpenAI מודה ש-ChatGPT יכול לייצר תשובות מזיקות ומגמות, שלא לדבר על היכולת שלה לערבב עובדות עם בדיה. עם טכנולוגיה כל כך חדשה, קשה לחזות אילו בעיות אחרות יצוצו. אז עד אז, תהנה לחקור את ChatGPT והיזהר לא להאמין לכל מה שהוא אומר.
