זה נהיה יותר ויותר קשה עבור כלי זיהוי בינה מלאכותית, וזה לא נראה שישתנה בקרוב.
צ'טבוטים של AI הם ללא ספק כלים חזקים ושימושיים. עם זאת, היכולת להבחין בין תוכן שנוצר על ידי אדם לתוכן שנוצר על ידי AI הופכת לנושא בולט.
כדי לטפל בבעיה זו, צצו כלים כמו ZeroGPT. אלה נועדו להבדיל בין AI לתוכן שנוצר על ידי אדם. אבל האם הם עובדים?
בואו נסתכל מקרוב על כלי זיהוי בינה מלאכותית ונראה אם הם יכולים להבחין בין טקסט אנושי לטקסט שנוצר בינה מלאכותית.
אומרים שההוכחה לפודינג היא באכילה. אז בואו ננסה כמה בדיקות ונראה עד כמה הכלים האלה יעילים. אי אפשר לבדוק כל כלי, אז אנחנו בודקים את אחד הכלים הפופולריים ביותר - ZeroGPT.
לגבי חומר, חשבנו שזה יהיה די כיף לתת ל-ChatGPT הזדמנות לכתיבת מבוא למאמר זה ולאחר מכן להשוות אותו אל מול ההקדמה "נוצר האדם":
מבחן ראשון: השוואה בין מבוא למאמר שנוצר על ידי אדם ושל בינה מלאכותית
הדבר הראשון שעשינו היה לגרום ל-ChatGPT ליצור הקדמה. הכנסנו את הכותרת ולא נתנו לה מידע נוסף. לפרוטוקול, השתמשנו ב-GPT-3.5 לבדיקה.
לאחר מכן העתקנו את הטקסט והדבקנו אותו ב- ZeroGPT. כפי שאתה יכול לראות, התוצאות היו פחות מהממות.
התחלה לא בולטת, אבל היא ממחישה עד כמה צ'טבוטים של AI יעילים. כדי להשלים את הבדיקה, אנו מאפשרים ל-ZeroGPT לנתח טיוטה מבוא שנוצר על ידי אדם.
לפחות זה קיבל את החלק הזה נכון. בסך הכל, ZeroGPT נכשל בסבב הזה. הוא אמנם קבע שלפחות חלק מהקדמה שנוצרה על ידי AI היה חשוד אך לא הצליח להדגיש בעיות ספציפיות.
מבחן שני: הבעיה חיובית כוזבת
ככל שהשימוש ב-ChatGPT ובכלי AI אחרים גדל, הסבירות לדעת או לשמוע על מישהו שעומד בפני טענות שעבודתו נוצרה על ידי AI. ההאשמות הללו הן אחת הבעיות היותר חמורות עם ChatGPT וכלי זיהוי בינה מלאכותית כמו ZeroGPT, מכיוון שסוג כזה של שגיאה יכול לפגוע במוניטין ולהשפיע על פרנסה.
חיוביות כוזבות מתרחשות כאשר תוכן שנוצר על ידי אדם מסומן באופן שגוי כעבודה של AI. כפי שמראה הדוגמה להלן, הבעיה משוכפלת בקלות. אני דייג נלהב, אז החלטתי לכתוב מבוא למאמר דמיוני על דיג בפלורידה. לאחר מכן נתתי ל-ZeroGPT לנתח את הטקסט - הוא סימן שהטקסט נוצר ב-100% בינה מלאכותית.
למען ההגינות, כיוונתי לתוצאה הזו. שמרתי את הטקסט כללי והשתמשתי בשפה "מכירתית". אבל הנקודה שאדם כתב את זה נשארת תקפה באותה מידה. זו לא אי נוחות או משהו שאפשר פשוט להתנער ממנו. לשגיאות מסוג זה יכולות להיות השלכות חמורות עבור סופרים, סטודנטים ואנשי מקצוע אחרים שיוצרים יצירות כתובות.
מבחן שלישי: בדיקת ZeroGPT על ספרות
עבור המבחן השלישי, אנו הולכים להשתמש ב-ChatGPT ולבקש ממנו לכתוב קצת סיפורת. לשם כך, יצרנו תרחיש והנחנו את ChatGPT לכתוב מבוא קצר לסיפור בדיוני.
שמרנו על זה פשוט ורק ביקשנו לכתוב הקדמה לסיפור על שני זרים שנפגשים על רציף רכבת:
והנה התגובה מאת ZeroGPT:
כפי שעולה מהתוצאה, ZeroGPT אינו מסוגל להבחין בין עובדות לבדיון כאשר עוסקים בפיקציה!
מבחן רביעי: כתבות חדשות
יש משהו מטריד בכך שה-AI מסוגל ליידע אותנו על מה שקורה בעולם סביבנו. זה לא תמיד בהכרח "חדשות מזויפות", שכן זה יכול להיות רלוונטי ואינפורמטיבי, אבל יש חששות אתיים מובהקים לגבי AI.
כדי להיות הוגן כלפי ZeroGPT, הוא פעל היטב במבחן הזה. ביקשנו מ-ChatGPT ומ-Bing Chat לכתוב מאמרי חדשות על כמה נושאים, וזרוGPT הצליחה בכל פעם. הדוגמה שלמטה מראה שהיא מצהירה נכונה על מאמר שנוצר ב-Bing Chat כעל 100% AI שנוצר.
הכלי סימן כל מאמר חדשותי באופן עקבי כל כך כנוצר בינה מלאכותית, שהחלטנו לבדוק אותו במאמר חדשות דמה שכתבנו למטרה זו.
זה לפחות זיהה חלק מהמאמרים שנוצרו על ידי אדם, אבל הוא סומן למעלה מ-70% כיצירת בינה מלאכותית. שוב, אנחנו צריכים להיות הוגנים כאן; זה היה שחזור בסיסי למדי של מאמר בינג וכמעט לא היה באיכות פרס פוליצר.
אבל הנקודה נשארת בתוקף. זה נכתב על ידי אדם באמצעות מחקר שנמצא באינטרנט.
אין סיבה אחת מאחורי הפגמים בכלים כמו ZeroGPT. עם זאת, בעיה בסיסית אחת היא האפקטיביות של צ'טבוטים AI גנרטיביים. אלה מייצגים טכנולוגיה חזקה להפליא ומתפתחת במהירות, שהופכת אותם למעשה למטרה נעה עבור כלי זיהוי בינה מלאכותית.
צ'טבוטים של AI משפרים ללא הרף את האיכות וה"אנושיות" של התפוקה שלהם, וזה הופך את המשימה למאתגרת ביותר. עם זאת, ללא קשר לקשיים, צד הבינה המלאכותית של המשוואה חייב לבצע שיפוט ללא פיקוח אנושי.
כלים כמו ZeroGPT משתמשים ב-AI כדי לקבוע את ההחלטות שלהם. אבל AI לא רק מתעורר בבוקר ויודע מה לעשות. יש לאמן אותו, וכאן הצד הטכני של המשוואה הופך לרלוונטי.
הטיות אלגוריתמיות ונתוני אימון הן בלתי נמנעות, בהתחשב בגודל העצום של מודלים גדולים של שפה שהכלים הללו מאומנים עליהם. זו לא בעיה שמוגבלה לכלי זיהוי בינה מלאכותית, אותן הטיות יכולות לגרום לצ'אטבוטים של AI ליצור תגובות שגויות והזיות בינה מלאכותית.
עם זאת, שגיאות אלו מתבטאות כ"דגלי AI" שגויים בכלי זיהוי. זה בקושי אידיאלי, אבל זה משקף את המצב הנוכחי של טכנולוגיית AI. ההטיות הגלומות בנתוני האימון יכולות להוביל לתוצאות חיוביות שגויות או לשליליות שגויות.
גורם נוסף שיש לקחת בחשבון הוא מהו תוכן שנוצר בינה מלאכותית. אם תוכן שנוצר בינה מלאכותית פשוט מנוסח מחדש, האם זה תוכן אנושי או תוכן שנוצר בינה מלאכותית? זה מייצג אתגר מרכזי נוסף - טשטוש הקווים בין השניים הופך את הגדרת התוכן שנוצר על ידי מכונה לכמעט בלתי אפשרית.
מסתכלים על העתיד של זיהוי בינה מלאכותית
זה אולי נשמע כאילו אנחנו דופקים כלים כמו ZeroGPT. זה לא המקרה; הם מתמודדים עם אתגרים עצומים, והטכנולוגיה בקושי נגמרת מהחיתולים. הקליטה המהירה של כלים כמו ChatGPT יצרה דרישה לזיהוי AI, ויש לתת לטכנולוגיה הזדמנות להתבגר וללמוד.
לא ניתן לצפות שהכלים הללו יתמודדו בעצמם עם האתגרים שמציבים צ'אטבוטים. אבל הם יכולים למלא תפקיד חשוב במאמץ מרוכז ורב פנים להתמודד עם אתגרי הבינה המלאכותית. הם מייצגים חלק אחד בפאזל גדול יותר הכולל שיטות AI אתיות, פיקוח אנושי ומחקר ופיתוח מתמשכים.
האתגרים העומדים בפני הכלים הללו הם תמונות ראי של האתגרים העומדים בפני החברה כאשר אנו מתמודדים עם הדילמות הקשורות בעידן טכנולוגי חדש.
AI או לא AI? זאת השאלה
כלים כמו ZeroGPT פגומים, אין ספק בכך. אבל הם לא חסרי ערך, והם מייצגים צעד חשוב כשאנחנו מנסים לנהל ולווסת AI. הדיוק שלהם ישתפר, אבל גם התחכום של ה-AI שהם מאומנים לזהות. איפשהו באמצע מרוץ החימוש הזה, אנחנו צריכים למצוא איזון שהחברה מרגישה איתו בנוח.
השאלה - AI או לא AI? זה יותר מסתם דיון בשאלה אם משהו נוצר בינה מלאכותית או לא. זה מעיד על השאלות הגדולות יותר איתם מתמודדת החברה בזמן שאנו מסתגלים לעולם החדש והאמיץ של AI.
למען הפרוטוקול, ולפי ZeroGPT, 27.21% מהמסקנה הזו נוצרה בינה מלאכותית. הממ.
