מהי הזיה בינה מלאכותית ואיך מזהים אותה?

הזיה של בינה מלאכותית (AI) נשמעת מביכה. אתם בטח חושבים, "האין הזיות היא תופעה אנושית?" ובכן, כן, פעם זה היה בן אדם בלבד תופעה עד שה-AI החלה להציג מאפיינים אנושיים כמו זיהוי פנים, למידה עצמית ודיבור הַכָּרָה.

לרוע המזל, הבינה המלאכותית קיבלה כמה תכונות שליליות, כולל הזיות. אז האם הזיות בינה מלאכותית דומה לסוג ההזיה שבני אדם חווים?

מהי הזיה בינה מלאכותית?

הזיה של בינה מלאכותית מתרחשת כאשר מודל AI מייצר תפוקות שונות מהמצופה. שים לב שדגמי AI מסוימים מאומנים לייצר פלטים בכוונה שאינם קשורים לשום קלט (נתונים) בעולם האמיתי.

לדוגמה, מחוללי טקסט לאמנות מובילים בינה מלאכותית, כגון DALL-E 2, יכולים ליצור באופן יצירתי תמונות חדשות שאנו יכולים לתייג כ"הזיות" מכיוון שהן אינן מבוססות על נתונים מהעולם האמיתי.

הזיות בינה מלאכותית במודלים גדולים של עיבוד שפות

בואו נחשוב איך תיראה הזיות AI במודל עיבוד שפה גדול כמו ChatGPT. הזיה של ChatGPT תגרום לכך שהבוט ייתן לך עובדה שגויה בקביעה כלשהי, כך שבאופן טבעי תקח עובדות כאלה כאמת.

במילים פשוטות, מדובר בהצהרות מומצאות של הצ'אטבוט החכם באופן מלאכותי. הנה דוגמה:

בשאילתה נוספת, ChatGPT הופיע עם זה:

הזיה בינה מלאכותית בראיה ממוחשבת

הבה נבחן תחום נוסף של בינה מלאכותית שיכול לחוות הזיות בינה מלאכותית: ראייה ממוחשבת. החידון למטה מציג מונטאז' 4x4 עם שתי ישויות שנראות כל כך דומות. התמונות הן שילוב של צ'יפס ברביקיו ועלים.

האתגר הוא לבחור את התפוצ'יפס מבלי לפגוע באף עלים במונטאז'. תמונה זו עשויה להיראות מסובכת למחשב, וייתכן שהיא לא תוכל להבדיל בין צ'יפס הברביקיו והעלים.

הנה עוד מונטאז' עם שילוב של תמונות של לחמניית פודל וחוט חזיר. סביר להניח שמחשב לא יוכל להבדיל ביניהם, ולכן מערבב את התמונות.

מדוע מתרחשת הזיות בינה מלאכותית?

הזיות בינה מלאכותית עלולה להתרחש עקב דוגמאות יריבות - נתוני קלט שמטעים יישום AI לסיווגם שגוי. לדוגמה, בעת אימון יישומי AI, מפתחים משתמשים בנתונים (תמונה, טקסט או אחרים); אם הנתונים משתנים או מעוותים, היישום מפרש את הקלט בצורה שונה, ונותן פלט שגוי.

לעומת זאת, אדם עדיין יכול לזהות ולזהות את הנתונים במדויק למרות העיוותים. אנחנו יכולים לתייג את זה כשכל ישר - תכונה אנושית שעדיין אין ל-AI. ראה כיצד בינה מלאכותית מתעתעת בדוגמאות יריבות בסרטון הזה:

לגבי מודלים גדולים מבוססי שפה כגון ChatGPT והחלופות שלו, הזיות עלולות לנבוע מפענוח לא מדויק מהשנאי (מודל למידת מכונה).

ב-AI, שנאי הוא מודל למידה עמוקה המשתמש בתשומת לב עצמית (יחסים סמנטיים בין מילים ב משפט) כדי לייצר טקסט דומה למה שאדם היה כותב באמצעות מקודד-מפענח (קלט-פלט) סדר פעולות.

אז שנאים, מודל למידת מכונה מפוקחת למחצה, יכולים ליצור גוף חדש של טקסט (פלט) מהקורפוס הגדול של נתוני טקסט המשמשים בהכשרתו (קלט). הוא עושה זאת על ידי חיזוי המילה הבאה בסדרה על סמך המילים הקודמות.

בנוגע להזיה, אם מודל שפה היה מאומן על נתונים ומשאבים לא מספיקים ולא מדויקים, צפוי שהפלט יהיה מורכב ולא מדויק. מודל השפה עשוי ליצור סיפור או נרטיב ללא חוסר עקביות לוגית או קשרים לא ברורים.

בדוגמה למטה, ChatGPT התבקש לתת מילה הדומה ל"מרד" ומתחילה ב-"ב". הנה תגובתו:

בבדיקה נוספת, הוא המשיך לתת תשובות שגויות, עם רמה גבוהה של ביטחון.

אז למה ChatGPT לא מסוגל לתת מענה מדויק להנחיות הללו?

יכול להיות שמודל השפה אינו מצויד להתמודד עם הנחיות מורכבות למדי כמו אלה או אחרות לא יכול לפרש את ההנחיה במדויק, תוך התעלמות מההנחיה על מתן מילה דומה עם ספציפי אלף בית.

איך מזהים הזיות בינה מלאכותית?

ברור כעת שלאפליקציות בינה מלאכותית יש פוטנציאל להזות - ליצור תגובות אחרת מהפלט הצפוי (עובדה או אמת) ללא כל כוונה זדונית. וזיהוי וזיהוי הזיות AI תלוי במשתמשים של יישומים כאלה.

הנה כמה דרכים לזהות הזיות בינה מלאכותית תוך שימוש ביישומי AI נפוצים:

1. מודלים גדולים לעיבוד שפה

למרות שזה נדיר, אם אתה מבחין בשגיאה דקדוקית בתוכן המיוצר על ידי מודל עיבוד גדול, כמו ChatGPT, זה אמור להרים גבה ולגרום לך לחשוד בהזיה. באופן דומה, כאשר תוכן שנוצר בטקסט אינו נשמע הגיוני, אינו תואם את ההקשר שניתן או תואם את נתוני הקלט, עליך לחשוד בהזיה.

שימוש בשיפוט אנושי או בשכל הישר יכול לסייע בזיהוי הזיות, שכן בני אדם יכולים לזהות בקלות מתי טקסט אינו הגיוני או עוקב אחר המציאות.

2. ראייה ממוחשבת

כענף של בינה מלאכותית, למידת מכונה ומדעי המחשב, ראיית מחשב מעצימה מחשבים לזהות ולעבד תמונות כמו עיניים אנושיות. באמצעות רשתות עצביות קונבולוציוניות, הם מסתמכים על הכמות המדהימה של נתונים חזותיים המשמשים באימון שלהם.

סטייה מהדפוסים של הנתונים החזותיים המשמשים באימון תגרום להזיות. לדוגמה, אם מחשב לא היה מאומן עם תמונות של כדור טניס, הוא יכול לזהות אותו ככתום ירוק. או אם מחשב מזהה סוס ליד פסל אנושי כסוס לצד אדם אמיתי, אז התרחשה הזיה בינה מלאכותית.

אז כדי לזהות הזיה של ראייה ממוחשבת, השוו את הפלט שנוצר למה שמצופה מאדם [רגיל] לראות.

3. מכוניות בנהיגה עצמית

הודות ל-AI, מכוניות בנהיגה עצמית חודרות בהדרגה לשוק הרכב. חלוצים כמו טייס אוטומטי של טסלה ו-BlueCruise של פורד דגלו בזירת המכוניות האוטומטיות. אתה יכול לבדוק איך ומה רואה הטייס האוטומטי של טסלה כדי להבין קצת כיצד AI מפעיל מכוניות בנהיגה עצמית.

אם אתה הבעלים של אחת ממכוניות כאלה, תרצה לדעת אם מכונית הבינה המלאכותית שלך הוזה. סימן אחד יהיה אם נראה שהרכב שלך סוטה מדפוסי ההתנהגות הרגילים שלו בזמן נהיגה. לדוגמה, אם הרכב בולם או סוטה בפתאומיות ללא סיבה ברורה, רכב הבינה המלאכותית שלך עשוי להיות הזוי.

גם מערכות בינה מלאכותית יכולות להזות

בני אדם ודגמי AI חווים הזיות בצורה שונה. כשמדובר ב-AI, הזיות מתייחסות לתפוקות שגויות שמרוחקות קילומטרים מהמציאות או שאינן הגיוניות בהקשר של ההנחיה הנתונה. לדוגמה, צ'אטבוט של AI עשוי לתת תגובה שגויה מבחינה דקדוקית או לוגית או לזהות אובייקט שגוי עקב רעש או גורמים מבניים אחרים.

הזיות בינה מלאכותית אינן נובעות ממוח מודע או תת-מודע, כפי שהיית רואה בבני אדם. במקום זאת, זה נובע מחוסר התאמה או חוסר מספיק של הנתונים המשמשים באימון ותכנות מערכת הבינה המלאכותית.