בינה מלאכותית לא מוכנה לחסל אותנו... עדיין.

בינה מלאכותית הייתה נושא לוויכוח מאז הקמתה. בעוד שהפחדים מ-AI דמוי Skynet יתעורר לחיים וישתלט על האנושות הם לא הגיוניים, בלשון המעטה, כמה ניסויים הניבו תוצאות.

ניסוי אחד כזה הוא בעיית מקסום מהדק הנייר, ניסוי מחשבתי שמראה כי AI אינטליגנטי ביותר, גם אם תוכנן לחלוטין ללא זדון, עלול בסופו של דבר להרוס את האנושות.

הסבר על הבעיה במקסם מהדק נייר

ניסוי המחשבה הזה שאפילו בינה מלאכותית בלתי מזיקה לחלוטין יכולה בסופו של דבר לחסל את האנושות נקרא תחילה מקסם אטבי הנייר פשוט בגלל שאטבים נבחרו להראות מה הבינה המלאכותית יכולה לעשות מכיוון שיש להם מעט סכנה נראית לעין ולא יגרמו למצוקה רגשית בהשוואה לתחומים אחרים שבעיה זו חלה עליהם כמו ריפוי סרטן או זכייה מלחמות.

הניסוי הראשון הופיע במאמרו של הפילוסוף השוודי ניק בוסטרום משנת 2003, סוגיות אתיות בבינה מלאכותית מתקדמת, שכלל את מקסום מהדק הנייר כדי להראות את הסיכונים הקיומיים ש-AI מתקדם מספיק יכול להשתמש בו.

הבעיה הציגה AI שמטרתו היחידה הייתה ליצור כמה שיותר מהדקי נייר. בינה מלאכותית מספיק אינטליגנטית תבין במוקדם או במאוחר שבני אדם מעמידים אתגר למטרתו בשלושה סעיפים שונים.

instagram viewer
  • בני אדם יכולים לכבות את הבינה המלאכותית.
  • בני אדם יכולים לשנות את המטרות שלהם.
  • בני אדם עשויים מאטומים, אותם ניתן להפוך לאטבי נייר.

בכל שלוש הדוגמאות, יהיו פחות מהדקי נייר ביקום. לכן בינה מלאכותית מספיק חכמה שמטרתה היחידה היא ליצור כמה שיותר מהדקים ישתלט על כל החומר והאנרגיה בהישג יד וימנע מעצמו כיבוי או השתנה. כפי שאתה בוודאי יכול לנחש, זה הרבה יותר מסוכן מאשר פושעים המשתמשים ב-ChatGPT כדי לפרוץ לחשבון הבנק או למחשב האישי שלך.

ה-AI אינו עוין בני אדם; זה פשוט אדיש. בינה מלאכותית שדואגת רק למקסם את מספר אטבי הנייר ימחק את האנושות ובעצם תמיר אותם לאטבים כדי להגיע ליעדה.

כיצד הבעיה של מקסם מהדקים חלה על בינה מלאכותית?

אזכורים מחקריים וניסויים של בעיית ממקסם מהדק הנייר, כולם מזכירים מייעל היפותטי חזק ביותר או סוכן אינטליגנטי ביותר בתור הצד הפועל כאן. ובכל זאת, הבעיה חלה על AI עד כמה שהיא מתאימה לתפקיד בצורה מושלמת.

הרעיון של מקסם מהדק נוצר כדי להראות כמה מהסכנות של AI מתקדם, אחרי הכל. בסך הכל, זה מציג שתי בעיות.

  • תזה אורתוגונליות: תזה האורתוגונליות היא הדעה כי אינטליגנציה ומוטיבציה אינן תלויות הדדית. זה אומר שיכול להיות שבינה מלאכותית עם רמה גבוהה של אינטליגנציה כללית לא תגיע לאותן מסקנות מוסריות כמו בני אדם.
  • התכנסות אינסטרומנטלית: התכנסות אינסטרומנטלית מוגדרת כנטייה של רוב היצורים האינטליגנטים מספיק (שניהם אנושיים ולא אנושיים) לרדוף אחר יעדי משנה דומים גם אם המטרה הסופית שלהם עשויה להיות לחלוטין שונה. במקרה של בעיית מקסום מהדק הנייר, זה אומר שה-AI בסופו של דבר ישתלט על כל משאב טבע ומחיקת האנושות רק כדי להשיג את מטרתה ליצור עוד ועוד מהדקי נייר.

הנושא הגדול יותר שמדגיש מהדק המקסום הוא התכנסות אינסטרומנטלית. ניתן גם להדגיש זאת באמצעות השערת רימן, ובמקרה זה AI שנועד לפתור את ההשערה עשוי בהחלט להחליט להשתלט על כל מסת כדור הארץ והמיר אותו לקומפוטרוניום (מעבדי המחשב היעילים ביותר האפשריים) כדי לבנות מחשבי-על כדי לפתור את הבעיה ולהגיע אליה מטרה.

בוסטרום עצמו הדגיש שהוא לא מאמין שבעיית מקסום מהדק הנייר אי פעם תהיה בעיה אמיתית, אבל כוונתו הייתה להמחיש את הסכנות שביצירת מכונות סופר אינטליגנטיות מבלי לדעת כיצד לשלוט או לתכנת אותן כך שלא יהיו מסוכנות מבחינה קיומית לאדם יצורים. גם למערכות AI מודרניות כמו ChatGPT יש בעיות, אבל הם רחוקים ממערכות הבינה המלאכותית העל-אינטליגנטיות שעליהן מדברים בבעיית המקסום של מהדק הנייר, אז אין סיבה להיכנס לפאניקה עדיין.

מערכות בינה מלאכותיות מתקדמות זקוקות לשליטה מעולה

בעיית מקסום מהדק הנייר מגיעה תמיד לאותה מסקנה ומדגישה את הבעיות של ניהול מערכת אינטליגנטית וחזקה ביותר, חסרת ערכים אנושיים.

בעוד שהשימוש באטבים עשוי להיות השיטה הפופולרית ביותר להמחשת הבעיה, היא חלה על כל מספר משימות שאתה יכול לתת לבינה מלאכותית בין אם זה חיסול סרטן, ניצחון במלחמות, נטיעת עצים נוספים או כל משימה אחרת, לא משנה כמה לכאורה מְטוּפָּשׁ.