מומחים חושבים שבינה מלאכותית תסיים את האנושות כפי שאנו מכירים אותה, אז מה עושים כדי למנוע את זה לקרות?
שוב, קבוצה של חוקרי בינה מלאכותית וחברות טכנולוגיה מובילות הזהירו כי ההתפתחות המהירה הנוכחית של בינה מלאכותית עלולה להמיט אסון על המין האנושי.
הסיכונים משתרעים על סכסוכים גרעיניים, מחלות, מידע מוטעה ובינה מלאכותית נמלטת ללא פיקוח, כל אלו מהווים איום מיידי על הישרדות האדם.
אבל לא יאבד שרבות מהאזהרות הללו מגיעות מאותם אנשים שמובילים פיתוח AI ודוחפים כלים ותוכניות בינה מלאכותית בחברות שלהם.
מדוע חברות טכנולוגיה ומדעני בינה מלאכותית מזהירים מפני סיכון בינה מלאכותית?
ב-30 במאי 2023, יותר מ-350 חוקרים, מפתחים ומהנדסים של בינה מלאכותית פרסמו הצהרה בחתימה המזהירה מפני האיום של בינה מלאכותית על האנושות.
הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית.
החותמים על ה הצהרת Safe.ai כלל את סם אלטמן מ-OpenAI, Demis Hassabis מ-Google DeepMind, ו-Dario Amodei מאנתרופיק, יחד עם טיורינג זוכי הפרס ג'פרי הינטון ויושע בנג'יו (אם כי יאן לקון, שגם זכה באותו פרס, התרשל בחתימה). הרשימה היא כמעט מי של עולם הפיתוח בינה מלאכותית - האנשים המובילים בינה מלאכותית - אך הנה כולם, מזהירים שבינה מלאכותית עלולה לגרום לאסון למין האנושי.
זוהי הצהרה קצרה שמבהירה את האיומים, ומציינת במיוחד שני תחומים מרכזיים שעלולים לסכן את העולם כפי שאנו מכירים אותו: לוחמה גרעינית ובעיות בריאות גלובליות. בעוד שהאיום בסכסוך גרעיני הוא דאגה, הסיכון למגיפה הוא איום מוחשי יותר עבור רובם.
עם זאת, זו לא רק מגיפה עולמית שעלולה לגרום לבעיות בריאות הקשורות לבינה מלאכותית. האפוטרופוס מדווח על מספר בעיות בריאותיות אחרות של AI שעלולות להשפיע על בני אדם אם לא ייבדקו לפני שימוש נרחב. דוגמה אחת קשורה לשימוש באוקסימטרים המופעלים על ידי בינה מלאכותית ש"העריכו יתר על המידה את רמות החמצן בדם בחולים עם עור כהה יותר, וכתוצאה מכך תת-טיפול בהיפוקסיה שלהם".
יתר על כן, זו לא הפעם הראשונה שקבוצה של מנהיגים טכנולוגיים קוראת להשהות או הערכה מחדש רצינית של פיתוח בינה מלאכותית. במרץ 2023, אילון מאסק וחוקרי בינה מלאכותית אחרים חתמו על קריאה דומה לפעולה בקשה להקפאה על פיתוח בינה מלאכותית עד שניתן יהיה ליישם רגולציה נוספת שתעזור להנחות את התהליך.
מה הסיכון של AI?
רוב הסיכונים הקשורים לבינה מלאכותית, לפחות בהקשר זה, נוגעים לפיתוח טכנולוגיית בינה מלאכותית בורחת שעולה על היכולות של בני האדם, שבהן הוא בסופו של דבר מתהפך על יוצרו ומחסל את החיים כפי שאנו יודעים זה. זה סיפור שכוסה אינספור פעמים בכתיבת מדע בדיוני, אבל המציאות עכשיו קרובה יותר ממה שאנחנו עשויים לחשוב.
מודלים של שפות גדולות (העומדות בבסיס כלים כמו ChatGPT) גדלים באופן דרסטי ביכולות. למרות זאת, לכלים כמו ChatGPT יש בעיות רבות, כגון הטיה אינהרנטית, חששות לפרטיות והזיות בינה מלאכותית, שלא לדבר על היכולת שלו להישבר בכלא לפעול מחוץ לגבולות התנאים וההגבלות המתוכנתים שלו.
ככל שמודלים של שפה גדולים מתרבים ויש להם יותר נקודות נתונים להתקשר, יחד עם גישה לאינטרנט ועוד בהבנת האירועים הנוכחיים, חוקרי הבינה המלאכותית חוששים שיום אחד, במילותיו של מנכ"ל OpenAI, סם אלטמן, "יתקדם די לא בסדר."
כיצד ממשלות מסדירות פיתוח בינה מלאכותית כדי לעצור סיכונים?
רגולציה של AI היא המפתח למניעת סיכונים. בתחילת מאי 2023, סם אלטמן קרא ליותר רגולציה של AI, שקבע כי "התערבות רגולטורית של ממשלות תהיה קריטית כדי להפחית את הסיכונים של מודלים חזקים יותר ויותר".
אז ה האיחוד האירופי הכריז על חוק AI, תקנה שנועדה לספק מסגרת חזקה הרבה יותר לפיתוח בינה מלאכותית ברחבי האיחוד האירופי (כאשר תקנות רבות זולגות לתחומי שיפוט אחרים). אלטמן איים בתחילה למשוך את OpenAI מהאיחוד האירופי, אך לאחר מכן הרחיק את האיום שלו והסכים שהחברה תציית לתקנת AI שביקש בעבר.
בלי קשר, ברור שרגולציה של פיתוח ושימושי בינה מלאכותית היא חשובה.
האם AI יסיים את האנושות?
מכיוון שחלק גדול מהוויכוח סביב נושא זה בנוי על היפותטיות לגבי כוחן של גרסאות עתידיות של AI, ישנן בעיות סביב אורך החיים והעוצמה שיכולה להיות לכל תקנת AI. איך הכי טוב להסדיר תעשייה שכבר נעה בקצב של אלף מייל בדקה ופריצות דרך בפיתוח קורות מדי יום?
יתר על כן, עדיין יש ספק לגבי היכולות של AI באופן כללי ולאן זה יגיע. בעוד אלו החוששים מהגרוע ביותר מצביעים על הפיכת בינה כללית מלאכותית לאדון אנושי, אחרים מצביעים על עובדה שהגרסאות הנוכחיות של AI לא יכולות אפילו לעשות שאלות בסיסיות במתמטיקה ושמכוניות בנהיגה עצמית מלאה הן עדיין דרך כבוי.
קשה שלא להסכים עם מי שמסתכל לעתיד. רבים מהאנשים שצועקים הכי חזק על הבעיות שבינה מלאכותית עשויה להוות נמצאים במושב הנהיגה, מסתכלים לאן אנחנו עשויים לכוון. אם הם אלה שדורשים רגולציה של AI כדי להגן עלינו מפני עתיד פוטנציאלי איום, אולי הגיע הזמן להקשיב.