בתוך הכאוס שנגרם על ידי דימויים מזויפים עמוקים, כעת עלינו להתמודד גם עם האיום של מוזיקה מזויפת עמוקה.
שירים חדשים של אמנים מפורסמים הופכים לוויראליים ברשתות החברתיות, מה שבדרך כלל לא מהווה בעיה, למעט כאשר שיבוט קול הוא זה ששר. למרות שזה היה אחד המדיומים האחרונים שהחזיקו מעמד, מוזיקת Deepfake היא כעת מציאות.
זה עובד על ידי אימון מודל AI על קולו של זמר, והתוצאות לא תמיד רעות. יש הרבה יצירתיות אמיתית ביצירת שירים מזויפים עמוקים, אבל הבעיה היא לא רק עם הפלט. במקרים רבים, הרשות לא ניתנת, ושאלות מי מקבל תשלום והאם זה מוסרי, הן רק חלק מהבעיות של מוזיקה עמוקה.
1. מערכי נתונים לא מורשים
אם אתה רוצה ליצור טראק מזויף עמוק של אמן מפורסם, אתה צריך לאסוף קבצי אודיו של קול השירה שלו לתוך מערך נתונים. בדומה לכל מידע ששייך למישהו, אתה כנראה צריך לקבל את רשותו להשתמש בהם, אבל זיוף עמוק שיר יכול להגיע לפלטפורמת מוזיקה גדולה כמו YouTube, Spotify או TikTok, לאחר שהשתמש במכשיר לא מורשה מערך נתונים.
זה קרה לאמנים דרייק ו-The Weeknd כאשר משתמש בשם Ghostwriter יצר את "Heart on My Sleeve". השיר הלהיט כלל את הקולות המסונתזים של האמנים של האמנים, עם מילים על חברתו לשעבר של The Weeknd.
המעריצים נהנו באמת מהשיר, עם שבחים נוספים זכו ל-Ghostwriter על השימוש היצירתי בשירה העמוקה, אבל כמו כך דיווח ה"סיאטל טיימס"., לא כולם ראו את זה כך. דובר מ-Universal Music Group, הלייבל הגדול מאחורי שני האמנים, שואל:
"באיזה צד של ההיסטוריה רוצים להיות בעלי עניין באקוסיסטם המוזיקה: הצד של אמנים, מעריצים ו ביטוי יצירתי אנושי, או בצד של זיופים עמוקים, הונאה ושלילת אמנים את הפיצוי הראוי להם?"
2. חוק זכויות יוצרים מיושן
אם אתה אמן שלא רוצה שיכפל את קולך, ייתכן שחוק זכויות היוצרים לא יוכל לעזור לך עדיין. מכיוון שחוקי זכויות היוצרים שלנו נכתבו בתקופה שבה סוג זה של טכנולוגיית AI לא הייתה קיימת, אין זה מפתיע שהחוקים עדיין מנסים להדביק את הפער.
המקרה המשפטי הקרוב ביותר של "גניבת קול" בארה"ב מתחיל בשנות ה-90. כפי ש דיווח על ידי לוס אנג'לס טיימס, הזמר טום ווייטס זכה בפיצויים בסך 2.475 מיליון דולר מחברת Frito-Lay Inc., ענקית השבבים האדירה מאחורי דוריטוס, צ'יטוס, קראקר ג'ק'ס ועוד.
הפרסומת השתמשה בקולו של מישהו שנשמע קרוב מספיק לטום ווייטס כדי שאנשים עשויים להאמין שהאמן האמיתי עומד מאחורי מסע הפרסום. אפשר לומר את אותו הדבר על שירים מזויפים עמוקים שמסתובבים כרגע, אבל מוזיקת AI עדיין לא נבחנה במאבק משפטי.
בזמן שאנו מחכים לעדכון המערכת המשפטית, ראוי לציין שלא לכולם יש בעיה עם אנשים שישבטו את הקול שלהם, קח הולי הרנדון, לדוגמה. מול הגאות המתקרבת של יישומי מוזיקה בינה מלאכותית, היא בחרה לאשר את התאום הווקאלי שלה בשם הולי+ לצד מערכת שהעניקה לה שכר הוגן.
לאיזה צד תבחר, הבעיה נשארת זהה. אין חוק זכויות יוצרים ספציפי שאומר שאתה צריך לקבל אישור מהאמן לפני השימוש בקולו. עד אז, אמנים עשויים למצוא את עצמם במערב הפרוע של טכנולוגיית AI, ללא חוקים שינחו אותם.
3. מי מקבל תשלום?
האם זה בסדר להרוויח כסף ממוזיקה באמצעות קול של מישהו? זו שאלה קוצנית שעשויה להפוך לבעיה גדולה יותר ככל שיותר מוזיקה מזויפת עמוקה מתפרסמת לפלטפורמות סטרימינג ומייצרות רווחים בפלטפורמות המדיה החברתית.
כפי שכולנו יודעים, זה בסדר לשיר קאבר של שיר מפורסם ולפרסם אותו ליוטיוב או לספוטיפיי, ובמקרה כזה דברים כמו המילים, מבנה השיר, הלחן, הקצב וכו'. מועתקים. אבל שיבוטים ווקאליים שונים לגמרי, ומוזיקת Deepfake היא לא בדיוק ריפים על שיר קיים, אלא יוצרת שיר חדש לגמרי באמצעות קול של מישהו אחר.
במילים אחרות, שיבוטים קוליים לא היו קיימים אלמלא כלי AI ומערכי נתונים לא מורשים. אמנים מבלים חיים שלמים בחידוד הקול שאיתו נולדו ויוצרים צליל ייחודי. לגנוב את הקול של מישהו ולהרוויח מזה כסף עשוי להיות צעד רחוק מדי.
4. ז'אנר של אזור אפור
כדי לסבך את הדברים, ייתכן שחלק מהאנשים לא יראו מוזיקה עמוקה כרע לחלוטין. בשונה מתמונות או סרטונים מזויפים עמוקים שאולי תצחקו מהם לזמן קצר לפני שתגללו בטלפון שלכם, מוזיקה מזויפת עמוקה הולכת ונבנית לקראת ז'אנר משלה.
יש אנשים שמשווים את זה לרעיון של כתיבת פאנפיקציה, דרך מהנה ויצירתית לתת כבוד לאמן. זו השקפה חיובית יותר שמקשה לשלול מוזיקה עמוקה כטאבו. פשוט תסתכל על הגישה של הולי הרנדון לשיבוט קולי בינה מלאכותית בסרטון למטה.
אם כי לא כולם מסכימים שצריך לאפשר סוג זה של מוזיקה. כפי ש כך כותב הפייננשל טיימס, חברת ההקלטות הגדולה, Universal Music Group, שאפה להסיר שירים באיכות נמוכה יותר מפלטפורמות סטרימינג, כולל כאלו שנוצרו על ידי AI. בסופו של דבר, פלטפורמות סטרימינג כמו Spotify, Apple Music או Tidal יצטרכו לקבל החלטה אם ז'אנר המוזיקה הזה מותר בפלטפורמה שלה.
מוזיקת Deepfake מציתה ויכוחים דומים שכבר מתרחשים בעולם האמנות: האם אמנות שנוצרת בינה מלאכותית צריכה להיחשב לאמנות? רק עכשיו, אנחנו מפקפקים במוזיקת AI.
5. דאגות אתיות סביב גזע וזהות
עידן מוזיקת ה-deepfake התחיל עם הרבה מוזיקה שמחקה מוזיקת ראפ. כשהשורשים ההיסטוריים של הז'אנר מקורם בבני נוער אפרו-אמריקאים שגדלו בברונקס, ניו יורק, בתחילת שנות ה-70, יש אנשים שמודאגים לגבי גזע וזהות במוזיקת AI.
סוֹפֵר לורן שאנל, הוא אדם אחד שמוצא מוזיקה עמוקה מזויפת כבעיה רצינית. כפי שצוטט ב- an מאמר של הניו יורק טיימס, הם מסבירים:
"זו דרך נוספת עבור אנשים שאינם שחורים ללבוש תחפושת של אדם שחור - להרים את ידיהם כלפי קניה או דרייק ולעשות ממנו בובה - וזה מדאיג אותי." "זו רק עוד דוגמה בשורה ארוכה של אנשים שמזלזלים במה שנדרש כדי ליצור את סוג האמנות שמבחינה היסטורית, אנשים שחורים עשה."
זו לא הפעם הראשונה שמוזיקה שנוצרה עם כלי AI לא מצליחה להיות אתית. כפי ש דיווח במגזין הרולינג סטון, ראפר אווטאר וירטואלי בשם FN Meka הוחתם בלייבל, ולאחר מכן ירד במהירות כאשר מקוון אזרחי קבוצת הזכויות Industry Blackout כתבה שהפרויקט מנציח "סטריאוטיפים גסים" לגבי Back תַרְבּוּת.
אם כבר, מוזיקה עמוקה מזויפת מזכירה לנו שאי אפשר להפריד כלי בינה מלאכותית מההיסטוריה של יצירת המוזיקה, והתעלמות מכך מוסיפה הסכנות של זיופים עמוקים של AI.
6. גרימת נזק לאמנים
דבר אחד שאסור להתעלם ממנו הוא ההשפעה הרגשית שיכולה להיות לשיר מזויף עמוק על האמן, במיוחד כאשר שיבוט קולי יכולים לשיר על מצבים שמעולם לא קרו, לבטא רגשות שאינם שלהם, ולהעמיד פנים שאכפת להם מדברים שאולי לא.
במקרה של השיר המזויף של דרייק ft. The Weeknd, המילים כללו שורות על סלינה גומז שהייתה יוצאת עם The Weeknd. באמצעות שילוב של עובדות מהחיים האמיתיים ומילים מומצאות, זה היה עיוות מוזר של המציאות שעלול להזיק לאמן שחי את החוויה האמיתית.
באופן דומה, הפקת מילים שנוצרו על ידי AI "בסגנון של" מישהו מפורסם המשתמש במחוללי טקסט בינה מלאכותית הוביל כמה אמנים לייאוש מהשימוש בטכנולוגיית AI. כפי שמנסח זאת ניק קייב, "מה ש-ChatGPT הוא, במקרה זה, הוא שכפול כהונאה."
מוזיקת Deepfake מסוגלת להכניס מילים לפיו של האמן שהם מעולם לא דיברו, או במקרה זה, שרו. ברמה האישית, זה יכול להזיק לאמן שיש לו שליטה מועטה על הסרת התוכן, מבלי לקחת את המאבק לבית המשפט.
מתכוננים לשינויים בתעשיית המוזיקה
הודות לגישה הגוברת לכלי בינה מלאכותית, מוזיקה נכנסה לעולם הזיופים העמוקים, בפרט, באמצעות שיבוטים קוליים. קשה מאוד להבין את ההבדל בין קול AI לקול אנושי רק על ידי האזנה, מה שמקל על שיר מזויף עמוק להגיע לפלטפורמות סטרימינג לפני הסרה.
מצד אחד, מעריצים עשויים ליהנות ממוזיקה עמוקה מזויפת וז'אנר תקף יכול להיווצר שמשתמש בקולות מפורסמים כדי ליצור מוזיקה חדשה ומעניינת. אבל לא כל אמן מסכים עם שיבוט קולו, ואין חוקים שמונעים מאנשים ליצור מערכי נתונים לא מורשים.
השגת הסכמה, פיצוי לאמנים ובחינת חששות אתיים הם רק כמה בעיות שעומדות בפני אמנים ותעשיית המוזיקה. עם ההתפתחות המהירה של טכנולוגיית AI, כדאי לקחת הפסקה כדי להרהר בבעיות שהם יצרו.