בינה מלאכותית ולמידת מכונה יכולים לעשות פלאים, מיצירת אמנות ועד לאוטומציה של משרות מנהל. אבל הם גם מהווים סיכון מכיוון שהם יכולים להעצים שחקנים רעים עם טריקים כמו deepfake.
ככל שהטכנולוגיה הספציפית הזו מתפתחת, מומלץ ללמוד כיצד זיופים עמוקים פועלים בפועל ומי בכלל ירצה להשתמש בהם - באופן לגיטימי ולא חוקי.
מדוע חשוב להבין כיצד ומדוע משתמשים ב-Deepfakes
יישומי מיינסטרים של טכנולוגיית Deepfake סובבים בעיקר סביב חומרים מצחיקים, פורנוגרפיים או קולנועיים, אך מחקר הוכיח כי זיופים עמוקים יכולים לרמות את זיהוי הפנים. זו לבדה סיבה לדאגה ולשמור על המשמר.
ככל שהטכנולוגיה משמשת יותר בחיי היומיום ובפרויקטים בקנה מידה גדול, כך מפתחיה ילמדו ליצור סרטונים מזויפים ללא תפרים של אנשים, בין אם ידוענים או בני משפחה.
הֲבָנָה כיצד להגן על עצמך מפני סרטונים מזויפים עמוקים הוא חובה כעת, בהתחשב באיזו רצון תעשיות מאמצות את ההטבות של הטכנולוגיה, במיוחד בתחום הבידור.
הוליווד השתמשה בו בכמה פרויקטים הרבה לפני כן ערך ה-AGT המזויף העמוק של Metaphysic, שהראה לעולם עד כמה יצירת deepfake מהירה ויעילה יכולה להיות. הנה מה התהליך כולל.
איך Deepfakes עובדים?
במונחים של מה שעומד מאחורי זיופים עמוקים, רמז הוא בשם: למידה עמוקה, מדע הרשתות העצבית המלאכותיות (ANN). מה שאלו עושים עבור אלגוריתמים מזויפים עמוקים זה לספוג נתונים, ללמוד מהם וליצור נתונים חדשים בצורה של הבעות פנים או פנים שלמות המוצבות מעל שלך.
מפתחי תוכנות Deepfake משתמשים בדרך כלל באחד משני סוגי ANN: מקודדים אוטומטיים או רשתות יריבות (GAN).
מקודדים אוטומטיים לומדים לשכפל את המוני הנתונים שהם מוזנים, בעיקר תמונות של פרצופים והבעות, וליצור מחדש מערכי נתונים מתבקשים. עם זאת, לעתים רחוקות הם עותקים מדויקים.
ל-GAN, לעומת זאת, יש מערכת חכמה יותר, הכוללת גנרטור ומאפיין. הראשון משחזר נתונים שנלמד לזיופים עמוקים שחייבים להטעות את השני.
המאבחן משווה בין יצירות המחולל מול תמונות אמיתיות וקובע את יעילותן. הזיופים העמוקים הטובים ביותר, כמובן, הם אלה שמחקים בצורה מושלמת התנהגות אנושית.
אז איך מיוצרים זיופים עמוקים עם הטכנולוגיה הזו? האלגוריתמים מאחורי אפליקציות כמו פנה מחדש ו DeepFaceLab למד כל הזמן מהנתונים שעוברים עליהם כדי שיוכלו להתאים ביעילות את תווי הפנים והבעות הפנים או לשכב פנים אחד על פני אחר.
התוכנה היא בעצם עורך וידאו שתוכנן במיוחד לתמרן פרצופים. אפליקציות מסוימות מורכבות יותר מאחרות, אבל בסך הכל אתה יכול לעשות הכל מהזדקנות או ירידה של מישהו ועד לערוך את עצמך לסרטים.
אבל לטכנולוגיה עדיין יש פגמים. יצירת Deepfake עשויה להיות מסובכת יותר מאשר כיצד נוצרים סרטונים מזויפים בשידור חי, אבל זה יכול להיות פשוט לזהות כמו שקר.
איך לזהות Deepfake
מכיוון שזיופים עמוקים נעשים בעיקר על ידי מכונות, התכונות או הגינונים של הפנים הדיגיטליים לא תמיד נראים טבעיים. ייתכנו גם טעויות בהגדרת הסרטון. במילים אחרות, אתה יכול לספר קטעים מזויפים אם אתה יודע מה לחפש.
הנה כמה סימנים מודיעים:
- מצמוץ לא טבעי: למידת מכונה לרוב מתעלמת מהמצמוץ עיניים או גורמת לה להיראות מביך.
- תכונות מטושטשות או לא יציבות: השיער, הפה או הסנטר של מישהו עלולים להיות מעט מטושטשים או נעים בדרכים מוזרות, לעתים קרובות מוגזמות.
- חוסר או מצג שווא של רגש: זיופים עמוקים גרועים הם חסרי רחמים או מחקים רגשות בצורה גרועה.
- שפת גוף מביכה: אם האדם בסרטון מזיז את ראשו או גופו בדרכים מעוותות או מנותקות, זה יכול להיות זיוף עמוק.
- צבעים ותאורה לא נכונים: שינויי צבע, אורות בלתי מוסברים וצללים הם סימנים בטוחים לסרטון מזויף.
- חפצים לא עקביים: בזמן התאמת סרטון, תוכנת Deepfake יכולה לעשות טעויות, כמו שינוי הצורה של בגדים, תכשיטים ופריטי רקע.
- שמע גרוע: זיופים עמוקים יכולים לעוות דיבור וצלילים בסרטון.
להפיק את המרב דרכים לזהות זיופים עמוקים על ידי לימוד למה סרטונים כאלה עשויים בדרך כלל ותשומת לב רבה לפרטים בצילומים שאתה רואה באינטרנט - האט את הקצב, אם אפשר.
בנוסף, יותר ויותר כלים מפותחים, כמו Microsoft Authenticator ושל Sensity Forensic Deepfake Detection, שמנתחים סרטונים ברמה של דקה.
מי משתמש Deepfakes?
יוצרי סרטים משתמשים יותר ויותר בזיופים עמוקים כדי להזדקן או להחליף פרצופים של שחקנים, כמו במלחמת הכוכבים. אמנים מצליחים להנפיש פורטרטים ולגרום להם לדבר ולשיר.
משווקים מתנסים בטכנולוגיית Deepfake לתוכן פרסומי שאינו מצריך שכירת שחקנים. חברות כמו WPP מיישמות את זה גם על סרטוני ההדרכה שלהן.
אנשי טכנולוגיה, באופן כללי, יוצרים סרטונים מצחיקים שבהם הם מחליפים פרצופים עם חברים או משכבים שחקן אחד על פני שחקן אחר בסרטים פופולריים. סילבסטר סטאלון השתלט על Home Alone, והג'וקר של הית' לדג'ר הופיע בסיפור אביר.
למרבה הצער, אם תחקור למה עוד משמשת טכנולוגיית Deepfake, תמצא הרבה מקרים זדוניים. יצרני Deepfake אוהבים להפיץ מידע מוטעה ומסרים פוגעניים, כמו גם לכוון לסלבריטאים ולהכניס אותם לסרטי מבוגרים. אנשים אפילו נסחטים בצילומים מזויפים.
בצורתו חסרת המעצורים הנוכחית, זיוף עמוק הוא שם נרדף לסיכון לזכויות הפרטיות של אנשים, לביטחון, ואפילו זכויות יוצרים, למשל, כאשר האלגוריתם משתמש בבירור בתמונה או ביצירת אמנות שלא בפומבי זמין.
זו הסיבה שמדינות ומותגים מורידים את הרגל. נכון לשנת 2021, על פי ה המפה של יוזמת זכויות האזרח בסייבר מתוך חוקים מזויפים עמוקים בארה"ב, ארבע מדינות נוקשות כעת על סרטונים מזויפים שפורסמו המתארים מישהו בצורה מפורשת או מזיקה אחרת.
סין גם עושה מהלכים להפללת זיופים עמוקים שפוגעים באנשים ובחברה, בין אם על ידי הפרת זכויות הפרט או הפצת חדשות מזויפות. אֲפִילוּ מטה הודיעה בשנת 2020, סרטונים מטעים, שעברו מניפולציות, לא התקבלו בברכה.
בנוסף לרגולציה, גופים רשמיים ברחבי העולם דוחפים לזיהוי ומניעת פשעים עמוקים יותר. ה דו"ח מכון רתנאו על האופן שבו המדיניות האירופית צריכה לטפל בזיופים עמוקים, תומכת בתוכנה עם כלים כמו רמקולים וזיהוי פנים, זיהוי חיוניות קול וניתוח תווי פנים.
למד כיצד Deepfakes עובדים כדי להטעות אותך
Deepfakes כבר הפכו למיינסטרים, לטוב ולרע. אז, תהנה מהסרטונים המצחיקים ומעוררי ההשראה בזמן שאתה מתכונן להתמודד עם כל סרטונים זדוניים.
בסופו של יום, מה זה זיוף עמוק כמו זה, אלא כלי שנועד להערים עליך? אם אתה יודע מה לחפש ואיך להגיב, יש לו פחות כוח עליך.
לדוגמה, תוכל לזהות זיופים עמוקים ברשתות חברתיות לצד חדשות מזויפות וחשבונות ולהתחמק ממידע מוטעה, ניסיונות דיוג ועוד. ככל שהטכנולוגיה לזיהוי ומניעת זיופים עמוקים משתפרת, תמיכה נוספת תגיע אליכם.