מהו PhotoDNA וכיצד הוא פועל?

האינטרנט הקל על דברים רבים, החל משמירה על קשר עם חברים ובני משפחה ועד לקבלת עבודה ואפילו עבודה מרחוק. היתרונות של מערכת מחשבים מחוברת זו הם עצומים, אך יש גם חיסרון.

שלא כמו מדינות לאום, האינטרנט הוא רשת גלובלית שאף ממשלה או רשות אחת לא יכולה לשלוט בה. כתוצאה מכך, חומר בלתי חוקי מסתיים ברשת, וקשה להפליא למנוע מילדים לסבול ולתפוס את האחראים.

עם זאת, טכנולוגיה שפותחה על ידי מיקרוסופט בשם PhotoDNA היא צעד לקראת יצירת מרחב מקוון בטוח יותר לילדים ולמבוגרים כאחד.

מהו PhotoDNA?

PhotoDNA הוא כלי לזיהוי תמונות, שפותח לראשונה בשנת 2009. למרות שהוא בעיקר שירות הנתמך על ידי מיקרוסופט, הוא פותח בשיתוף פרופסור האני פאריד ממכללת דארטמות ', מומחית לניתוח תמונות דיגיטליות. מטרת PhotoDNA היא לזהות תמונות לא חוקיות, כולל חומר להתעללות מינית בילדים, הידוע בכינויו CSAM.

ככל שסמארטפונים, מצלמות דיגיטליות ואינטרנט מהיר הפכו לנפוצים יותר, כך גם כמות ה- CSAM שנמצאה ברשת. בניסיון לזהות ולהסיר תמונות אלה, לצד חומר בלתי חוקי אחר, מאגר הנתונים של PhotoDNA מכיל מיליוני ערכים לתמונות מוכרות של התעללות.

מיקרוסופט מפעילה את המערכת, ומאגר הנתונים מתוחזק על ידי המרכז הלאומי לילדים חסרים ומנוצלים בארה"ב (NCMEC), ארגון המוקדש למניעת התעללות בילדים. תמונות עושות את דרכן למאגר הנתונים לאחר שהן דווחו ל- NCMEC.

למרות שזה לא השירות היחיד לחיפוש CSAM ידוע, PhotoDNA היא אחת השיטות הנפוצות ביותר, כולל שירותים דיגיטליים רבים כמו Reddit, Twitter ורוב המוצרים שבבעלות Google.

PhotoDNA היה צריך להיות מוגדר פיזית במקום בימים הראשונים, אך מיקרוסופט מפעילה כעת את שירות ה- Cloud Cloud מבוסס הענן. זה מאפשר לארגונים קטנים יותר ללא תשתית רחבה לבצע זיהוי CSAM.

כיצד פועל PhotoDNA?

כאשר משתמשי אינטרנט או רשויות אכיפת חוק נתקלים בתמונות התעללות, הם מדווחים ל- NCMEC באמצעות CyberTipline. אלה מקוטלגים, והמידע משותף עם רשויות החוק אם לא היה. התמונות מועלות ל- PhotoDNA, ואז מתחילה יצירת חשיש, או חתימה דיגיטלית, עבור כל תמונה בנפרד.

כדי להגיע לערך ייחודי זה, התמונה מומרת לשחור ולבן, מחולקת לריבועים, והתוכנה מנתחת את ההצללה המתקבלת. החשיש הייחודי מתווסף למאגר הנתונים של PhotoDNA, המשותף בין התקנות פיזיות וענן PhotoDNA.

ספקי תוכנה, רשויות אכיפת חוק וארגונים מהימנים אחרים יכולים ליישם סריקת PhotoDNA במוצרים שלהם, תוכנות ענן או אמצעי אחסון אחרים. המערכת סורקת כל תמונה, ממירה אותה לערך חשיש ומשווה אותה מול נתוני הנתונים של CSAM.

אם נמצאה התאמה, הארגון האחראי מקבל התראה, והפרטים מועברים לרשויות החוק לצורך העמדה לדין. התמונות מוסרות מהשירות וחשבון המשתמש מסתיים.

חשוב לציין, שום מידע על התמונות שלך לא נשמר, השירות הוא אוטומטי במלואו ללא מעורבות אנושית, ואי אפשר ליצור תמונה מערך hash.

מאז 2015, ארגונים הצליחו להשתמש ב- PhotoDNA גם לניתוח סרטונים.

באוגוסט 2021 פרצה אפל צעד עם רוב חברות הביג טק האחרות והודיעה כי תשתמש בעצמן שירות לסריקת מכשירי iPhone של משתמש אחר CSAM.

באופן מובן, תוכניות אלה זכו לתגובה ניכרת בשל הופעתן כמפרה את עמדתה הידידותית לפרטיות של החברה, ואנשים רבים דאגו שהסריקה תכלול בהדרגה את הלא CSAM, ובסופו של דבר יוביל לדלת אחורית למשפטים אַכִיפָה.

האם PhotoDNA משתמש בזיהוי פנים?

בימים אלה אנו מכירים מספיק את האלגוריתמים. ההנחיות המקודדות האלה מראות לנו פוסטים רלוונטיים ומעניינים בהזנות המדיה החברתית שלנו, תומכות במערכות זיהוי פנים ואפילו מחליטים אם מציעים לנו ראיון עבודה או נכנסים לקולג '.

אתה עשוי לחשוב שאלגוריתמים יהיו בבסיס PhotoDNA, אך אוטומציה של זיהוי תמונות בדרך זו תהיה בעייתית ביותר. למשל, זה יהיה פולשני להפליא, יפר את הפרטיות שלנו, וזה לא אומר שאלגוריתמים לא תמיד נכונים.

לגוגל, למשל, היו בעיות מתועדות היטב בתוכנת זיהוי הפנים שלה. כשהושקה לראשונה תמונות Google, היא סיווגה באופן לא חוקי אנשים שחורים כגורילות. במרץ 2017, ועדת פיקוח על בית שמעה כי כמה אלגוריתמים לזיהוי פנים טועים 15 אחוז מהמקרים וסיכוי גבוה יותר לזהות אנשים שחורים בצורה לא נכונה.

אלה סוגי אלגוריתמים של למידת מכונה הם יותר ויותר נפוצים אך יכולים להיות מאתגרים לפקח כראוי. למעשה, התוכנה מקבלת החלטות משלה, ועליך להנדס לאחור כיצד היא הגיעה לתוצאה ספציפית.

באופן מובן, בהתחשב בסוג התוכן ש- PhotoDNA מחפש, ההשפעה של זיהוי שגוי עלולה להיות קטסטרופלית. למרבה המזל, המערכת אינה מסתמכת על זיהוי פנים ויכולה למצוא תמונות מזוהות מראש בלבד עם חשיש ידוע.

האם פייסבוק משתמשת ב- PhotoDNA?

כבעלים ומפעיל הרשתות החברתיות הגדולות והפופולריות בעולם, פייסבוק מתמודדת עם הרבה תוכן שנוצר על ידי משתמשים מדי יום. למרות שקשה למצוא הערכות מהימנות, עדכניות, ניתוח בשנת 2013 הציע לכ -350 מיליון תמונות להעלות לפייסבוק מדי יום.

סביר להניח שזה יהיה הרבה יותר גבוה מכיוון שיותר אנשים הצטרפו לשירות, החברה מפעילה מספר רב רשתות (כולל אינסטגרם וואטסאפ), ויש לנו גישה קלה יותר למצלמות סמארטפונים ואמינות מרשתת. לאור תפקידה בחברה, פייסבוק חייבת לצמצם ולהסיר CSAM וחומרים לא חוקיים אחרים.

למרבה המזל, החברה התייחסה לכך בשלב מוקדם, והצטרפה לשירות PhotoDNA של מיקרוסופט בשנת 2011. מאז ההכרזה לפני יותר מעשור, היו נתונים מועטים עד כמה זה היה יעיל. למרות זאת, 91 אחוז מכל הדיווחים על CSAM בשנת 2018 היו מ- Facebook ו- Facebook Messenger.

האם PhotoDNA הופך את האינטרנט לבטוח יותר?

השירות שפותח על ידי מיקרוסופט הוא ללא ספק כלי חיוני. ל- PhotoDNA תפקיד מכריע במניעת התפשטות תמונות אלו ואף עשוי לסייע לילדים בסיכון.

עם זאת, הפגם העיקרי במערכת הוא שהיא יכולה לחפש רק תמונות שזוהו מראש. אם ל- PhotoDNA אין אחסון חשיש, הוא אינו יכול לזהות תמונות פוגעניות.

קל מתמיד לצלם ולהעלות תמונות התעללות ברזולוציה גבוהה ברשת, וגם המתעללים יותר ויותר לוקחים פלטפורמות מאובטחות יותר כמו האינטרנט האפל ואפליקציות העברת הודעות מוצפנות לשיתוף חומר לא חוקי. אם טרם נתקלתם ב- Dark Web, כדאי לקרוא על הסיכונים הכרוכים בצד הנסתר של האינטרנט.

האם האינטרנט האפל אינו חוקי?

ניתן למצוא פעילויות פליליות באמצעות darknets, אך האם זה למעשה לא חוקי להיכנס לרשת האפלה?

קרא הבא

על הסופר