פסל של טראמפ שצולם בברצלונה. טכנולוגיית הדיפ פייק עלולה לגרום לאובדן היכולת להבדיל בין אמת לשקר. צילום: Ken Banks, מתוך פליקר

האם טכנולוגיית הדיפ-פייק תשמיד את הפוליטיקה?

עתידות: עוד שנה-שנתיים יציפו את הרשת סרטונים מזויפים שמציגים התרחשויות שמעולם לא קרו, באמצעות טכנולוגיה שמצליחה להשתיל פנים, הבעות וקולות על גבי גופים של בני אדם אחרים. נשמע דמיוני? בתעשיית הפורנו זה כבר קיים. עכשיו תארו לכם שזה יגיע גם לפוליטיקה

דמיינו את עצמכם צופים בסרטון, ככל הנראה מלפני עשור, שבו אתם אומרים דברים שמעולם אפילו לא הייתם מעלים בדעתכם לומר. דברים פוגעניים, קשים, מבישים. למי תאמינו, לזיכרון המתעתע שלכם, או למראה העיניים? ויותר מטריד, מה יחשבו על אותו סרטון החברים שלכם, או אפילו המשפחה שלכם? מה יחשבו השונאים שלכם? אם תטענו שלא היו דברים מעולם – תיענו שככל הנראה הזיכרון שלכם מתחיל לזייף, במקרה הטוב. במקרה הסביר, אף אחד בכלל לא יתעניין בתגובה שלכם. עכשיו לכו תוכיחו שאין לכם אחות.

ברוכים הבאים לעולם ה"דיפ פייק" (deep fake) – תעשיית זיופים שטרם ראינו כמותה. "הבדל בין פייק ניוז ל'דיפ פייק' הוא בטכנולוגיה שמשמשת את הדיפ-פייק", אומר נעם רותם, שמכנה את עצמו "האקר חברתי" ושנבחר לאחרונה לאחד ממאה הישראלים המשפיעים של "דה מרקר" לשנת 2018. "דיפ פייק היא טכנולוגיה מתקדמת שמאפשרת באמצעות אמצעי מחשוב מתקדמים לייצר סרטונים מזויפים שנראים בעיני הצופה מקוריים ואמיתיים".

גם היום, אחרי שהתופעה כבר קיבלה שם וניתנת לה תשומת לב הולכת וגוברת – הידיעה שהיא אמנם קיימת ושישנם לא מעט תכנים מזויפים ברשת, איננה גורמת למרבית הגולשים לפקפק בסרטונים שהם רואים ברשתות חברתיות. סביר להניח שברוב מוחלט של המקרים הם פשוט מאמינים למה שהעין רואה. בעתיד הלא רחוק, מזהירים מומחים רבים, הסכנה הגדולה שתגרום התפתחות טכנולוגיית "דיפ פייק" תהיה אובדן היכולת בכלל להבחין בין שקר לאמת.

איכות הסרטונים מתפתחת בצורה מהירה מאוד

עד כמה סרטונים שמזויפים היום בשיטות האלה נראים אמינים? לפי רותם, "איכות הסרטון תלויה באמצעים שיש בידי היוצר. וככל שהמחשוב מתקדם יותר ומאגרי המידע שהוא מתבסס עליהם גדולים יותר – כך אמינות הסרטון עולה. כבר היום ניתן למצוא ברשת סרטונים שיוצרו באמצעות טכנולוגיית 'דיפ פייק' והם באיכות טובה. אבל משמעותי יותר להבין שזוהי טכנולוגיה שמתפתחת בצורה מהירה מאוד, ולכן ואני צופה שכבר בשנים הקרובות התופעה תגבר ויחד אתה גם איכות הווידאו".

מקור המונח "דיפ פייק" הוא מטכנולוגיית "למידה עמוקה" (deep learning) – טכנולוגיה מתמטית שעושה שימוש בנוירונים (תאי עצב) מלאכותיים לצורך למידה, הנעשית באמצעות איסוף מידע. או בשפה של בני אדם – התוכנה לומדת ומשתפרת ככל שעובר זמן. במקרה שלנו, מדובר על היכולת לסנכרן קול ותנועה של אדם אחד עם גופים השייכים במקור לאנשים אחרים לגמרי, כולל אנשים שמעולם לא פגש. לאחרונה דווח שהורים מאוסטרליה גילו שפניה של בתם הושתלו על גוף אחר בסרטון פורנו. עכשיו דמיינו שהיתה זו קרובת משפחתכם.

פוטנציאל הנזק שטכנולוגיית ה"דיפ פייק" עתידה לגרום חולש על מגוון תחומים, אבל בתעשיית הפורנו הוא כבר פורח. מעבר לאלמונית האוסטרלית, לאחרונה פורמו סרטוני פורנו מזויפים גם "בכיכובן" של גל גדות או סקרלט ג'והנסון. ג'והנסון, שהתראיינה בנושא ל"וושינגטון פוסט", הביעה דאגה על כך ש"אולי כבר מאוחר מדי לילדים ולנשים להתגונן מפני התהום הווירטואלית שקיימת כיום ברשת".

גם מחוץ לתעשיית הפורנו, מתנהל כיום ברשת "מרוץ חימוש" בניסיון לייצר את התוכן המזויף הטוב ביותר. הרגע אליו נשואות עיני המומחים הוא הרגע שבו טכנולוגיית ה'deep fake' תחל להשפיע על הפוליטיקה הארצית. זהו גם הרגע שבו סרטונים כאלה יהפכו חלק מהיומיום של כולנו.

האם כשזה יקרה, אפשר יהיה להתגונן מהתופעה? "להערכתי, לרשתות החברתיות אין כיום יכולת לזהות סרטונים מזויפים", אומר רותם. "ייתכן שבשנים הקרובות, כמו בכל סיטואציה שבה מתפתחת טכנולוגיה רעה, תתפתח במקביל טכנולוגיה שתאפשר הגנה וזיהוי של 'דיפ פייק'. אבל היום, כאמור, יכולת כזו אינה קיימת".

מתי להערכתך נתחיל לראות את הפגיעה של הטכנולוגיה הזאת?  

"לדעתי התופעה תתרחב בצורה מהירה מאוד, ואת ההשפעה הגדולה שלה נראה כבר בבחירות 2020 בארצות הברית".

שתי סכנות עיקריות

לא יהיה מוגזם לומר שלידתה של כל טכנולוגיה חדשה מלווה ברגעי חרדה בעוצמה משתנה. האם במקרה שלפנינו היא אמנם מוצדקת? האם השד נורא כל כך? הרי כבר שנים שאנחנו שומעים על הרגע שבו תופעת הפייק ניוז תשפיע על חיינו בצורה דרמטית, אבל בפועל, התחושה הכללית היא שאנחנו יודעים לזהות מה אמת ומה 'פייק', ולכן ההשפעה נשארת די בשוליים.

תחושה זאת גם מגובה מבחינה מחקרית. לדברי פרופ' שירה דביר-גבירצמן, ראשת החוג לתקשורת באוניברסיטת תל אביב, "מעט המחקר שקיים בתחום מצביע על כך שייתכן ששד ה'פייק ניוז' לא נורא כל כך, והשאלה היא באמת שאלה של הגדרת הבעיה: האם מקור ההשפעה הוא ב'פייק ניוז' עצמו, או שמדובר בקהלים שלא משנה איזו אינפורמציה הם יקבלו – הם יקנו אותה, כי היא תואמת את עולם הערכים שלהם. במובן הזה, זה לא נורא משנה אם זה 'פייק ניוז' שיצר אתר רוסי או תוכן שחבר שלהם יצר".

ומה לגבי ה"דיפ פייק"?

"השאלה שאנחנו צריכים לשאול את עצמנו לגבי זה היא האם מדובר בתופעה חדשה, או שמדובר בתהליך הקיים ממילא שרק נמצא בהאצה? במקרה של 'פייק ניוז', למשל, התופעה תמיד היתה, כשההבדל היום הוא עד כמה מהר המידע רץ. טכנולוגיית ה'דיפ פייק', לעומת זאת, כן חדשה – והיא מאפשרת יצירת בדותות חדשות שנראות אמינות הרבה יותר".

פרופ' דביר-גבירצמן, המתמחה בתחום השפעות התקשורת, אומרת ש"תמיד למדנו שאין כמו מראה עיניים ולכן לקחנו בערבון מוגבל כל שמועה שרצה בוואטסאפ או ברשתות החברתיות. עכשיו נדמיין מצב שבו יחד עם כל שמועה שרצה ברשת, מצורף סרטון ש'מוכיח' אותה – זה מטריד מאוד".

מה עלולות להיות ההשלכות?

"עיקר הבעיה ב'דיפ פייק' היא שנפתחת דלת להשפעה על קהלים ש'סתם' פייק ניוז לא השפיעו עליהם לכאורה, זאת בזכות האמינות הגבוהה של דיפ פייק. לכן אני מעריכה שניתן יהיה להשפיע בעזרת הטכנולוגיה הזאת על קהלים מאוזנים הרבה יותר.

"הפחד הגדול הוא משני תהליכים עיקריים: הראשון, שהטכנולוגיה תגרום לאדם לשנות את דעתו בהתבסס על שקרים ודיסאינפורמציה. השני, המסוכן יותר, הוא שייתכן שנגיע למצב שבו אנשים לא יאמינו יותר לכלום. אם לא נוכל להאמין לסרטון של נשיא ארצות הברית מדבר אל העם בחדר הסגלגל – למה כן נאמין?".

דווקא בישראל, היכן שהתופעה לא ממש התפתחה (עדיין), כבר קיים חוק שמתכתב איתה ושנועד להגן מפניה במקרה הצורך. בשנת 2014 חוקקה הכנסת, ביוזמת חברת הכנסת יפעת קריב (יש עתיד), תיקון לחוק למניעת הטרדה מינית שבו נכתב כי הוא יחול גם על "פרסום תצלום, סרט או הקלטה של אדם, המתמקד במיניותו, בנסיבות שבהן הפרסום עלול להשפיל את האדם או לבזותו, ולא ניתנה הסכמתו לפרסום". בתוך כך, החוק מתייחס בפירוט גם לנושא עריכה: "לעניין זה [נכללים גם] תצלום, סרט או הקלטה – לרבות עריכה או שילוב של כל אחד מהם באופן שניתן לזהות בו את האדם".

האם בעתיד כל אחד יוכל לבצע מעשה "דיפ פייק"? "כיום לצורת הפעלת הטכנולוגיה נדרש מחשוב מתקדם", אומר נעם רותם, "אולם אני מאמין שבקרוב ככל שהתוכנה תלמד יותר כך היכולת לייצר את התוכן תהפוך לנגישה יותר ויותר".

הצטרפו לדף הפייסבוק של מגזין כותרת*

טכנולוגיה כללי מגזין פוליטיקה        
{ לכתבה "האם טכנולוגיית הדיפ-פייק…" התפרסמה תגובה אחת }

1 {חיים}

כתבה מענינת ואיכותית

{ הוספת תגובה }

* כתובת המייל לא תופיע בתגובות