שנת 2018 הייתה שנת מפנה ביחסים שלנו עם הטכנולוגיה מהרבה בחינות. חוקי הפרטיות האירופאים נכנסו לתוקף וגרמו למהומה רבתי בעולם שבו כל חברת שרותים מחזיקה בהררי דאטה. פייסבוק התמודדה כמעט מדי חודש עם משברים מחמירים והולכים, ובראשם התפוצצות פרשיית קמברידג׳ אנליטיקה והמעורבות בהטיית מערכת הבחירות לנשיאות ארה״ב.

חלוץ הכלכלה הדיגיטלית, הביטקוין פתח את השנה כשהוא נסחר בלמעלה מחמישה עשר אלף דולר, וכעת הוא בקושי מחזיק מעל שלושת אלפים דולר. ולראשונה היינו עדים לתאונה קטלנית שהיה מעורב בה רכב אוטונומי לחלוטין. אפשר להגיד בבטחה ש-2018 תזכר כציון דרך ביחסי אדם מכונה (HCI). הנה תאור שני הימים במרץ שהם הרגעים החשובים של השנה מבחינה זו.

17/03/2018 | פרטיות. דמוקרטיה. תחילת הסוף.

הניו יורק טיימס מפרסם תחקיר על חברת ייעוץ בריטית עלומת שם בשם "קמברידג' אנאליטיקה", התחקיר חושף כי חברת הייעוץ הפוליטי הניחה את ידה על מאגר מידע עם פרטיהם של עשרות מיליוני אמריקאים ועשתה בו שימוש להטיית הבחירות לנשיאות. בהמשך יתברר כי פירצה במדיניות האבטחה של פייסבוק אפשרה למדען בודד לשתות את פרטיהם של כמעט 80 מיליון אמריקאים, ולאחר מכן למכור אותם.

הפרסום של הטיימס פתח תיבת פנדורה עצומת מימדים. יומיים אחר כך ערוץ 4 הבריטי חשף הקלטות בהן מנכ"ל קמברידג' מונה שורה של כלים פליליים להשגת מידע, ביניהם שוחד, סחיטה ואיומים ומתרברב בכך כי הוא מחזיק באלפי פרטי מידע על כל אזרח אמריקאי, ולדבריו "הקמפיין של טראמפ כולו" נוהל על ידי קמברידג' אנליטיקה.

מהר מאוד נחשף כי המשקיעים המייסדים של קיימברידג' הם משפחת מרסר, מי שפרשו את חסותם על אידיואלוג הימין הקיצוני, סטיב באנון, ולאחר מכן על טראמפ עצמו, כאשר בנון הפך להיות ראש הסגל שלו בפועל. בארה"ב הצטברו ראיות כי רוסיה התערבה בבחירות לנשיאות דרך קיימברידג', ובבריטניה עלו חשדות דומים להטיית משאל הברקזיט.

זו לא הייתה פעם ראשונה שבה דלפו פרטיהם של מיליוני אמריקאים, למעשה רק לפני חודש רשת מלונות מרריוט הודתה כי דלפו ממאגריה פרטיהם של חצי מיליארד (!) לקוחות. וזו אפילו לא הייתה פעם ראשונה שהועלו טענות על הטיית תהליכים דמוקרטיים. אבל זו כן הייתה הפעם הראשונה שבה תרחיש יום הדין נגלה לעין כל במלוא תפארתו. תחילה מידע תמים לכשעצמו דולף, בשוק הפתוח הוא מוצא את דרכו לידיים הלא נכונות, ואז בעלי עניין מפעילים בעזרתו מנוף רב עוצמה על התהליכים הדמוקרטיים.

אבל היה כאן רובד נוסף, מזה זמן רב הגביע הקדוש של הביג דאטה היא היכולת לנבא את אופיו והעדפותיו של האדם היושב מול המסך, מעבר לתחומי עניין צרים. מומחי משא ומתן, אנשי שיווק מומלחים וחוקרי כוחות הבטחון מנוסים יודעים לספר כי לכל אדם נקודות תורפה משלו. פיצוח "הדקדוק הפנימי" הזה של כל אדם פותח צוהר בלתי מוגבל להשפעה ושכנוע. אלא שנכון להיום אף טכנולוגיה לא הוכיחה יכולת חד משמעית כזו.

בשיחות סגורות אנשי קמברידג' אנליטיקה טענו ליכולות פרופיליניג פסיכולוגי יעיל. הם אומנם לא הציגו הוכחות, והקהיליה המדעית מצידה הגיבה בסקפטיות מהולה בזלזול. אלא שעצם הטענות הדהדו עם חששות תרבותיים עמוקים שקיבלו ביטוי נרחב בתרבות הפופולרית, ובין השאר בסרט בכיכובו של טום קרוז "דו"ח מיוחד". אבל לכולם ברור כי זו רק שאלה של זמן עד שניתקל ביכולות כאלה בפעולה. למעשה עצם העובדה שהן עדיין לא קיימות הוא פרדוקס משונה.

עוד בשנות החמישים הפסיכולוג והחוקר פול מיל עורר את חמתם של בכירי המקצוע כאשר הוכיח שמשוואות פשוטות מנבאות התנהגות טוב יותר מפסיכולוג קליני. זה היה המצב בסינון מועמדים ללימודים גבוהים, בהצלחה בעבודה, בשחרור מוקדם מהכלא ועוד מגוון תחומים. עמיתו רובין דוז הלך אפילו רחוק יותר, והראה כי הצלחת הנישואין מנובאית על ידי משוואה פשוטה: שכיחות היחסים האינטימיים פחות שכיחות הריבים, אתם לא רוצים שהתוצאה שלכם תהיה שלילית...

כפי שכתבנו בעבר טכנולוגיות חדשות מאז ומעולם עוררו חשש ואפילו תנועות מחאה, ב-1727 הנזקים שגרמו פועלים מפוחדים למכונות תעשייתיות חדשות היו כה גדולים שהפרלמנט הבריטי נאלץ לחוקק חוקים מיוחדים כנגד פגיעה ברכוש תעשייתי. הטכנולוגיה תופסת מקום כה מרכזי בהתפתחות החברתית והתרבותית שלנו עד שתקופות היסטוריות נקראות על שם הטכנולוגיה המרכזית במהלכן - תקופת האבן, תקופת הברונזה ועוד...

החשש לפרטיות ולהולדת אורקל טכנולוגי לא שונה בהרבה. האירוניה היא שאחד הזרזים המשמעותיים לפיתוח המחשב היה הצורך לסייע בתהליך המפרך של איסוף נתונים על אזרחי ארצות הברית. הרמן הולרית' עובד לשעבר של לשכת מרשם האוכלוסין האמריקאית נחרד לדעת כי תהליך עיבוד ואחסון נתוני המרשם הסתאב עד כדי כך שהעיבוד של המרשם מ-1880 הסתיים רק לאחר שבע שנים, כמעט לקראת הספירה הבאה.

בתגובה, הולרית' הרכיב מכונת חישוב מבוססת כרטיסיות ניקוב שהייתה מסוגלת גם לעבד ולאחסן עשרות רבות של פרטי מידע על כל אזרח אמריקאי, וגם לשלוף את הנתונים בהתאם לקריטריון מסנן. בעזרת המחשב של הולרית' המרשם של-1890 עובד בפחות משנה. אבל הולרית' לא עצר בכך, הוא רצה לבנות מכונת חישוב לכל מטרה, כזו שלא תהיה ייחודית לצורכי המרשם אוכלוסין, ולאחר סדרה של מיזוגים ורכישות ב-1927 חברתו הפכה להיות מה שמוכר לנו היום כ-IBM.

קילובייטים רבים זרמו מאז מכונת מרשם האוכלוסין של הולרית', אבל מבחינת היכולת שלנו להגן על המידע הנאגר אנחנו נמצאים באותו המקום אם לא גרוע יותר, כאשר כל מכשיר חכם מחובר לרשת עולמית של קשרים זו רק שאלה של זמן עד שמידע יימצא את דרכו למקום הלא נכון ברשת. ובעוד במערב מנסים לשלוט בנחשול המידע, סין חסרת העכבות כבר רתמה את יכולות המעקב ועיבוד המידע לכדי מערכת ריגול אחר אזרחים בקנה מידה שאפילו ג'ורג' ארוול לא העיז לדמיין.

האיחוד האירופי אומנם הטיל את מלוא כובד משקלו בנושא, והחל מ-2019 תחל האכיפה של חוקי פרטיות המידע החדשים ה-GDPR. פוליטיקאים אירופים למשל, כבר ניצלו את הזכות להישכח כדי למחוק 34,000 רשומות על עצמם. ופייסבוק מצידה עושה מאמצים לזהות ולעצור מניפולציות על בחירות דמוקרטיות - רק החודש פייסבוק דיווחה על מחיקה של 15 דפים אשר נחשדו בנסיון להטות את הבחירות בבנגלדש.

אבל הנסיון מלמד כי בקנה מידה גדול כל כך, כוחות השוק תמיד יגברו על נסיונות הרגולציה השונים. כפי שכתבנו בעבר, ההנחה הבסיסית של גופי המודיעין היא שמידע דינו לדלוף, המאמצים מתרכזים במידור וקשיים בהפצה. או כמו שאומר ד"ר איין מלקולם, מדען הכאוס האקסצנטרי מ"פארק היורה": "אם יש משהו שההיסטוריה של אבולוציה לימדה אותנו, הרי זאת העובדה כי הטבע תמיד מוצא את הדרך..."

18/03/2018 | רכב אוטונומי בוחר להרוג. סוף ההתחלה.

יום לאחר התפוצצות פרשת קימברידג' אנליטיקה התבשרנו על תאונה קטלנית ראשונה שנגרמה על ידי רכב במצב אוטונומי מלא. רכב ניסוי של אובר דרס למוות אישה חסרת בית בשם אליין הרצברג אשר חצתה את הכביש המהיר עם עגלתה.

בהמשך יתברר כי נהגת הניסוי אשר ישבה מאחורי ההגה הייתה עסוקה בלצפות בוידיאו במכשיר הסלולרי שלה, והרכב מצידו הבחין בצללית של הרצברג ובחר להתעלם ממנה, כנראה כחלק מניסוי לחדד את היכולת של מערכת הליידר של הרכב האוטונומי להתעלם משקיות ואשפה אחרת המוטלת על הכביש.

דמות המפתח הישראלית במרוץ אל הרכב האוטונומי, פרופסור אמנון שעשוע, כבר התבטא כי גם אם הרכב האוטונומי יצמצם את מספר ההרוגים מתאונות דרכים פי שלוש - מ-35,000 בשנה בארה"ב ל-10,000 - עדיין לא יהיה אקלים ציבורי שיאפשר הכנסה של רכב אוטונומי. רק כאשר השיפור יהיה פי מאה (!) להערכתו אנשים יפסיקו לחשוש מנהיגה אוטונומית.

כפי שאמר הפיזיקאי הדגול נילס בור, "ניבויים הם עסק מסוכן במיוחד אם מדובר בעתיד", אך התגובה הקשה לתאונה של אובר עם הולכת רגל שהתפרצה לכביש (אובר השביתה את כל צי הרכבים האוטונומיים שלה ל-9 חודשים) ללא ספק תומכת בדבריו של שעשוע.