בוחרים בינה מלאכותית

ביום חמישי האחרון, בשעות הבוקר המוקדמות תחקירנית של תוכנית ״העולם הבוקר״ פנתה אל מתי, יזם ישראלי ומומחה בוטים, וביקשה לראיין את אחד מבכירי מפלגת ״הבינה״. ״הכי טוב את היושב ראש - הראל שרביט״ היא אמרה, ״אבל גם הגברת עו״ד לוטם שטיינברג ירושלמי נשמעת סבבה״, מתי סירב בנימוס וניתק.

במקביל תחקירני Ynet מצאו את דרכם אל אייל, מומחה למידת מכונה, ושאלו על תפקידו במפלגת ״הבינה״ - שהרי הוא לא מופיע על הפוסטר שלה או במצע המפורט. אייל המופתע מהשיחה השיב לאחר הרהור קצר שהוא ככל הנראה ״פילוסוף הבית״ של המפלגה ודווקא לא יתנגד לראיון.

הבעיה הייתה שמפלגת ״בינה לישראל״ לא הייתה קיימת, ויתרה מכך: המועמדים היו לא אמיתיים, השמות בדויים, ומצע המפלגה מפוברק - פייק מוחלט. הכל, החל מדמויות המתמודדים דרך שמותיהם ותאריהם וכלה במצע של המפלגה - כל זה נוצר על ידי רשתות נירונים ממוחשבות ששיננו את פרצופיהן ושמותיהם של פולטיקאים אמיתיים ויצרו יש מעין פרסונות חדשות בעלות מאפיינים זהים ככל הניתן לאלו האמיתיים.

תרגיל בחירות

כמה ימים קודם לכן מתי, אייל ועוד זוג חברים פרסומאים, החליטו שזה יהיה תרגיל מעניין להרכיב באמצעות למידת מכונה רשימה חדשה מאפס, ללא כל התערבות אנושית. הם נתנו למחשב ״להתאמן״ על תמונותיהם של 100 פוליטיקאים ישראליים אמיתיים ולהציע בתורו דמויות חדשות.

חלקן היו לא הגיוניות בעליל, וסבלו מפגמים חזותיים בולטים, בכל זאת המחשב לא הודרך בשום צורה על מבנה ״נכון״ של פנים אנושיות הוא רק ניחש על סמך הפנים שהראו לו. אבל לאחר ברירה קצרה החברים נותרו עם חמישה מועמדים משכנעים בהחלט. במקביל רשת נוירונים אחרת המתמחה בטקסט שיננה שמות ומצעים אמיתיים כדי להציע שמות למועמדים ומצע חדש ואותנטי למפלגה המפוברקת.

התוצאה המשעשעת הוצגה בפייסבוק, בפרט בקבוצת ״עליית המכונות״ המונה כמעט 20 אלף איש ועוסקת בהתפתחויות האחרונות בעולם הבינה המלאכותית. וחיש קל קיבלה חיים משל עצמה. יצירי כפיו של המחשב היו אותנטיים עד כדי כך עד שלבסוף צפו בראדר של תחקירני החדשות. הנה קטע מהמצע של המפלגה:

״בצד הפוליטי, נילחם למען הקמת חברה אזרחית חזקה ודמוקרטית בישראל, מכיוון שזו הדרך היחידה שיכולה לפעול בתוך המציאויות החדשות שהתעוררו, ומשום שהתנאים שנוצרו לאנשים לממש את זכויותיהם תחת עקרונות הצדק הבסיסיים. ושוויון, אשר בישראל נוצר באמצעות פעולות עירוניות יומיומיות, מספקים במה מקורית לתכנון החברתי והדמוקרטי - כמו מערכת הרכבות המהירה ברכבת הקלה, רשתות חשמל לרשת החשמל, הקמת פרויקטים של אנרגיה ירוקה וכו '.

באווירה המחושמלת של רגע-לפני-בחירות, המפלגה הפיקטיבית הציתה שלא במכוון שרשרת תגובות שחיש קל הובילה לכמעט הכרה. אבל לו רצו יוצריה לקדם אג׳נדה מסויימת, להשפיע באופן כזה או אחר על הבחירות או פשוט לשבש את התהליך הדמוקרטי, הם יכלו בקלות להמשיך ולתחזק את הסיפור ש - שימו לב שוב! - אין לו כל ארטיפקט ממשי ביקום, בדיה של מכונה.

זו אילסטורציה מצויינת לכך שאנחנו כל כך עסוקים בהתקוטטויות הפומביות של המנהיגים שלנו והתבצרות סביב לעמדות עד שהמהפכה השקטה אשר מתרחשת בימים אלה ממש, חולפת כמעט בלתי מורגשת. ובמהפכה הזו הפייק הוא אפילו לא הבעיה הוא רק הסימפטום.

שועטים קדימה

הרכבים האוטונומיים הפכו להיות במידה רבה הפנים של מהפכת הבינה המלאכותית, ויש לכך סיבה עיתונאית טובה: הם יפים, הם מוחשיים והם מייצרים כותרות משובחות. כל העולם עוקב בהתרגשות - מי בחדווה ומי בזעם - אחר קומץ הרכבים הממותגים גומע מרחקים הולכים וגדלים, ומזדעזע עמוקות מכל טעות שרכב אוטונומי או אוטונומי-למחצה מבצע. וכמו בכל סיפור טוב, בעלילה הזו יש גיבורים, יש נבלים ויש המון כסף.

אלא שרכבים אוטונומיים רחוקים מאוד מהנקודה הקריטית שבה בינה מלאכותית תאחז בהגה באופן מלא. על אף שלא פחות מ-63 קבוצות שונות מתחרות ביניהן המרוץ אל הרכב האוטונומי בדרגה 5 - נהיגה עצמאית מלאה - כמעט כולן נתקלו בקשיים משמעותיים. ג'נרל מוטורס דיווחה - בין השאר - כי אחת למייל הנוסעים חשים אי נוחות משמעותית מסגנון הנהיגה, וזמן הנסיעה של המערכת האוטונומית ארוך ב-80% ממקבילה האנושי.

השאפתניים ביותר - טסלה ו GM - שלפי התוכניות היו אמורים לחצות את הנקודה הקריטית עוד השנה, ככל הנראה כבר לא יעמדו בלוח הזמנים שהכריזו, והבאה בתור - פורד - שהייתה אמורה להגיע לרכב אוטונומי בדרגה חמש אי שם ב-2021 כבר תיקנה את התחזית לדרגה 4 בלבד.

הרבה אפשר ללמוד מהעובדה שסך הקילומטרים שעשו רכבים אוטונומיים בקליפורניה [חלוצת החקיקה והתשתית בתחום] ב-2018 היה 0.00066% מהקילומיטראז׳ הכללי שגמעו הנהגים האנושיים בקליפורניה עצמה, שבריר זעום שלא מייצר מספיק דאטה כדי להקיש בצורה מושכלת על התמונה הגדולה באמת.

ובינתיים, תוך שהפרזנטורים של התחום נתקלים בקשיים טכניים ורגולטוריים, הבינה המלאכותית סגרה פערים עצומים ביכולות יצירת ועריכת תוכן. רק לפני כמה חודשים מערכות עיבוד הוידיאו וסאונד הבשילו עד כדי כך שלאחר שפייסבוק סירבה להוריד סרטון ערוך שבו יושבת ראש בית הנבחרים ננסי פלוסי נשמעת מבולבלת או שיכורה, פעילים חברתיים יצרו סרטון מזויף שבו מארק צוקרברג מתאר בציניות את השלטון שלו במידע של מיליארדי אנשים.

זאת אחרי שבאפריל הסטארטאפ הישראלי Canny-AI [שבאמצעות הטכנולוגיה שלו נוצר הסרטון של צוקרברג מתוודה] שחרר סרטון שבו מנהיגי כל העולם נראים שרים את Imagine של ג׳ון לנון, בשלב מסוים נתניהו ורוחאני נראים בדואט זה לצד מסכו של זה.

במקביל מערכות כתיבת טקסט כבר דילגו בקלילות על הפער שבין האקדמיה והתעשייה ויוצרות כתבות של ממש עבור משרדי יחסי ציבור ויצרני תוכן בינוניים וקטנים. אתם יכולים לבקש מהמחשב לכתוב על נושא מסוים, לכתוב בסגנון של סופר מסויים, ואפילו לבחור את הנימה של הכתיבה.

נכון לרגע זה, לא רק שהמחשב מסוגל לייצר תוכן איכותי אמין ובעל מאפיינים זהים כמעט לגמרי לתוכן האותנטי עליו הוא התאמן, הוא גם מסוגל להתאים את המסר לכל אחד ואחת מאיתנו - לפסיכולוגיה אישית, לסביבה התרבותית והחברתית המדויקת שבה אנחנו חיים.

הבעיה והסימפטום

הבעיה הגדולה נעוצה באופן שבו פועל המוח האנושי, אחת הסגולות הכי משמעותיות שלנו כבני אדם היא היכולת ללמוד מניסיונם של אחרים. למעשה יהיה זה לא מוגזם לומר שהאינטלגנציה האנושית מקורה בחברה האנושית ולא בפרט. בדומה לסופר-אורגניזם של כוורת הדבורים אשר אוצר ידע עצום על הסביבה הקרובה לכוורת ועל בנייה, תחזוקה, הגנה ורבייה. בעוד שאף אחת מן הדבורים בנפרד לא מסוגלת לשרוד אפילו יום אחד.

כבר למן השבטים המוקדמים של ציידים לקטים בני אדם החלו לפתח התמחויות, היו כאלה שהיטיבו לצוד והיו כאלה שהפכו למומחים בעיבוד העוד לצרכי היום יום, היה צורך שחברים מסויימים יקדישו את כל זמנם לחקירת הצמחים והסגולות התזונתיות \ רעילות שלהם, ומן העבר השני היה צורך בבנאים מוכשרים שיוכלו להרכיב מסתור בחורף וכלי ציד ולחימה קלים ואמינים.

מהר מאוד למדנו להסתמך על השבט במציאת מקום לינה, מתוך הבנה שמישהו אחר בשבט מחזיק ככל הנראה בידע העדכני ביותר מהו המקום המוצלח לשם כך. להימנע מאכילת פרות שאחרים נמנעים מהם, מתוך הבנה שככל הנראה יש לכך סיבה טובה. לחקות את טקסי החיזור של הבוגרים יותר, בלי להבין לעומק את הכלכלה של היצע וביקוש והמדע המורכב של הישרדות המתאימים ביותר. בתמורה כאשר ניצב בפני הקבוצה אתגר בתחום המומחיות הצרה של הפרט הוא הוביל את כולם אחריו.

ככל שהחיים השתכללו והאתגרים שעמדו בפני החברות האנושיות הפכו למורכבים יותר ויותר, משקלה של ההתמחות הפך למרכזי וחיוני יותר ליכולת של הקבוצה לשגשג ולהתפתח. כבר לפני אלפי שנים אף רומאי לא החזיק בכל היידע והמיומנות הדרושים בכדי לסלול את הדרכים, לבנות את המקדשים ולצייד את החיילות בנשק ואסטרטגיה מתוחכמים - היה זה פרי שיתוף פעולה של אלפי מומחים.

מרבית ההחלטות הלא מודעות שאנחנו מקבלים מדי יום מקורן באינטלגנציה החברתית ולא הפרטית, היכן על הרציף לחכות לרכבת, לאיזו מסעדה מבין הפונות אל הרחוב להיכנס, כיצד להתנהג במסיבה וכיצד להתנהג בהלוויה, אנחנו לומדים מאחרים שכבר היו בנסיבות דומות או שמחזיקים במומחיות מיוחדת לגבי האתגר התורן וחוסכים שנים של למידה ופיתוח מיומנות.

היכולת האנושית לתחזק קשרים חברתיים ולהשתייך אל קבוצה כל כך מרכזית לקיום האנושי שהאנתרופולוג הבריטי רוברט דונבר הצליח לנבא את מספר החברים המרבי שלנו מתוך גודל המוח. הניחוש שלו היה שהמעגל הרחב ביותר של אנשים עמם אנחנו מסוגלים לתחזק קשר הוא היכנשהו סביב 150 איש. ברגע שהמספר הזה נוסח הוא החל לצוץ בכל מקום, החל מהפלוגה הרומאית וכלה במספר החברים הקרובים בפייסבוק. חברות מסחריות החלו לפצל צוותים ברגע שמספר החברים בהם עבר את המאה וחמישים איש.

הצביעו בעד, לא נגד

אבל מה עושים אם אי אפשר יותר לסמוך על הידע שמשדרת כביכול החברה? מה קורה אם חברים קרובים בפייסבוק עשויים בקלות לשתף או להדהד עובדות שאין להם אחיזה במציאות? המשבר גדול בהרבה מחדשות מזויפות או מטעויות עובדתיות מביכות של כתבי חדשות. היות והחשיבה שלנו מבוססת במידה רבה על מיקור חוץ אל החברה הקרובה אלינו, ברגע שאנחנו לא יכולים לסמוך על האותות המגיעים מהחברה אנחנו במשבר שהוא לא פחות מקו פרשת המים.

מה עושים? עדיין מוקדם לומר, נייר עמדה שהוציא לאחרונה המכון למחקרי ביטחון לאומיים מתאר כשל שוק שבו כרגע אין אינטרס מובהק לאף אחד מהכוחות המשמעותיים בשוק לטפל בתופעה. מה שבטוח שבינתיים עלינו להתייחס בחשדנות לכל פיסת מידע סנסציונית או יוצאת דופן.

ויש עוד דבר, קל בהרבה לייצר פייק שלילי מאשר פייק חיובי, כמו כל דבר אחר בחיים הרבה יותר קל להרוס ולהשחיר מאשר לבנות ולתקן. שערוריות הן צבעוניות מושכות קוראים וקשות להפרכה, ולכן מקדם ההפצה שלהן גבוהה בהרבה. לא כן סיפורים חיוביים, הפעם האחרונה שהיה לנו פייק מחיובי כאן היו התארים של יאיר לפיד. ולכן הטו אוזן לחיובי, בהקשר של הבחירות היום - הצביעו בעד, לא נגד. כך במחי יד תנקו ממערכת השיקולים כמות עצומה של רעש שבחלקו הגדול פייק.