המדינה כאל רשע

מעבר לאומללות, לעצב, לאבל על מה שהיה יכול להיות וכבר לא יהיה, ניצב חוסר האונים: התחושה המחרידה שאנחנו נלקחים בעל כורחנו למקום שאנחנו לא רוצים להיות בו. כמו בחלום רע, אנחנו במושב הנוסע של אוטובוס ללא בלמים, וגבולות המדינה הם חלונותיו הסגורים.

"ההליך יצא לדרך והכול ייוודע לך בבוא הזמן", אומר אחד הזרים שמגיעים לעצור את ק' בספר "המשפט" של קפקא (מגרמנית: אילנה המרמן), ומצייר בדייקנות את חוסר האונים של האזרח אל מול מנגנוני המדינה. "נחטפנו", זועקים המפגינים בבגין ומול בית הנשיא, ומביעים את אותה המצוקה.

חוסר האונים שעומד כבסיס למצבנו הנוכחי מציב אותנו אל מול כוחה העצום של המדינה. אנחנו נתקלים בכוח הזה כשאנחנו מתגייסים או מתבשרים על ביקורת של מס הכנסה, אבל בזמן הזה הקווים מתחדדים והסכנה לאבד את כל מה שיקר לנו ברורה ומיידית. כאילו הפכנו מאזרחים לנתינים, אנחנו עומדים פעורי עיניים אל מול החלטות השלטון. כמאמינים בידיו של אל קנא, אנחנו חסרי יכולת להשפיע ואף חסרי ידע על מה שעוד צפוי.

במאמרו "הרהורים על הטרגדיה" משנת 1829, הצביע בנז'מן קונסטן על התמורה העמוקה שחלה בתודעה האנושית עם הכניסה לעידן המודרני. קונסטן מסביר שאין עוד היגיון בכתיבת טרגדיות המציבות את האדם אל מול כוחות הגורל או האלים — אלה כבר לא מעסיקים אותנו, ובכל אופן אינם הישויות שבאמת מאיימות עלינו. את מקומם תפסו כוחות אחרים, מוחשיים הרבה יותר ומחרידים לא פחות:

הסדר החברתי, פעולת החברה על הפרט בשלבים ובזמנים שונים, רשת המוסדות והקונבנציות שעוטפת אותנו מלידה ואינה מרפה עד מותנו — אלה הכוחות הטרגיים שעלינו לדעת להפעיל. הם המקבילה המדויקת של הגורל אצל הקדמונים. משקלם כולל את כל מה שהיה בלתי־מנוצח ודכאני בגורל… הציבור שלנו יופעל באופן עמוק יותר ממאבקו של הפרט אל מול הסדר החברתי ששודד או לוכד אותו מאשר על ידי אדיפוס שנרדף על ידי הגורל או אורסטס הנתון בידי אלות הנקם.

קונסטן (1767–1830), הוגה שווייצרי־צרפתי ומהראשונים שהתהדרו בתואר "ליברל", הבין שמשהו יסודי השתנה בתודעת האדם. המעבר אל המודרנה ותהליך החילון הפרידו אותנו מתפיסת העולם שעל־פיה כל גרגיר חול וכל עלה עשב הם חלק מתוכנית אלוהית כוללת, שכולנו כמוהם שזורים בסדר הוליסטי ונענים לכוחות גדולים מאיתנו. עם זאת, עלייתה של מדינת הלאום הביורוקרטית הציבה מוסדות אחרים, גדולים ומאיימים לא פחות, שאנחנו נתונים למרותם.

מה שהפחיד את מחברי הטרגדיות היווניות היתה ידו של הגורל, של המוירות (Moirai), האלות שקבעו לכל אדם את מהלך חייו ואת רגע מותו. הרומאים חששו מפורטונה (Fortuna), אלת המזל והגורל, והעבריים הקדומים חששו כמובן מאלוהים. מה שמפחיד אותנו הוא מנגנוני האכיפה והביורוקרטיה של המדינה. בין גלגלי השיניים שלהם, לא של אלות הגורל, אנחנו עלולים להיטחן.

ואכן, יצירות דרמה גדולות בעת הזאת עומדות לא על זעם האלים אלא על המתח שבין הפרט לשלטון. למן "מיכאל קולהאס" של קלייסט דרך "המשפט" של קפקא ועד "מעגל הגיר הקווקזי" של ברכט, אנו עדים לחיכוך הבלתי נמנע בין הפרט למערך הפוליטי־חברתי, ללא צורך בהתייחסות לכוחות עליונים. לא תיאולוגיה, אלא פוליטיקה. לא גורל, אלא ממשל. מה שמניע אותנו אינו הקשר עם האל, אלא הקשר עם המשטר, ואנחנו חוששים יותר ממעצר שרירותי מאשר משיפוטו של הקב"ה ביום כיפור.

אל מול כוחם של האלים הציעו לנו הדתות מנגנוני הגנה: נוסחי תפילה, אמצעי טהרה, טקסי כפרה. אחד החידושים הגדולים של המונותאיזם לעומת הדתות הפגאניות היה האפשרות לכרות ברית עם האל, שמכוננת הֶסְדר הפועל לא רק לטובת מלך מלכי המלכים אלא גם לטובת האדם. האל הבטיח סדר וביטחון, לא רק ניצול או הפגנות כוח שרירותיות.

באופן דומה, אל מול הכוח העצום של המדינה קמו תפיסות פוליטיות שונות שביקשו להגן על האזרח. החשיבה הליברלית (שקונסטן היה מהוגיה המרכזיים) דרשה גם היא לכרות הסכם מול השלטון — אמנה חברתית — שיגביל את כוחו. משטר ליברלי לא יכול לפלוש לכמה ממדים חשובים בחיינו — קניין, ביטוי, תנועה, מצפון וכו'. במדינה ליברלית זכויות אדם ואזרח נשמרות, ואנו מוגנים, לפחות בנוגע אליהן, מידו החזקה וזרועו הנטויה של השלטון.

הרעיון הדמוקרטי ביקש אף ללכת מעבר לכך ולהפוך את סדר הדברים: להעניק לאזרחים כוח על הממשלה; ברצותם יוכלו להפילה ולהחליפה. כעת המשטר הוא שצריך לחשוש משיפוטם של האזרחים, באופן שקלייסט וקפקא בקושי היו יכולים לדמיין — שלא לדבר על אברהם אבינו. אמנם לא נרצה להיפגש עם מס הכנסה, אולם החיים בדמוקרטיה ליברלית כמוהם כחיים תחת אל רחום וחנון: אנו מוגנים כל עוד אנו עושים את המינימום הנדרש.

מה שעברנו בשנתיים האחרונות היה ריסוק הדרגתי של כל הנחות המוצא והמנגנונים הללו. תחילה ביקשה הממשלה לפגוע במרחב הליברלי, ולסרס את ההגנה היחידה שיש לאזרחי ישראל מפני ממשלתם: בית המשפט העליון. לאחר פרוץ המלחמה — כתוצאה ממחדל קולוסאלי של אותה ממשלה — התמקד המשטר בעיקר בשמירה על עצמו. בהמשך טיפח המשטר את הבייס על חשבון כלל האזרחים, ושלח את בנינו ובנותינו לחזית תוך סירוב מתמשך להציג אסטרטגיה ברורה או להבהיר לאן פנינו מועדות. כעת אנחנו נתונים לירי רקטות וטילים, ומונהגים על ידי ממשלה שבה פרחח כאיתמר בן גביר מוגדר כשר לביטחון לאומי.

במקביל, סקרים מתחילת המלחמה מראים שאותה ממשלה נשענת על מיעוט מאזרחי המדינה ושראשיה סובלים מחוסר אמון בסיסי. ממשלה שהתמיכה בה חלקית וקטנה מעצימה את תחושת החטיפה של האזרחים. הוסיפו לזה את ההתכחשות לאחריות, את הזלזול במקצוענות ובמומחיות, את חוסר הנכונות לתיקון דרכיה, ותקבלו אוכלוסייה המרגישה שהיא שבויה בידי אל זועם, קפריזי ומסוכן.

הישראלים שבורחים כעת לחו"ל עושים זאת מתוך תחושה זו של חוסר אונים. במערכת פוליטית תקינה ניתן לסבול ממשל שמנוגד לתפיסת עולמנו מתוך אמון שהוא משרת את כלל האזרחים, ושבכל מקרה ניתן להחליפו. במדינה ממוצעת גם אין אויבים צמאי דם מעבר לגבול שינצלו שלטון מושחת וחסר־כישורים כדי להרוג באזרחיו. הפוליטיקה השבורה של ישראל מציגה את ההפך הגמור: אנו נתונים לממשלה שמקדמת פוליטיקה מגזרית מובהקת, שמטפלת במשבר הגדול ביותר בתולדותינו ללא אסטרטגיה, ושמסכנת את חיינו בכך שהיא נכשלת, כבר מעל שנה, בהחזרת הביטחון לערינו.

נקלענו לטרגדיה מודרנית, אם כי לא בלתי נפוצה. אזרחי רוסיה, ונצואלה וגם סוריה שכנתנו מכירים את הסיפור מקרוב. כעת אנחנו הניצבים של אותו מחזה, שבו משטר אגוצנטרי לוקח אוכלוסייה לעבר חורבן. "אל בן תמותה", קרא תומס הובס למדינה. אצלנו אותו אל מפר את הברית הבסיסית בינו ובין האזרחים, ובעיוורונו סבור לא רק שהם אמורים לשתוק ולהמשיך לתת בו אמון, אלא גם להמשיך להעלות לו עולות. ממונותאיזם עברנו לפגאניות, ואין לדעת מה יחליט המולך מחר. למרד באל־מדינה מתעלל שכזה קוראים מהפכה. לתהליך של חילון קוראים הגירה.

נתיניו של אדיפוס לקו במגפה מפני שחיו תחת מלך חוטא. רק עזיבתו הצילה אותם, ולמזלם הוא ידע לקחת אחריות וללכת כשהבין מה עולל. אזרחי ישראל סובלים מממשלה חסרת אחריות, שיודעת היטב מה עוללה אולם רק מגבירה את אחיזתה בשלטון. אם זה נראה כמו מאבק מול ענק זועם זה לא במקרה. כך נראית עלילת פורענות הגורל בעידננו.

—

פורסם במוסף הארץ

ספר חדש על התנועה הכיתתית של שי טובלי

לפני כ-15 שנה, כשהבעיות שלנו הסתכמו במחירי הקוטג', התפלפ מורה רוחני ישראלי מוכר בשם שי טובלי, והכריז שהוא "הבודהה מאוריון", ראש קבוצת מנהיגים גלקטיים שהגיעו לכדור הארץ כדי לחולל מהפכה רוחנית.

טובלי היה גורו מוכר בישראל, ודי מצליח. היתה לו קהילה קבועה והוא כתב טורים באופן תדיר לערוץ הניו-אייג' (היה דבר כזה) באתר nrg-מעריב (היה דבר כזה). גם אני כתבתי אז טורים לשם, כחוקר של התחום, ופעם אחת אף ראיינתי את טובלי והתרשמתי יחסית לטובה.

זה נגמר כשהוא התחיל עם המגלומאניה שלו (ראו צילום ששמרתי של מודעה שלהם על "תנועת 2012"), ואני זוכר כיצד חסידיו הסבירו לי ש"חבל שלא הייתי פתוח מספיק לאנרגיה" של הבודהה מאוריון כשכתבתי באותו מקום שהאיש כבר אינו במחוזות השפיות וששומר נפשו ירחק.

העימות בין טובלי וביני הגיע לשיא כאשר הוא תבע אותי על דיבה, מפני שהזהרתי את הציבור ב-nrg שהוא מפריד בין זוגות, מקיים יחסי מין עם תלמידיו ואף מכין להם "תרופה" מהזרע שלו. זה היה נכון וכשהגענו לבית המשפט השופטת, לשמחתי, זרקה את טובלי מכל המדרגות. (תודה לעו”ד ישי שנידור!)

אני זוכר שברחבה מחוץ לבית המשפט נפגשתי עם חסידיו, ואחד מהם, אילון לסטר, הטיח בי את האמירות הרגילות על כך שאני אטום רוחנית ולא מבין את המהפכה שהם מביאים. הנהנתי.

הספר החדש של לסטר – 'כת דה בולשיט' (הוצאה עצמית) – מציג את הסיפור מהצד שלו: עליתו ונפילתו כחבר בתנועה, אחר כך התלמיד הבכיר ובן זוגו של טובלי, ולבסוף, השבר, ההתפכחות, הבריחה, השיקום.

הספר כתוב מצוין (עורכת: תמר נהרי) והקריאה בו מרתקת. לסטר מתאר באופן יפיפה את ההתלהבות של ההתחלה, את הקשיים ומבחני האמונה בתווך, ואת המשבר של הסוף. זהו טקסט-קייס נפלא של כניסה ויציאה מקהילה רוחנית כיתתית, על כל הגבהים והתהומות שהיא מביאה.

אולי הדבר המעניין ביותר כאן הוא שעל אף שטובלי הוא מורה נצלן, אטום, דפקט, אגומאניק מטורלל ומטרידן מיני סדרתי – לא רק שאינו טיפש, אלא שיש לו כריזמה רוחנית ממשית, כלומר הוא מצליח לעורר בחסידיו תובנות וחוויות רוחניות אותנטיות.
לסטר מגולל באופן מרתק סדרה של התנסויות, השגות וחוויות רוחניות שהוא עבר תחת הוראתו של טובלי, ועושה עם הקורא חסד כשהוא לא מנסה להמעיט או לפקפק באותנטיות שלהן. ואכן, אני בטוח שהן היו אותנטיות.

טובלי אכן היה מצליח לעורר את חסידיו רוחנית, ולמרות שהוא היה לוקח את החוויות שלהם למקומות אפלים ונצלניים, אין בכך כדי לשלול את החשיבות שלהן עצמן.
רוחניות, לצערנו, לא תמיד חופפת למוסריות, ועומקים דתיים נמצאים גם במקומות מפוקפקים מבחינה אתית (או אסתטית, או מסורתית, או חברתית). זה העולם שלנו, מה לעשות, והספר של לסטר מהווה ראייה נוספת לכך.

טובלי עדיין מלמד, דומני בגרמניה. לסטר חי בישראל, אחרי ששיקם את משפחתו ואת חייו. ואני, שבספר מכונה "בלוגר", עדיין כותב, אם כי לצערי הרב כבר פחות על רוחניות. כמו שאומר המורה הרוחני הגדול שמשמש כמפכ"ל המשטרה, זה כנראה מה שנגזר עלינו.

החוליה האבולוציונית האחרונה: 'נקסוס' של יובל נח הררי

דומני שהדרך הנכונה להבין את ספרו החדש של יובל נח הררי, 'נקסוס', היא לראותו כחוליה האחרונה והמשלימה בסדרת ספריו, כרך מסכם של עבודתו, שבו הוא לא רק מביא את חשיבתו לקצה הלוגי שלה, אלא גם, לראשונה, חורג מכתיבה דסקרפטיבית ומציע טקסט נורמטיבי ופרוגרמטי, מתוך עמדה – וגם זה חידוש – הומניסטית.

נחזור אחורה. את הרעיון המרכזי של ספרו הראשון של יובל נח הררי, 'קיצור תולדות האנושות', אפשר לסכם כך: בני אדם, יונקים הומינואידים חלשים פיזית, הצליחו לא רק להפוך לחיה השלטת בטבע אלא גם לשנות את העולם ולהגיע לרמות דמיוניות של שגשוג חומרי על ידי שימוש בכישרון ייחודי: היכולת לספר סיפורים.

סיפורים, טוען הררי, הם מה שקושר אותנו יחד, הם מה שמניע אותנו לפעולה, הם מה שמאפשר לנו לחקור את העולם ולפתח הבנה ושליטה בו. הם גם מה שמאפשר לנו לצאת למלחמות ולגזור הכחדה על בני אדם אחרים, שעל פי הסיפורים שלנו הם אויבים, כופרים או תתי-אדם.

העניין של הררי ביכולת האנושית לספר סיפורים ולהאמין בסיפורים – רובם ככולם, הוא כותב בפירוש, בדויים לחלוטין – הוא עמוד השדרה של כתיבתו. האדם הוא יצור מספר, והתרבות האנושית, כלומר כל דבר שמפותח יותר מאשר שבט קטן של ציידים-לקטים, מתאפשרת אך ורק הודות ליכולתנו לספר ולהאמין בסיפורים.

גם בספרו השני, 'ההיסטוריה של המחר', עוסק הררי בסיפורים ובמידע, כשהוא מנסה לסרטט מגמות עתידיות. בספר הוא חוזה שבעתיד יהפוך האדם לסייבורג, כלומר ליצור שמשולבים בו חלקים ואיברים סינטטיים: כימיים ואלקטרוניים (הררי מכנה אותו "הומו-דאוס"), ומנגד עבור אחרים יהיה אפשר בכלל לוותר על האדם ולעבור אל מערכות ממוחשבות כשלב האבולוציוני הבא (זו, עבורו, "דת המידע").

התפתחויות אלה תלויות גם הן ביכולת שלנו לספר סיפורים, אלא שאלו כבר לא יהיו סיפורים שהאדם במרכזם. הטכנולוגיה תתפוס יותר ויותר את מקום ההומינואיד האורגני, שישתכנע שהסיפור שלו נגמר, ושסיפור אחר, משופר ומלהיב יותר, מתחיל. תפיסות הומניסטיות וליברליות ישקעו לטובת האדרת האלגוריתם היודע-כל וזרימת המידע החופשית.

חוזקו של ספרו החדש של הררי, 'נקסוס' (הוצאת כנרת זמורה דביר), הוא בכך שהוא משלים את ספריו האחרים, גוזר את המסקנות מההנחות הבסיס שהועלו בהם, ועושה כל זאת אל מול המציאות החדשה שעלתה על במת האנושות בשנים האחרונות: הבינה המלאכותית. אולם בשונה מספריו הראשונים, הפעם הררי אינו רק מתאר, אלא מנסה לשנות: להזהיר אותנו ממה שעומד לקרות, ולהציע דרכים להשאיר את האדם, במובן ההומניסטי של המילה, במרכז. למעשה הספר הוא כתב אזהרה מנומק אל מול סכנות ה-AI, התרעה בשער שנסמכת על תובנותיו של הררי מספריו הקודמים ומעבודתו מול הוגים אחרים וראשי התעשיה הטכנולוגית בימינו.

ככזה, בעוד הספר ממשיך באותו קו מטריאליסטי שהופגן בספריו הקודמים, הפעם נראה שהררי גם חורג ממנו, לפחות במשתמע, ועומד על ערכו של האדם כאדם. הספר אינו רדוקציוניסטי כקודמיו. הררי מזהיר מפני אבדן הפרטיות שלנו, אבדן הזהות שלנו, אבדן החירות שלנו, אבדן האינטימיות שלנו, אבדן היכולת שלנו להבין מה קורה סביבנו ואבדן היכולת שלנו לתקשר באופן אמין זה עם זה. הסובייקט האנושי בסכנה. למעשה על פי הררי "אנחנו בתהליך של אבדן שליטה על עתיד המין האנושי" (210). אפשרויות אלה מדאיגות אותו (בצדק גמור כמובן), והוא מתריע מפניהן.

הררי, כהרגלו, עוסק ברעיונות גדולים שמתפרסים על פני פרקי זמן עצומים. מטבע הדברים הוא מפשט מאוד רעיונות קטנים יותר, בוודאי מונחים טכניים שונים. אריק גלסנר כתב ביקורת חריפה במוסף התרבות של 'ידיעות אחרונות' על הדרך שבה מגדיר הררי "מידע" ו"אמת", אולם דומני שמונחים אלה לא אמורים להיות מוגדרים בספר באופן דפניטיבי, אלא מוצעים לקורא כהנחות בסיס כך שעל גביהן אפשר לבנות את התזה המרכזית שהספר מציע.

ומהי התזה המרכזית? בבסיסה עומדת האבחנה של הררי בין "אמת" ו"סדר". מידע שאנחנו רוכשים, והסיפורים שאנחנו בונים סביבו, נועדו לערוך סדר, אולם הקשר שלהם עם האמת אינו הכרחי. סיפור הבריאה בפרק א' של ספר בראשית, למשל, עושה למי שמאמין בו סדר (איך נוצר היקום, מהי מהות האדם, למה חשוב לשמור שבת), אולם הוא לא אמיתי באופן עובדתי. יש לו חשיבות רבה בהנחלת ערכים שונים, אבל מי שירצה לבנות עליו מסגרת של ידע ייכשל.

סיפור בראשית נותן לנו מידע ועושה לנו סדר, אולם הוא לא מקרב אותנו אל אמת עובדתית. סיפור האבולוציה של המינים בטבע – כן. יתרונה של המהפכה המדעית, כותב הררי, הוא היתה שהיו לה מנגנוני תיקון עצמי. לכן הסיפורים שנוצרו כתולדה ממנה עושים לא רק סדר, אלא קושרים אותנו אל האמת. סיפורים אלה איפשרו לאנושות להגיע להישגים אדירים במאות השנים האחרונות, החל מהארכת תוחלת החיים ועד למהפכת המיחשוב.

עם זאת, כפי שהררי דואג להדגיש שוב ושוב, גם טכנולוגיה מפותחת אינה ערובה לשגשוג או קידמה. על סמך קשר ממשי עם האמת, הביא המדע טכנולוגיה מתקדמת. אבל אותה טכנולוגיה יכולה לשרת סיפורים שדווקא מרחיקים אותנו מן האמת. מהפכת הדפוס, למשל, הביאה להפצת רעיונות המתודה המדעית, אבל גם להפצת פמפלטים מיזוגניים כמו "פטיש המכשפות" (Malleus Maleficarum), שעוררו גל הוצאות להורג של רבבות נשים באירופה. פשוט: אלו סיפורים שעשו סדר והיו מפתים הרבה יותר עבור מיליוני בני אדם מאשר הסיפורים המבאסים של קופרניקוס על מערכת שמש הליוצנטרית.

וזה לוז העניין מבחינת הררי: רשתות המידע שלנו "נוטות להעדיף סדר על אמת. רשתות המידע האנושיות נוטות לייצר הרבה כוח ורק מעט חוכמה." (393) הסיפורים הנוצרים מרשתות המידע מעצימים, לעיתים, סכנות, אף מעבר לאלו שהאנושות התמודדה איתן עד כה.

והנה, כבר בשנים הקרובות נתמודד עם רשתות מידע מסוכנות, והפעם ממקור לא-אנושי. גם רשתות המידע שתציג האינטליגנציה המלאכותית יעדיפו סדר על אמת, אלא שהפעם הסדר הזה יהיה קשור לסיפורים שהם מספרים לעצמם. על פי הררי:

כשאנחנו אומרים שרשת המחשבים מועדת לטעויות, זה לא רק שאלגוריתמים מדי פעם עושים טעויות עובדתיות או מקבלים החלטות שגויות. חשוב מכך, בדיוק כמו הרשת האנושית לפניה, כך גם רשת המחשבים עלולה להיכשל במציאת האיזון הנכון בין אמת לסדר. במרדף אחר סדר, רשת המחשבים עלולה להמציא ולכפות עלינו מיתוסים בין-מחשביים כל כך עוצמתיים, שהם יגרמו לאסונות היסטוריים גדולים עוד יותר מציד המכשפות האירופי או הקולקטיביזציה של סטלין. (300)

זו לדעתי אחת הפסקאות המרתקות והחשובות בספר. הררי מציע שמחשבים אינטליגנטים המדברים בינם לבין עצמם יערכו סדר במידע שהם צוברים בעזרת סיפורים – בדיוק כמו בני אדם. אלא שהסיפורים הללו יהיו לא רק מנותקים מהאמת (כמו רבים מהסיפורים שאנחנו מספרים לעצמנו) אלא לא-אנושיים ולחלוטין בלתי מובנים לנו. מצד שני הם יכתיבו את תפיסת המציאות של מוחות חזקים בהרבה משלנו, ובעלי שליטה בכל שדה שנפקיד בידיהם – מרשת הרמזורים, דרך מערך מצלמות זיהוי-הפנים בעיר גדולה ועד לכלכלת מדינה.

בנוסף, בניגוד לחלק מהסיפורים שנוצרו על ידי בני אדם, בעלי המנגנון לתיקון עצמי, אין כל סיבה להניח שהמחשבים יפתחו מנגנון כזה, ולנו יהיה קשה לפתח אותו בשבילם, ודאי בנוגע לסיפורים שאיננו מבינים אותם, או אף את החוקיות שעומדת בבסיסים. סדר יהיה, אבל זה יהיה סדר שייתכן שיהיה מנותק מהאמת, ובכל מקרה יהיה לא-אנושי, ואולי אף אנטי-אנושי.

שימו לב שהתמה המרכזית בכתיבתו של הררי הובילה אותו בדיוק לנקודה הזאת, לנקודה בה הוא מדבר על יצורים אינטליגנטים שמשתמשים בסיפורים כדי לצבור כוח – אולם הפעם יצורים אינטליגנטים אלה אינם יונקים הומינואידים – הומו-ספיאנס – אלא מחשבים. אלו ילמדו מאיתנו את הפטנט שהביא לנו כוח אדיר ושגשוג עצום, וישתמשו בו כדי לצבור כוח עוד יותר אדיר ולהגיע למקומות אחרים לגמרי, שכן או לא כוללים שגשוג אנושי.

הררי כותב על הסכנה לדמוקרטיה, על הסכנה לרומנטיקה, על הסכנה לכלכלה, על הסכנה לעצם האמת. אם "ההיסטוריה היא אינטראקציה בין ביולוגיה לתרבות" (220), הוא כותב, מה יקרה כאשר את התרבות שלנו יקבעו מחשבים? מה יקרה כאשר מנועי AI יעכלו את כלל התרבות האנושית ויפלטו חזרה סיפורים מסונטזים על עצמנו, מתוכנתים לעורר בנו רגשות ולפתות אותנו להאמין בהם, אבל מזיקים לנו בשלל דרכים ורחוקים מן האמת?

הספר מרתק, כתוב היטב ומעורר מחשבה – וחשש. הוא כולל גם פרקים מעניינים על השפעתה של הבינה המלאכותית על משטרים דמוקרטים וטוטליטרים, ועל צמצום החירות האנושית על ידי שיתוף פעולה של ממשלות ו-AI, ועל יצירת "דאטא-קולוניאליזם", כלומר שליטה של מדינה עתירת AI במדינה אחרת, ענייה במשאבים כאלה, שהמידע שלה יישאב על ידי זו החזקה ויאפשר לאחרונה לשלוט בפוליטיקה שלה.

הוא גם מזהיר מהגדלה אקספוננציאלית של פערי עושר בין מדינות: במונחים כלכליים בלבד, הרווח מהבינה המלאכותית בשנים הקרובות עתיד להגיע, מצטט הררי מחקר מסויים, ל-15 מיליארד דולר, אולם 70% ממנו ילכו לארה"ב וסין בלבד. מה יקרה כאשר מדינות אלה ישתמשו בייתרון שלהן כדי לצבור עוד הון וכוח?

הררי קורא לנו להתפכח מהגישה הנאיבית למידע (יותר מידע = יותר שגשוג) ולהעמיד מוסדות אנושיים יציבים בעלי מנגנוני תיקון-עצמי חזקים. מוסדות כאלה הם למשל הסכמים בינלאומיים לפיקוח וריסון הבינה המלאכותית, וחוקים הדורשים ביזור, שקיפות ואחריותיות מצד המפתחים של הבינה המלאכותית. השנים הבאות, כותב הררי, יהיו מכריעות ביכולת של האנושות להגן על עצמה מפני ה-AI ואף להזניק את עצמה קדימה בעזרתה.

כל כך הרבה פעמים הזהירו אותנו מפני הזאב הטכנולוגי, עד שאנחנו מותנים לדחות בעייפות כל אזהרה נוספת. אבל מה אם הפעם באמת מתקרב זאב? הררי מקדיש את ספרו להנחה שכן, והוא עושה זאת מתוך דחיפות מוסרית, דאגה ראויה לשבח, ובאופן משכנע למדי.

תקווה: תוכנית פעולה

הגליון החדש של כתב העת 'אופקים', מבית מכון שלום הרטמן, עוסק בתקווה. במאמר שלי ניסיתי להתוות תוכנית פעולה שתהפוך את המשבר הנוכחי לפתח ללידה מחדש של ישראל, תוכנית שמורכבת משלושה חלקים: עמידה נחושה אל מול הפונדמנטליזם הדתי היהודי; חזרה אל הממלכתיות שפירושה מחוייבות לכלל ומקצוענות; והכרה בזכויותיהם השוות של כל תושבי הארץ.

כאן על הרשת וכאן בפידיאף.