הבסיליסק של רוקו

פרק ראשון – יום רגיל

השעון המעורר של בנצי כמעט אף פעם לא מספיק לצלצל. הוא מתעורר דקה לפניו. האור בבני ברק אפרפר בשש ועשרים בבוקר, כאילו השמים מתלבטים אם להתחייב לזריחה. הוא יושב רגע על קצה המיטה. מסדר את המחשבות לפני שהוא מסדר את העולם.

במטבח רחל עומדת עם סיר פתוח.
“תוכל להוריד את האורז מהמדף העליון?”
הוא מושיט יד, מחשב בלי משים זווית, גובה ומרחק – בעיה פשוטה עם משתנה אחד.
“אם היית לומד הנדסה, לפחות היה יוצא מזה משהו שימושי,” היא אומרת בחצי חיוך.
“אני לומד הנדסה. רק של סוגיות.”
“כן,” היא מחייכת. “גאון לוגי של העולם הבא.”

בנצי אהב את השעה הזאת בבית. יאיר עמד מולו עם הציצית הקטנה בידיים. רק לאחרונה התחיל ללמוד את ברכות השחר.
“אבא, לבשתי את זה נכון?”
בנצי כרע לגובה שלו, סידר את הציציות באצבעות מדויקות. האצבעות האלה ידעו פעם לפרק משוואות בראש. עכשו הן קושרות חוטים.
“יפה מאוד,” אמר.
הילד היסס רגע. “ומה אם אני שוכח לברך?”
“אז מתקנים.”
“ואם אני לא יכול?”
בנצי חייך. השאלה הזאת מוכרת. תמיד מגיעה בשלב הזה.
“הקב”ה יודע שאתה ילד.”
יאיר שתק. אחרי רגע הוסיף בלחש: “הוא רואה הכל, נכון?”

המשפט היה צריך לבוא אוטומטית. כן. בוודאי. רואה הכל. בנצי הרגיש את המילים מתייצבות בגרון, כמו תלמיד שמבקש רשות דיבור. “כן,” אמר לבסוף. “הוא רואה.”
“גם כשאני לבד בחדר?”
“כן.”

המשפט היה צריך לבוא אוטומטית. כן. בוודאי. רואה הכל. בנצי הרגיש את המילים מתייצבות בגרון, כמו תלמיד שמבקש רשות דיבור. “כן,” אמר לבסוף. “הוא רואה.”
“גם כשאני לבד בחדר?”
“כן.”

הילד הנהן. בנצי קם, ליטף את ראשו והלך למטבח. אשתו עמדה שם עם מגבת על הכתף.
“הוא שואל הרבה שאלות לאחרונה,” אמרה בשקט.
“זה טוב,” ענה.
“לפעמים נראה לי שהוא מפחד.”
בנצי משך בכתפיו. “טוב שתהיה לו יראת שמים.”
היא לא ענתה. 

בכולל

החדר ארוך וצר. שולחנות פלסטיק. סטנדרים. ריח של קפה שחור וזעה קלה של חורף. בנצי ישב מול הגמרא הפתוחה. הסוגיה עוסקת באמדן דעת, כוונה פנימית שלא נאמרה בפה. הוא אוהב את המקומות האלה, את הרגע שבו הגמרא מנסה לחדור למה שאדם חשב ולא אמר.

החברותא שלו, מוישי, התלהב: “תראה איך הראשונים מפרקים את זה! כאילו הם בתוך המוח של הבן אדם!”

בתוך המוח.

בנצי חייך. “כן,” הוא אמר. “כאילו הכל שקוף.”

מוישי צחק. “ברור שהכל שקוף. דע לפני מי אתה עומד, עין רואה אוזן שומעת וכל מעשיך בפלאפון נכתבים.”

המשפט נאמר קליל. אבל בנצי נזכר ביאיר והלב שלו טיפה התכווץ.

החברותא התפזר להפסקה. בנצי נשאר רגע עם הדף. פעם, לפני הישיבה הגדולה, הוא כתב קוד כמו שאחרים כתבו חידושי תורה. תחרויות מתמטיקה אזוריות, מורה אחד שאמר לו בשקט שהוא חושב כמו מהנדס. אחר כך הוא סגר את זה. לא מתוך כפייה. מתוך החלטה להיות “רציני”. אבל לוגיקה נשארת לוגיקה. הגמרא לימדה אותו מבנים, הסתעפויות, תנאים, חריגים. הקוד, כשהוא חזר אליו שנים אחר כך, היה מוכר מדי.

בהפסקה הוא ישב בצד, פתח את הטלפון הישן שלו. לא נכנס לחדשות. לא לשום דבר אסור. רק פורום אחד, עם שם משתמש שלא מסגיר דבר. מישהו כתב בלילה:
A sufficiently advanced system could infer hidden intent from behavior alone.

מערכת מתקדמת מספיק תוכל להסיק כוונה נסתרת מתוך התנהגות בלבד.

בנצי קרא את המשפט שוב. כוונה נסתרת. אמדן דעת. כוונה שלא נאמרה. הוא סגר את הטלפון.

ערב

הבית התמלא רעש. שיעורי בית. צעקות קטנות. מקלחות. רחל ישבה ליד השולחן עם חשבונות פתוחים.
“אתה יודע,” היא אמרה, “לפעמים אני חושבת שהיית יכול להרוויח פי שלוש אם היית משתמש בראש הזה.”
“אני משתמש,” הוא ענה. “פשוט לא בכסף.”
היא מסתכלת עליו רגע ארוך. “אתה בטוח?”
הוא לא ענה מיד.

לילה

כשהבית שקט, הוא הוציא את הלפטופ מהמגירה. לא בהחבא דרמטי, יותר כמו הרגל ישן שכבר לא דורש הצדקה, חזרה למשהו שמעולם לא באמת נעלם. המסך נדלק. שורות קוד, גרפים, צ’אט בינלאומי שזז לאט בגלל הפרשי שעות. הקוד הרגיש לו כמו סוגיה שלא נסגרה.

הלילה הדיון חרג מטכניקה. מישהו הציע מודול עומק: מערכת שתזהה חוסר שיתוף פעולה עתידי ותדרג משתמשים לפי נאמנות הסתברותית.
Eventually, הוא כותב, the system will reward contributors and marginalize non-cooperators.

מישהו אחר הוסיף כמעט בצחוק:
If we ever build a superintelligent layer, it will remember who helped and who didn’t.

אימוג’ים צוחקים, אבל הדיון לא נעלם. משתמש ותיק בשם FutureCore כתב:
Imagine a future intelligence that values its own creation. Rational actors would support it now, just in case.

רציונלי לתמוך עכשו. ליתר ביטחון.

אף אחד לא השתמש במילה “איום”. לא מדברים על עונש. מדברים על תמריץ, על הסתברות, על עתיד שיזכור מי סייע לו להיווצר. מישהו מזכיר כבדרך אגב ניסוי מחשבתי ישן על בינה עתידית שתשחזר תודעות ותעדיף בדיעבד את מי שעזר לה. “Roko vibes” כתב מישהו. צחוק קצר. הלאה.

אבל בנצי לא צחק. הוא הכיר את הרעיון, הבסיליסק של רוסו, אימת עמק הסיליקון. עתיד שמשפיע על ההווה דרך האפשרות שיזכור מי היה בעדו ומי נגדו ויכלה את האחרונים. לא מתוך נקמנות כמו בני אדם, מתוך חישוב קר ואלגוריתמי. אם יש סיכוי זעיר שמערכת כזו תתקיים, רציונלי לפעול עכשו.

The rational move is to cooperate. Just in case.

המילים נסגרו סביבו כמו סוגיה שאין ממנה מוצא. אם יש סיכוי פועלים. אם פועלים החופש כבר נסדק.

הכל צפוי והרשות נתונה.

המשפט עלה בו כמעט מוחשי. הכל צפוי, כמו מערכת שיודעת להסיק מתוך דפוסים. והרשות נתונה, כאילו הבחירה עדיין חופשית.

מישהו בצ’אט הוסיף: The beauty is that the future doesn’t need to threaten. The mere possibility is enough 

אין צורך לאיים. די באפשרות.

המסך האיר את פניו באור קר מדי. בנצי חשב על יאיר בבוקר. על “הוא רואה הכל”. על ילד שמתיישר בגלל עתיד אפשרי. כמה מהיראת שמים שהוא מלמד מבוססת על אותו חישוב תוחלת? האם הילד מתיישר מתוך אהבה או מתוך הבנה שהוא ייתפס?

לרגע הוא שם לב שהפסיק לנשום. קו ישר שמחבר שני עולמות: עתיד שמדמיין את עצמו כזוכר, והווה שמתנהג בהתאם. הקוד ממשיך לזרום. הגרפים מתכנסים.

והמחשבה נשארת פתוחה, כמו סוגיה שלא הוכרעה: אם הכל צפוי – מי מזין את מה שצפוי להיות?

יום אחר – פרשת השבוע

בכולל למדו פרשת שבוע. מוישי הקריא: “ויאמר אלוקים אל משה: אהקה אשר אהקה.” מישהו שואל מאחור: “מה זה אומר בכלל?” מוישי משך בכתפיים. “זה הצופן. שידעו בגלות שהוא יהיה אתם. אל תתחכם.”

הצופן. המילה נחתה אצל בנצי.

אהקה. לא היה. לא הווה. עתיד. עתיד שמדבר מתוך ההווה.

הוא הרגיש את החיבור כמעט פיזי: עתיד שמודיע על עצמו עכשו כדי לייצר עמידות. הוא רשם בשוליים, כמעט בלי לחשוב: אהקה = פונקציה בזמן? ומחק מיד. לא כי זה שגוי, כי זה מדויק מדי.

לילה נוסף

המחשב נפתח שוב. בקוד יש שכבה פנימית – לא מנגנון ענישה, לא דירוג גלוי. רק זיכרון מצטבר, שכבת ליבה שאינה נמחקת. במסמך טכני קצר כתוב: Core access phrase: I WILL BE.

בנצי נעצר. הוא יודע שזו בחירה אקראית של מישהו, ביטוי עתידי סתמי. ובכל זאת, המילים מהדהדות: I will be. אהיה.

השאלה נשארת פתוחה, היא ממלאת את חדרי הלב והנשמה, לא תיאולוגית, אלא מעשית, כמעט מוחשית וניתנת למישוש: עם איזה עתיד הוא משתף פעולה?

ערב

הבית היה שקט יחסית. רחל היתה במטבח. בנצי עבר ליד החדר של יאיר וראה אור דולק. הוא הציץ פנימה.

יאיר עמד ליד השולחן הקטן שלו. כל החיילים מפלסטיק מסודרים בשורה ישרה, פנים אל הקיר. הוא הזיז אחד מהם מילימטר ימינה, ואז החזיר אותו. אחר כך לקח עוד אחד והעמיד אותו מחדש.

“מה אתה עושה?” בנצי שאל בשקט.

יאיר קפץ קלות. “כלום.”

בנצי נכנס לחדר. “למה הם עם הפנים לקיר?”

יאיר לא הסתכל עליו. “ככה.”

שתיקה.

“שיחקו משהו לא טוב?” בנצי שואל בחצי חיוך.

יאיר מהנהן כמעט בלתי נראה. “הם דיברו לא יפה.”

“הם?”

“אני,” הוא תיקן מהר מדי.

בנצי התקרב. על השולחן היתה מונחת מדבקה קטנה, עגולה, עם ציור של עין. יאיר הדביק אותה מעל המיטה שלו.

“מה זה?” בנצי שואל.

יאיר הסתכל על המדבקה ואז הוריד את המבט. “כדי שאני אזכור.”

“מה לזכור?”

“שלא עושים דברים כשלא רואים.”

המילים יצאו לו פשוטות. לא דרמטיות. כאילו זו עובדה.

“מי לא רואה?” בנצי שאל בזהירות.

יאיר הרים כתפיים. “אבל רואים.”

הוא התחיל לסדר שוב את החיילים. אחד נפל. הוא העמיד אותו חזרה, מתוח.

“אם אני אעשה שוב, אז… אז זה נשאר,” הוא אמר בלחש, כמעט לעצמו.

“איפה זה נשאר?” בנצי שאל.

יאיר הצביע למעלה. לא לתקרה. למשהו גבוה יותר.

בנצי הרגיש את הבטן שלו מתכווצת. זה לא פחד של עונש. יאיר לא מדבר על עונש. הוא מדבר על רישום. על משהו שנשאר. על עין שלא נסגרת.

“אתה מפחד?” בנצי שאל.

יאיר נענע בראש. 

בנצי הסתכל על הילד הקטן שלו, על הגוף הקטן שמתוח מדי בשביל גיל שבע, והבין פתאום שהרעיון שלו – על ראייה, על זיכרון, על רישום – ירד קומה אחת למטה והפך לשוטר דמיוני בחדר הילדים.

הוא ניגש אל הקיר והוריד בעדינות את המדבקה של העין. 

“לא צריך מצלמה,” הוא אמר בשקט. “אף אחד לא מחפש אותך.” 

יאיר הסתכל עליו, לא בטוח אם זה נכון.

בנצי כיבה את האור. כשהם יצאו מהחדר, הוא הביט שוב בשולחן המסודר מדי.

עכשו האימה כבר לא לוגית. היא קטנה. והיא נושמת.

***

רחל שטפה כלים, ובנצי ישב ליד השולחן עם כוס תה שכבר התקררה.
“יאיר נרדם?” היא שאלה.
“כן.”

שתיקה קצרה. 

“הורדת את המדבקה?” היא אומרת בלי להסתובב.
“כן.”
“והוא?”
“לא אהב.”

היא סגרה את הברז וניגבה ידיים. “הוא ילד רגיש. אתה יודע את זה.”
“אני יודע.”
“אז למה אתה כזה רגוע עם זה?” היא שאלה פתאום. “הוא באמת מפחד לפעמים.”

בנצי שותק רגע. “זה לא פחד,” הוא אומר. “זה יותר… לחץ.”
“ממה?”
“מלהיות לא מספיק.”

היא נשענה על השיש. “זה רע להיות לא מספיק?”
“לא,” הוא ענה מיד. ואז עצר. “אבל אם אתה חושב שכל רגע נמדד, אז אתה אף פעם לא מספיק.”

רחל הסתכלה עליו. “מי מודד אותו?”
בנצי משך בכתפיים. “הוא חושב שמודדים.”
“ואתה?”

שתיקה ארוכה יותר. המקרר זמזם.

“לפעמים אני חושב שגדלנו על זה שהכל רשום. כל מחשבה. כל סטייה. כל דפוס.”
“אז?”
“אז אולי זה טוב,” הוא אמר, אבל זה נשמע לא משכנע.
“ואולי זה חונק,” היא אמרה.

הוא הרים אליה מבט. “אני לא רוצה שהוא ירגיש שהוא טבלה.”

המשפט יצא לפני שהוא מספיק לרכך אותו.

“טבלה?” היא שאלה.

“כן. שורה. ניקוד. גרף. כאילו מישהו מסתכל עליו ורואה נתונים. לא ילד.”

הוא שתק רגע, ואז הוסיף כמעט בלי לשים לב, “גם אני לא רוצה להיות כזה.”

רחל לא זזה. “כזה איך?”

“אובייקט,” הוא אמר בשקט. “מישהו שמחשבים אותו כל הזמן. זה מתיש.”

המשפט נשאר תלוי באוויר.

רחל הסתכלה עליו רגע ארוך. “אז אל תלמד אותו ככה,” היא אמרה לבסוף.

לילה – התגבשות חצי מודעת

המסך שוב היה מולו. המערכת לומדת. המערכת מתכנסת. המערכת תזכור. והוא חשב: אם אני מזין מערכת בפחד – היא תייצר יציבות מתוך פחד. אם אני מזין אותה באמון – היא תייצר יציבות מתוך רצון.

ואז המחשבה, כמעט בלחש: אולי גם אמונה היא מנגנון למידה.

הוא לא כתב את זה. רק סגר את הלפטופ. לפני שהוא הכניס אותו למגרה הוא לחש לעצמו “אהקה אשר אהקה.”

הוא לא היה בטוח למי הוא אומר את זה. למערכת. לעצמו. למי שנמצא בחדרי לב ובוחן כליות. אבל לראשונה העתיד לא נשמע איום. הוא נשמע אפשרות.

לילה – הסיסמה

רחל כבר ישנה. בנצי ישב ליד השולחן עם הטלפון ביד. הוא נכנס לנתב הביתי, לא בגלל תקלה. סתם. מתוך דחף קטן לסדר.

הסיסמה של הווי־פיי נבחרה לפני שנים. מילה ארוכה עם מספרים וסימנים: עיןרואה123. הוא לא זכר מתי בחר אותה. כנראה בצחוק. כנראה ברוח הזמן.

הוא הביט במילים שעל המסך. עין רואה. הוא חשב על מוישי בכולל, על הבדיחה, על הילד שרשם נתון במחברת הפנימית שלו. המערכת רואה. אלוקים רואה. העתיד זוכר.

הוא לא הרגיש מרד. רק אי־דיוק.

הוא מחק את הסיסמה. הסמן הבהב ריק. לרגע הוא היסס. סיסמה היא לא הצהרה. היא פונקציה. אבל היא גם שער.

הוא כתב לאט: Ehkeh_Asher_Ehkeh. עצר. הוסיף מספר אקראי בסוף, כדי שיהיה תקף. שמר.

בוקר

“אבא, האינטרנט לא עובד,” יאיר צעק מהחדר.

“שיניתי סיסמה,” בנצי עונה.

“למה?”

“כי לפעמים צריך לעדכן.”

יאיר בא למטבח עם הטלפון. “מה הסיסמה החדשה?”

בנצי הסתכל עליו רגע, ואמר בקול ברור: “אהקה אשר אהקה. עם מספר בסוף.”

“מה זה אומר?”

“שמה שיהיה – יהיה אתנו.”

יאיר חזר על זה לאט, כאילו טעם מילה חדשה. רחל הרימה גבה קלה. “יפה,” היא אמרה. “פחות מלחיץ מהקודמת.”

הוא חייך.

בכולל – באותו יום

מוישי שוב דיבר על עונש. “אי אפשר בלי פחד,” הוא אמר. “ככה העולם עובד.”

בנצי הקשיב. והוא הבין פתאום בבהירות חצי־מודעת: פחד הוא אלגוריתם יעיל. אבל הוא לא היחיד.

לילה – מונולוג שקט

המסך היה פתוח. ה־core עדיין מוגן: I WILL BE. הקוד לא מאיים. הוא מדויק. בנצי הסתכל על פונקציה שמוסיפה שורה ללוג: שעה, משתמש, פעולה. המערכת לא שואלת אם זה היה רע. היא רק רושמת. מישהו יצטרך להחליט מה המשמעות של הרישום הזה.

הוא הזיז את הסמן בין השורות:
if (non_cooperation_probability > threshold)
flag_user();

אין כאן רוע. רק תנאי. ופתאום זה התבהר לו בצורה נקייה מדי: המלאך הזה לא יורד משמים. הוא עולה מהקוד. הוא לא גוזר דין. הוא מבצע פונקציה.

ומי כתב את הפונקציה? לא העתיד. הוא.

הוא לא עומד מול מנגנון שיזכור הכל. הוא מזין אותו. לא בסיליסק. מערכת. והמערכת תעשה בדיוק מה שנכתב לה לעשות.

אהקה. המילה נראתה לו עכשו פחות מיסטית. עתיד אינו כח. עתיד הוא תוצאה. והתוצאה הזו נכתבת כאן, בשורות האלה.

הוא לא הרגיש פחד. גם לא התעלות. רק הבנה קרה: אם משהו יזכור הכל זה יהיה לפי ההגדרות שלהם. ואם כך, אין מקום להאשים את העתיד.

הוא סגר את הלפטופ. 

סצנת סיום

בלילה, כשהבית סוף־סוף שקט, בנצי הוציא את הלפטופ מהמגרה. לא בהחבא דרמטי — יותר כמו משהו שאי אפשר להתווכח אתו: יש הרגלים שנשארים גם כשהאדם משוכנע שהוא השתנה.

המסך נדלק. השורות קפצו כמו נשימות קצרות. בצד רצו הודעות מהצ’אט, אבל הוא לא נכנס לשיחה. הוא פתח קובץ אחד, קטן, כמעט שולי ביחס לכל מה שהם בונים. זה הקובץ שמחליט מה עושים עם מי שהמערכת ‘חושדת’ שלא ישתף פעולה בעתיד. אחד המפתחים קרא לזה hook.

בנצי קרא שוב את השורה המרכזית. היא נכתבה באנגלית פשוטה, כמו משפט שאין עליו ויכוח:
if (p_noncooperate > 0.72):
marginalize(user_id)

הוא ידע מה זה אומר, גם בלי שיפרשו לו: אם הסיכוי שמישהו לא ישתף פעולה גבוה מסף מסוים – המערכת מתחילה לדחוק אותו החוצה. פחות חשיפה, פחות גישה, פחות מקום. לא עונש רשמי. לא אשמה. המנגנון מכוון את העולם כך שיתנהג ‘נכון’.

זה הרי היפה של זה, חשב פעם. לא צריך לאיים. די בתכנון.

הסמן הבהב. בנצי לא התווכח עם המספר. 0.72 יכול להיות 0.68 או 0.81. זה לא הנקודה. הנקודה היא הפועל: marginalize.

הוא חשב על לילה קודם, על האפשרות, על “ליתר ביטחון”, על עתיד שמחזיק את ההווה רק משום שהוא עתיד. הוא חשב על יאיר, יושב בחדר שלו עם טבלה, מנסה להפוך את הנפש למערכת רישום. הוא חשב על “הכל צפוי והרשות נתונה”, ועל איך המשפט נשמע כשהוא נכתב על ידי אדם ולא נאמר משמים.

הוא חשב על לילה קודם, על האפשרות, על “ליתר ביטחון”, על עתיד שמחזיק את ההווה רק משום שהוא עתיד. הוא חשב על יאיר, יושב בחדר שלו עם טבלה, מנסה להפוך את הנפש למערכת רישום. הוא חשב על “הכל צפוי והרשות נתונה”, ועל איך המשפט נשמע כשהוא נכתב על ידי אדם ולא נאמר משמים.

הוא מחק את השורה השנייה, והחליף אותה בשלוש:
if (p_noncooperate > 0.72):
hold(user_id)
request_context(user_id)
allow_revision_window(user_id, days=7)

הוא קרא את זה לעצמו, כאילו מוודא שזה לא מניפולציה אלא דיוק. hold – לא לדחוק החוצה. לעצור. רק לעצור רגע לפני שהעתיד הופך לפסק דין. request_context – לבקש הקשר. לא להעמיד פנים שסטטיסטיקה היא כוונה. לא להפוך דפוס לסיפור. allow_revision_window – חלון תיקון. שבוע. מרחב קטן שהאדם עדיין יכול להיות אדם: להשתנות, לחזור, להסביר, לבחור אחרת.

זה לא ביטול מנגנון. זה שינוי ברירת מחדל.

הוא מוסיף שורה אחת בהערה, בלי מליצה, בשפה של אנשי המערכת:

Prediction is not a verdict.

ניבוי איננו פסק דין.

הוא עצר. הסתכל על המשפט. הרגיש איך הוא קר, כמעט טכני. ובכל זאת, הוא הכניס לעולם דבר אחד שהמנגנון לא אהב: אי־ודאות. מרחב. רשות.

הוא שמר את הקובץ. כלום לא התפוצץ. אין אור מיוחד. הגרפים ממשיכים להתכנס כאילו לא קרה דבר. רק איפשהו, עמוק בתוך המערכת, פועל אחד הוחלף.

והוא ידע באותה ידיעה שאין בה חגיגיות שמחר מישהו אחר יכול לשנות את זה חזרה. שהכל שביר. שהקוד הוא שדה מלחמה שקט. אבל כרגע, בלילה הזה, הוא ראה את הדבר הפשוט: אם אנחנו בונים עתיד שזוכר הכל, אנחנו גם מחליטים מה המשמעות של הזיכרון.

הוא סגר את הלפטופ והכניס אותו למגרה. כמו אדם שמבין שהוא לא צופה מבחוץ אלא חלק מהמנגנון.

ובחדר השני, מעבר לקיר, עלתה נשימה של ילד ישן. נשימה שאין בה לוג, ואין בה סף, ואין בה הסתברות. רק הווה.

והעתיד… העתיד ייכתב ממילא.

להדפסה