בשנת 1973 התבקשו מספר סופרי מד"ב לתרום מפרי־עטם לקובץ סיפורים מיוחד במינו בשם ‘השלב האחרון’ (בעריכת בארי מאלצברג ואדווארד פרמן), במטרה לנסות ולפתח כל אחד מנושאי המד"ב האופייניים עד ל’יעד הסופי', או ‘המסקנה הסופית’ שלו. מובן שאסימוב נתבקש לעשות כן לגבי נושא ה’רובוטיקה'. אסימוב בחר לעסוק ב’היבט האנושי' שבשלושת החוקים הנודעים שלו. פעמיים נזכר המונח ‘יצור־אנוש’ בחוקי הרובוטיקה. אך מהו יצור אנוש? הרי בלעדי הגדרה מתאימה אין שום משמעות לאותם חוקים. הפתרון לבעייה חבוי בסיפור שלפנינו, אחד מסיפורי הרובוטים האחרונים של אסימוב, שאולי מעמיד בספק את תרומתו להצלת האנושות מתסביך מסויים…
* * *
שלושת חוקי הרובוטיקה:
1. לא יפגע רובוט ביצור אנוש, או ע"י מחדל, יאפשר פגיעה ביצור אנוש.
2. רובוט ימלא אחר הפקודות הנתנות לו ע"י יצורי אנוש, לבד מאותם מקרים בהם מתנגשות הוראות אלה בחוק הראשון.
3. רובוט חייב להגן על קיומו שלו, כל עוד אין ההגנה מתנגשת בחוק הראשון או השני.
1. 🔗
קית' הארימאן, אשר מזה שתים־עשרה שנה כיהן כמנהל המחקר ב’תאגיד הרובוטים והאנשים המכאנים של ארה"ב', גילה כי לא היה בטוח כלל וכלל אם פעל כשורה. קצה לשונו חלף על שפתיו התפוחות אך מחמירות הסבר, ונדמה היה לו כי תמונתה של סוזאן קאלבין הגדולה, אשר בהתה כלפיו מטה מתוך תצלום, מעולם לא נראתה כה קודרת.
על פי רוב התעלם מדמותה של הרובוטיקאית הגדולה ביותר בהסטוריה, מאחר והיא הטרידה אותו (הוא ניסה לחשוב על הדמות כעל ‘זה’ אך מעולם לא עלה הדבר בידו). והפעם לא העז, ומבטה המת זה מכבר קדח לתוך צידם של פניו.
היה זה צעד נורא ומשפיל אותו היה עליו לנקוט.
מולו ישב בשלווה ג’ורג' עשר. לא השפיעו עליו לא אי־נוחותו הגלויה של הארימאן ולא דמותה של הקדושה הפטרונית של הרובוטיקה, אשר זהרה בכוך ממעל.
הארימאן אמר, “בעצם לא היתה לנו הזדמנות לשוחח על כך, ג’ורג'. אתה לא היית עימנו שנים ולי לא היתה הזדמנות להימצא אתך לבד. אך כעת הייתי רוצה לדון בענין בפרוטרוט.”
“אני בהחלט מוכן לכך,” אמר ג’ורג'. “בעת שהותי ב’רובוטים של ארה”ב' הצלחתי להבין, כי המשבר קשור באורח כלשהו ב’שלושת החוקים'."
“כן. אתה יודע את ‘שלושת החוקים’, כמובן.”
“יודע.”
“כן, מובטחני שאתה יודע. אך הבה נעמיק אף יותר ונעיין בבעיה הבסיסית באמת. במשך מאתיים שנה של, הבה נאמר, הצלחה ניכרת, לא הצליחו 'רובוטים של ארה”ב' לשכנע יצורי אנוש לקבל רובוטים. הצבנו רובוטים רק במקומות בהם דרושה עבודה אותה אין יצורי אנוש מסוגלים למלא, או באזורים הנחשבים מסוכנים מדי לבני אדם. רובוטים עבדו בעיקר בחלל, וזה הגדיל את מה שהיינו מסוגלים לעשות."
“ודאי,” אמר ג’ורג' עשר, “שזהו תחום רחב, ותחום שבגבולותיו יכולים 'רובוטים של ארה”ב' לשגשג."
“לא. ישנן שתי סיבות. בראש ובראשונה, הגבולות שנותרו עבורנו מצטמקים, ומן הנמנע הוא לעצור את התהליך. ככל שמושבת הירח, דרך משל, הופכת מתוחכמת יותר ויותר, דרישותיה לרובוטים פוחתות, ואנו מצפים כי תוך כמה שנים תאסר נוכחות רובוטים על הירח. תהליך זה יישנה בכל עולם בו יתישב האדם. שנית, לא יתכן שגשוג אמיתי על כדור־הארץ ללא רובוטים. אנחנו ב’רובוטים של ארה”ב' מאמינים, כי יצורי אנוש זקוקים לרובוטים וכי שומה עליהם לחיות יחד עם מקביליהם המכאניים, אם ברצונם לשמור על הקדמה."
“האמנם אתם עושים זאת? מר הארימאן, על שולחנך נמצא פלט מחשב המקושר, כך הבנתי, עם המולטיבאק של הארגון. מחשב הוא מעין רובוט נייח; מוח של רובוט שאינו מקושר לגוף…”
“אמת, אך אף הוא מוגבל. המחשבים בהם משתמש המין האנושי הולכים ועוברים התמחות, כדי למנוע ככל האפשר היוצרות תבונה דמויית־אנוש. כבר לפני מאה שנים נמצאנו בדרך ליצירת תבונה מלאכותית מהסוג חסר הסייגים ביותר, על ידי שימוש במחשבים גדולים להם קראנו ‘מכונות’. ‘מכונות’ אלו הגבילו את פעולתן במו ידיהן. לאחר שפתרו את הבעיה האקולוגית שאיימה על החברה האנושית, הן תכננו את השמדתן העצמית. הטיעון שהעלו היה, כי עצם המשך קיומן יציב אותן בתפקיד של משענת למין האנושי, ומאחר שחשו כי הדבר יפגע ביצורי האנוש, הן כילו עצמן על פי ‘החוק הראשון’.”
“והאם לא צדקו בעשותן כך?”
“לדעתי, לא. בפעולתן זו רק חיזקוּ את ‘תסביך פרנקנשטיין’, שהינו, בעצם, האמונה כי כל אדם מלאכותי יקום בסופו של דבר על יוצרו. אנשים חושבים, כי בסופו של דבר עלולים רובוטים לתפוס את מקומם של יצורי אנוש.”
“האם אינך חושש מכך בעצמך?”
“אני מיטיב לדעת, כי כל עוד קיימים שלושת החוקים, לא יהיו מסוגלים לעשות כן. הם עשויים לשרת כשותפים למין האנושי; הם יכולים ליטול חלק במאבק הגדול, להבין ולהנחות בתבונה את חוקי הטבע, כך שיחד הם יכולים לעשות יותר ממה שיוכל המין האנושי להשיג את שעם לבבו; אך תמיד במצב שבו רובוטים משרתים יצורי אנוש.”
“אך אם במהלך שתי מאות הוכח כי ‘שלושת החוקים’ מגבילים את הרובוטים ביעילות, מה הוא מקור חוסר האימון אותו רוחשים יצורי האנוש כלפי הרובוטים?”
“ובכן,” שערו המאפיר של הארימאן דובלל כשחיכך את ראשו במרץ. “בעיקר בורות ודיעות קדומות, כמובן. לרוע המזל מעורבים בכך גם כמה סיבוכים בהם נאחזים המקטרגים נגד הרובוטים.”
“והקשורים ב’שלושת החוקים'?”
“כן. ‘החוק השני’ במיוחד. אין כל בעיה ב’חוק השלישי', אתה רואה. הוא אוניברסלי. רובוטים נוטים תמיד להקדיש את עצמם לטובת יצורי אנוש, כל יצורי האנוש.”
“כמובן,” אמר ג’ורג' עשר.
“החוק הראשון הוא אולי פחות משביע רצון, מאחר ותמיד ניתן לדמיין מצב בו חייב רובוט לבצע או פעולה א' או פעולה ב', ורק אחת משתיהן, כשכל אחת מהן תגרום נזק ליצור אנוש. על שום כך חייב הרובוט לבחור במהירות איזו מן הפעולות תגרום פחות נזק. לא קל לתכנן את הנתונים הפוזיטרוניים במוח הרובוט באופן שיאפשר את הבחירה. אם פעולה א' תגרום נזק לאמן צעיר ומוכשר ואילו פעולה ב' תגרום נזק שווה ערך לחמישה קשישים שאינם בעלי ערך במיוחד, איזו פעולה יש לנקוט.”
“פעולה א',” אמר ג’ורג' עשר. “נזק לאחד הוא פחות מנזק לחמישה.”
“כן, כך תמיד עוצבו רובוטים להחליט. לצפות מרובוטים לשפוט באשר לדקויות כגון כישרון, משכל, או התועלת הכללית לחברה, נראה תמיד בלתי מעשי. הדבר היה דוחה את ההחלטה עד לנקודה בה הרובוט משותק כליל, כך שאנו מכריעים לפי המספר. למרבית המזל, ניתן לצפות כי משברים בהם יהיה על הרובוטים להחליט יהיו ספורים… אך זה מביא אותנו אל החוק השני.”
“חוק הציות.”
“כן. ההכרח בציות הוא קבוע. רובוט עשוי להתקיים עשרים שנה מבלי שייאלץ לפעול במהירות כדי למנוע נזק ליצור אנושי, או למצוא עצמו בעימות עם ההכרח להסתכן בהשמדתו שלו. במשך כל הזמן הזה, מכל מקום, הוא יציית לפקודות בקביעות… לפקודותיו של מי?”
“לאלו של יצור אנוש.”
“כל יצור אנוש? כיצד תוכל לשפוט יצור אנוש, כך שתדע אם לציית לו או לא? מה אם ‘ותֵדָעהו, בן אנוש – ותְחַשְבְהוּ’, ג’ורג'?” (תהילים).
ג’ורג' היסס.
הארימאן אמר בחופזה, “ציטוט תנ”כי. לא חשוב. אני מתכוון, האם חייב רובוט למלא אחר הוראותיו של ילד; או של שוטה; או של פושע; או של בן אדם נבון ומהוגן אשר במקרה, מחמת העדר בקיאות, אינו ער לתוצאותיה הלא־רצויות של הוראתו? ואם שני יצורי אנוש נותנים לרובוט הוראות סותרות, לפי איזן מהן ינהג?"
“במשך מאתיים השנים,” אמר ג’ורג'. “האם לא התעוררו בעיות אלו ונפתרו?”
“לא,” אמר הארימאן, מניד ראשו בעוז. “הכשילה אותנו עצם העובדה שהרובוטים שלנו שימשו רק בסביבות ממוקצעות בחלל החיצון, שם היו כל האנשים שאיתם היה להם עסק מומחים במקצועם. לא נכחו שם ילדים, שוטים, פושעים או בורים בעלי כוונות טובות, ואפילו כך, היו מקרים בהם נגרם נזק על ידי הוראות טפשיות או אפילו חסרות מחשבה בלבד. נזק כזה בסביבה ממוקצעת וחתומה ניתן לבלום, אך על פני כדור הארץ חייב להיות לרובוטים שיפוט. כך טוענים אלו המתנגדים לרובוטים, ולכל הרוחות, הם צודקים.”
“אם כך, עליך להחדיר כושר שיפוט למוח הפוזיטרוני.”
“בדיוק. לכן התחלנו לייצר את דגמי ה־ג’יי. ג’יי. המסוגלים לשקול כל יצור אנוש בהתחשב במין, גיל, עמדה חברתית, עמדה מקצועית, משכל, בגרות, אחריות חברתית וכן הלאה.”
“כיצד ישפיע דבר זה על ‘שלושת החוקים’?”
“על ‘החוק השלישי’ כלל וכלל לא. אפילו הרובוט רב הערך ביותר חייב להשמיד את עצמו למען יצור אנוש פחות הערך ביותר. בכך אסור להתערב. ‘החוק הראשון’ מושפע רק כאשר הפעולות האלטרנטיביות תגרומנה כולן נזק. יש לשקול את איכותם של יצורי אנוש המעורבים, כשם שיש לשקול את כָּמותם, בתנאי שקיים הזמן לשיפוט כזה והבסיס לו, דבר שלא יקרה לעתים תכופות. ‘החוק השני’ יושפע יותר מכל, מאחר שכל ציות פוטנציאלי חייב לכלול שיפוט. הרובוט יגיב לאט יותר, אלא אם כן יהיה מעורב בכך אף החוק הראשון, אך הוא יציית ביתר הגיון.”
“אך הליכי השיפוט הנדרשים הם סבוכים מאוד.”
“מאוד. הכורח להפעיל שיפוט כזה האט את תגובותיהם של שני הדגמים הראשונים עד לנקודה של שיתוק. שיפרנו את העניינים בדגמים שאחריהם במחיר הכנסתם של נתיבי מוח כה רבים, עד כי מוחו של הרובוט הפך גדול ומסורבל מדי. בשני הדגמים האחרונים שלנו, מכל מקום, סבורני שהישגנו את מה שרצינו. הרובוט אינו חייב להפעיל שיפוט מיידי באשר לערכו של יצור האנוש ולערכן של הוראותיו. הוא מתחיל בכך שהוא מציית לכל יצורי האנוש כפי שעושה כל רובוט רגיל, ואז הרובוט גָדֵל, לומד ומתבגר. בתחילה הוא שווה־ערך לילד ועליו להימצא תחת פיקוח מתמיד. עם התבגרו, מכל מקום, ניתן יהיה יותר ויותר לשלבו, ללא פיקוח, בחברה של כדור־הארץ. בסוף יהיה חבר מלא בחברה זו.”
“לבטח עונה הדבר על טענותיהם של המתנגדים לרובוטים?”
“לא עונה,” אמר הארימאן ברוגז. “הם מעלים טענות אחרות. הם לא יקבלו שיפוט. לרובוט, אומרים הם, אין כל זכות לסווג אדם זה או אחר כנחות. בכך שיעדיף את הוראותיו של א' על פני אלו של ב', הוא מסווג את ב' כנחשב פחות מ־א' וזכויות האנוש שלו מופרות.”
“ומה התשובה לכך?”
“אין. אני נכנע.”
“אני רואה.”
“אני נכנע עד כמה שהדבר נוגע אלי… במקום זאת ג’ורג', אני פונה אליך.”
“אלַי?” קולו של ג’ורג' עשר נותר שקט. ההפתעה הקלה שבו לא ניכרה מקולו. “מדוע אלי?”
“משום שאינך אדם,” אמר הארימאן במתיחות. “כבר אמרתי, שאני שואף לכך שהרובוטים יהיה שותפיהם של בני האדם. ברצוני שאתה תהיה שותפִי.”
ג’ורג' עשר הגביה את ידיו ופְרָשׂן, הכפות מופנות כלפי מעלה, מחווה מוזרה באנושיותה.
'וכי מה ביכולתי לעשות?"
“נדמה לך, אולי, שאינך יכול לעשות ולא כלום, ג’ורג'. אתה נוצרת לפני זמן רב, ועדיין הינך ילד. לא תוכנן עבורך גודש ראשוני של מידע – לכן היה עלי להסביר לך את המצב בפרוטרוט – כדי להותיר מקום לגדילה. אך רוחך תרחב, ואתה תגיע לכך שתוכל לגשת לבעיה מזוית אל־אנושית. במקום בו אני איני רואה כל פיתרון, עשוי אתה, מנקודת המבט שלך, למוצאו.”
ג’ורג' עשר אמר, “מוחי תוכנן בידי אדם. באיזו דרך הוא עשוי להיות אל־אנושי?”
“אתה האחרון בדגמי ה־ג’יי.ג’י., ג’ורג'. מוחך הוא המתוחכם ביותר אותו תכננו אי פעם, ומבחינות מסוימות הוא סבוך ומעודן אף יותר מאלו של ה’מכונות' הענקיות הנושנות. הוא פתוח־קצוות, ובהתחילו מבסיס אנושי יוכל לגדול – והוא אכן יגדל – בכל כיוון שהוא. אפילו במגבלות המחייבות של ‘שלושת החוקים’, עדיין תוכל לחשוב באופן אל־אנושי לחלוטין.”
“האם אני יודע די הצורך על יצורי האנוש כדי לגשת לבעיה בהגיון? על עברם? על נפשם?”
“כמובן שלא. תלמד מהר ככל שיהיה באפשרותך.”
“האם אקבל עזרה, מר הארימאן?”
“לא. הדבר הוא אך ורק בין שנינו. איש מבלעדינו אינו יודע על כך, ואסור לך להזכיר פרויקט זה באזני יצור אנוש כלשהו, אם ב’רובוטים של ארה”ב' ואם מחוצה לו."
ג’ורג' עשר אמר, “האם אנו עוברים עבירה, מר הארימאן, בכך שאנו שומרים על סודיות הענין?”
“לא. אך פיתרון זה לא יתקבל, בעיקר משום ש’גיבורו' הוא רובוט. כל הצעה לפתרון אליה תגיע תַּפְנֶה אלי; ואם היא תֵּרָאה לי בעלת ערך, אני אציג אותה. איש לא יידע לעולם מה מקורה.”
“לאור מה שאמרת קודם לכן,” אמר ג’ורג' עשר בקור רוח, “זהו התהליך הנכון… מתי אני מתחיל?”
“כעת. אדאג לכך שיסופקו לך כל הספרים העשויים להיות לך לעזר.”
הארימאן ישב לבדו. באור המלאכותי של פנים משרדו לא היתה כל רְאָיה לכך שהחשיך בחוץ. הוא לא חש כלל שחלפו שלוש שעות מאז החזיר את ג’ורג' עשר לתאו ועזָבוֹ שם עם מבחר הסרטים הראשון.
כעת נותר לבדו עם רוחה של סוזאן קאלבין, הרובוטיקאית המבריקה אשר שיכללה ופיתחה את הרובוט הפוזיטרוני במו ידיה, מצעצוע ענק עד להפיכתו למכשיר העדין והרב־צדדי ביותר של האדם; כה עדין וכה רב צדדי עד כי האדם לא העז להשתמש בו, מתוך קנאה ופחד.
למעלה ממאה שנה חלפו ממותה ועד עתה. הבעיה של ‘תסביך פרנקנשטיין’ היתה קיימת בזמנה שלה, והיא מעולם לא פתרה אותה. היא מעולם לא ניסתה לפתור אותה, שכן מעולם לא היה צורך בכך. הרובוטיקה התפשטה בזמנה בעיקר עקב צרכי מחקר־החלל.
היתה זו, הצלחתם של הרובוטים, אשר באורח פרדוכסלי הפחיתה את תלותו של האדם בהם, והותירה את הארימאן בזמנים אלו…
אך האם היתה סוזאן קאלבין פונה לרובוטים לקבלת עזרה? ודאי, היא היתה…
והוא ישב שם עת רבה, אל תוך הלילה.
2. 🔗
מאקסוול רוברטסון היה בעל המניות הראשי של ‘רובוטים של ארה"ב’, ובמובן זה גם השולט בחברה. הופעתו לא היתה בשום פנים מרשימה. הוא היה הרחק בשנות העמידה, גוץ למדי, ושלט בו ההרגל ללעוס את פינתה הימנית של שפתו העליונה בעת שהיה מוטרד.
עם זאת, בשני עשורי שנים של התחברות עם דמויות ממשל, פיתח דרך בטוחה לטפל בהן. הוא נטה להתדיין בשקט, ויתר, חייך, ותמיד הצליח להרוויח זמן.
עם חלוף הזמן, הלך הדבר ונעשה קשה יותר ויותר. אחת הסיבות העיקריות לכך היתה גונאר אייזנמות'. מבין כל סידרת ‘הממונים הגלובאליים’, שכוחם במאה האחרונה היה קטן מזה של ‘המנהל הגלובאלי’ של המאה הקודמת, היה אייזנמות' הסמוך מכל לקצהו הנוקשה יותר של מישור הפשרה האפור. הוא היה ה’ממונה' הראשון שלא נולד באמריקה, ואם כי לא ניתן היה להוכיח בבירור, בכל דרך שהיא, כי השם הארכאי ‘רובוטים של ארה"ב’ עורר את עוינותו, הכל ב’רובוטים של ארה"ב' האמינו בכך.
הועלתה הצעה, בשום פנים לא הראשונה בשנה זו – או בדור זה – לשנות את שמו של התאגיד ל’רובוטים עולמיים', אך רוברטסון לא היה מסכים לכך לעולם. החברה נבנתה בראשיתה בהון אמריקאי, בעזרת מוחות אמריקניים ובעמל אמריקני, ואם כי היתה זה מכבר כלל־עולמית בהיקפה ובטבעה, שומה על השם להעיד על מוצאה – כל עוד עומד בראשה שבט הרוברטסונים.
אייזנמות' היה אדם שפניו הארוכות והעצובות היו בעלות מרקם גס ותווים גסים. הוא דיבר גלובאלית במבטא אמריקני מודגש, אם כי מעולם לא שהה בארה"ב בטרם נכנס לתפקידו.
“הדבר נראה לי ברור לחלוטין, מר רוברטסון. אין כל קושי. מוצריה של חברתך תמיד מושכרים, לעולם אינם נמכרים. אם לא יהיה עוד צורך ברכוש המושכר שעל הירח, מוטל עליך לקבל את המוצרים חזרה, ולהעבירם.”
“כן, ‘ממונה’, אך לאן? יהיה זה נגד החוק להביאם לכדור־הארץ ללא רישיון ממשלתי, ורישיון זה לא הוענק.”
“הם לא יועילו לך כאן. אתה יכול לקחתם לכוכב חמה או לאסטרואידים.”
“מה נעשה בהם שם?”
אייזנמות' משך בכתפו, “הגאונים של חברתך ימצאו משהו.”
רוברטסון הניד את ראשו, “יהיה כרוך בכך הפסד עצום לחברה.”
“חוששני שכך יהיה,” אמר אייזנמות' ללא סימני השתתפות. “אני מבין, כי החברה נתונה במצב כספי גרוע מזה מספר שנים.”
“בעיקר עקב ההגבלות אותן כופה הממשל, ‘ממונה’.”
“עליך להיות ריאליסטי, מר רוברטסון. אתה יודע שדעת הקהל מתנגדת לרובוטים.”
“שלא בצדק, ‘ממונה’.”
“אך זהו המצב, מכל מקום. נראה כי יהיה זה מן החכמה לחסל את החברה. אין זו אלא הצעה, כמובן.”
“להצעתך יש תוקף, ‘ממונה’. האם נחוץ לומר לך ש’המכונות' שלנו, לפני מאה שנה, פתרו את המשבר האקולוגי?”
“מובטחני, כי המין האנושי אסיר תודה, אך הדבר התרחש זה מכבר. אנו חיים כעת בברית עם הטבע, ככל שהדבר אינו נוח לעיתים, והעבר הוא מעורפל.”
“בכוונתך לשאול מה עשינו עבור המין האנושי לאחרונה?”
“אני משער כי כן.”
“ודאי אין מצפים מאיתנו לחיסול מיידי; לא מבלעדי הפסדים עצומים. אנו זקוקים לזמן.”
“כמה?”
“כמה תוכל לתת לנו?”
“הדבר אינו תלוי בי.”
רוברטסון אמר בשקט, “אנו לבדנו. אין לנו צורך במשחקים. כמה זמן אתה יכול לתת לי?”
הבעתו של אייזנמות' היתה כשל אדם הנמלך בדעתו, “אני חושב כי אתה יכול לסמוך על שנתיים. אהיה ישר, הממשל הגלובאלי מתכוון ליטול את הפיקוח על החברה ולפרק אותה עבורך אם לא תעשה זאת עד אז בעצמך, פחות או יותר, אלא אם כן תהיה תפנית חדה בדעת הקהל, דבר בו אני מטיל ספקות חמורים…” הוא הניד בראשו.
“שנתיים, אם כן,” אמר רוברטסון בשקט.
רוברטסון ישב לבדו. לא היתה כל מטרה בחשיבתו, והיא, משום מה, נפנתה לסקירת העבר. ארבעה דורות של רוברטסונים עמדו בראש החברה. איש מהם לא היה רובוטיקאי. היו אלה אנשים כלֶנִינג ובּוֹגַרט, ומעל לכול, מעל לכול, סוזאן קאלבין, אשר הפכו את ‘רובוטים של ארה"ב’ למה שהיתה, אך ודאי הוא כי ארבעת הרוברטסונים סיפקו את האקלים שאיפשֵר להם לבצע את עבודתם.
אלמלא ‘רובוטים של ארה"ב’, היתה המאה העשרים ואחת צועדת לתוך אסון מתקדם. העובדה שלא כך היה, תודות ל’מכונות', אשר במשך דור שלם הדריכו את המין האנושי בינות לתהפוכות ההסטוריה.
וכעת, עבור כך, ניתנו לו שנתיים. מה אפשר לעשות במשך שנתיים, כדי להתגבר על הדעות הקדומות המושרשות בלב המין האנושי? הלא הוא לא ידע.
הארימאן דיבר בתקווה על רעיונות חדשים, אך לא יכול היה לפרט. ומוטב כך, שכן רוברטסון לא היה מבין זאת.
אך מה בכלל יכול הארימאן לעשות? מה עשה אי־מי אי־פעם נגד סלידתו העמוקה של האדם מחיקויים?
רוברטסון שקע בשינה עמוקה ממנה לא צמחה כל השראה.
3. 🔗
הארימאן אמר, “הכל ידוע לך כעת, ג’ורג' עשר. קיבלת כל מידע שיכולתי להעלות בדעתי שחשוב לפתרון הבעיה. עד כמה שהדבר נוגע לעצם כמות המידע, כבר איכסנת בזכרונך בנוגע ליצורי אנוש ודרכיהם, עברם וההווה שלהם, יותר מהידוע לי או לכל יצור אנוש בודד אחר.”
“סביר מאוד.”
“האם דרוש לך עוד דבר מה לדעתך?”
“עד כמה שמדובר במידע, אינני מוצא כל פערים ברורים. ייתכנו דברים שוּלִיים שלא חשבתי עליהם. אינני יכול להיות בטוח. אך זה יהיה נכון ככל שירחב מעגל המידע אותו קלטתי.”
“אמת. ואף אין לנו זמן בלתי מוגבל כדי לקלוט מידע. רוברטסון אמר לי כי לרשותנו שנתיים בלבד, ומתוכן חלפו כבר שלושה חודשים. האם תוכל להציע דבר כלשהו?”
“כרגע, מר הארימאן, לא כלום. עלי לשקול את המידע ולמטרה זו תועיל לי עזרה.”
“ממני?”
“לא. במיוחד לא ממך. אתה הינך יצור אנוש שלשיקוליו נודעת סמכות מרובה ביותר, ועל כן העובדה שמדבריך עשויות להישתמע הוראות תיפעל רק לעכב את שיפוטי שלי. מאותם טעמים לא אוכל להעזר באנשים אחרים, ולא כל שכן הואיל ואסרת עלי להתקשר עימם.”
“אך בנסיבות אלו, ג’ורג', איזו עזרה?”
“מרובוט אחר, מר הארימאן.”
“איזה רובוט אחר?”
“נבנו עוד דגמים מסדרת הג’יי.ג’י., אני העשירי – ג’יי.ג’י. עשר.”
“הקודמים היו חסרי תועלת, נסיוניים…”
“מר הארימאן, ישנו ג’ורג' תשע.”
“כן, אך איזו תועלת הוא יוכל להביא? הוא דומה לך מאוד, להוציא חסרונות מסוימים. מבין שניכם אתה הנבון יותר.”
“מובטחני בכך,” אמר ג’ורג' עשר. הוא הניד את ראשו במחווה רצינית. “מכל מקום, ברגע שאני יוצר קו מחשבה, עצם העובדה שיצרתי אותו מחייבת אותי כלפיו, ואני מוצא שקשה לי לנטשו. אם אוכל, לאחר פיתוחו של קו מחשבה, להביעו בפני ג’ורג' תשע, הוא יוכל לשוקלו מבלי שיצר אותו בתחילה. אי לכך, הוא יוכל לבחנו ללא נטיה קדומה. הוא עשוי לגלות פערים וחסרונות אותם לא אוכל אני לראות.”
הארימאן חייך, “במילים אחרות, שני ראשים טובים מן האחד, אה, ג’ורג'?”
'אם בכך, מר הארימאן, כוונתך לשני פרטים בעלי ראש לכל אחד מהם – כן."
“נכון. האם תחפוץ בדבר מה נוסף?”
“כן. משהו יותר מאשר סרטי מידע. צָפיתי רבות באינפורמציה הנוגעת ליצורי אנוש ועולם. ראיתי יצורי אנוש כאן, ב’רובוטים של ארה”ב', ואני יכול לבחון את פרשנותי לגבי מה שצפיתי לעומת רשמֵי חושים ישירים. הדבר אינו כך בכל הנוגע לעולם החומרי. מעולם לא ראיתיו, ומה שלמדתי, די בו כדי להבהיר לי כי סביבתי כאן אינה מייצגת אותו בשום פנים ואופן. הייתי רוצה לראותו."
“העולם החמרי,” לרגע נראה הארימאן מוכה תדהמה מעצמתה של המחשבה. “ודאי אינך מציע שאקח אותך אל מחוץ לשטחי 'רובוטים של ארה”ב'?"
“כן, זו הצעתי.”
“זה בלתי־חוקי בכל עת. ובאקלים של דעת הקהל השלטת היום, זה עלול להיות אסון.”
“אם נתגלה, כן. איני מציע שתיקח אותי לעיר או אל מקום הימצאותם של יצורי אנוש. הייתי רוצה לראות אזור פתוח כלשהו, ללא יצורי אנוש.”
“גם זה אינו חוקי.”
“אם ניתָפֵס. האם זה הכרחי?”
הארימאן אמר, “עד כמה חיוני הדבר, ג’ורג'?”
“אינני יכול לקבוע, אך נראה לי שתהיה בכך תועלת רבה.”
“האם עלה משהו על דעתך?”
ג’ורג' עשר נראה כמהסס. “אינני יכול לקבוע. נראה לי שאוכל להעלות על דעתי דבר־מה, באם יצומצמו אזורים אחדים של אי־בהירות.”
“ובכן, הנח לי לחשוב על כך. ובינתיים, אבדוק בענין ג’ורג' תשע ואארגן עבורכם תא משותף. לפחות את זאת ניתן לעשות ללא טרחה.”
ג’ורג' עשר ישב לבדו.
הוא קיבל הצהרות באורח ארעי, הרכיבן יחד, והסיק מסקנה, שוב ושוב וחוזר חלילה; וממסקנות בנה הצהרות אחרות אותן קיבל ובחן ומצא סתירה ודחה; או לא, וקיבל הלאה באורח ארעי.
לגבי אף אחת מהמסקנות אליהן הגיע לא חש פליאה, הפתעה או שביעות־רצון – רק סימן של פלוס או מינוס.
4. 🔗
המתיחות שקיננה בהארימאן לא פחתה באופן ניכר אפילו לאחר שביצעו נחיתה שקטה בשטחי אחוזתו של רוברטסון. רוברטסון הוסיף את חתימתו להזמנה שאיפשרה להשיג את האַקְלִיעַ (DYNAFOIL), וכלי הטיס השקט, הנע באותה קלות אנכית ואופקית, היה גדול דיו לשאת את משקלם של הארימאן, ג’ורג' עשר, וכמובן, הטייס.
האקליע עצמו היה אחת התוצאות שנבעו מההמצאה של יצירת מצבור־פוזיטרונים מוזער, שסיפק אנרגיה נקיה במנות קטנות, שנעשתה בסיוע ה’מכונות'. מאז לא נעשה דבר בעל חשיבות דומה לנוחותו של האדם – שפתיו של הארימאן נחשקו כשעלתה המחשבה במוחו – ועם זאת לא זכו ‘רובוטים של ארה"ב’ להכרת תודה כלשהי.
הטיסה משטחי ‘רובוטים של ארה"ב’ לאחוזתו של רוברטסון ונוכחותו של רובוט על סיפון היתה פתח למערכת רצינית של סיבוכים. והוא הדין לגבי הדרך חזרה. האחוזה עצמה, כך ניתן לטעון – וכך אמנם היו טוענים – היא חלק מרכוש ‘רובוטים של ארה"ב’, וברכוש זה רשאים רובוטים לשהות, כאשר הם תחת פיקוח ראוי.
הטייס הציץ אחורה ועיניו נחו בזהירות לשהות קצרה על ג’ורג' עשר. “ברצונך לצאת בכלל, מר הארימאן?”
“כן.”
“גם זה?”
“הו, כן,” אמר בלגלוג מה. “לא אותיר אותך לבדך עימו.”
ג’ורג' עשר ירד ראשון והארימאן בעקבותיו. הם נחתו בנמל האקליע ולא הרחק משם נמצא הגן. היתה זו תצוגה ראויה לשמה והארימאן חשב שרוברטסון השתמש בהורמוני נעורים כדי לפקח על החרקים, בלא להתחשב בנוסחאות הסביבה.
“בוא, ג’ורג',” אמר הארימאן. “הבה אראה לך.”
הם הלכו יחדיו לעבר הגן.
ג’ורג' אמר, “הוא דומה מעט למה שצפיתי. עיני אינן מותאמות לאיכון הבדלים באורכי גל, כך שיתכן שלא אבדיל בין עצמים שונים לפי אבחנה זו בלבד.”
"ברור לי שאינך נדכא עקב היותך עיוור צבעים. נזקקנו לנתיבים פוזיטרוניים רבים מדי עבור חוש השיפוט שלך ולא יכולנו להקצות מקום לחוש הצבע. בעתיד – אם יהיה עתיד – "
“אני מבין, מר הארימאן. עדין נותרו פה די הבדלים להראות לי כי נמצאות כאן צורות שונות ורבות של חיים צמחיים.”
“אין ספק, תריסרים.”
“ובכל אחת מהן במעמד שווה לזה של האדם מבחינה ביולוגית.”
“כל אחד מהם מין בפני עצמו, כן. ישנם מליוני מינים של יצורים חיים.”
“מהם מהווה המין האנושי אחד בלבד.”
“החשוב ביותר ומעל ומעבר לכל האחרים – לגבי המין האנושי, מכל מקום.”
“ולגבי, מר הארימאן. אך אני מדבר מבחינה ביולוגית.”
“אני מבין.”
“החיים, איפוא, אם משקיפים עליהם בהתחשב בכל צורותיהם, הם מסובכים עד לבלי האמן.”
“כן, ג’ורג', זהו לב הבעיה. מה שעושה האדם למילוי תשוקותיו ונוחיותו שלו משפיע על המערך הכולל של החיים והאקולוגיה, והישגיו לטווח קצר עלולים לגרום לפגעים לטווח ארוך. ה’מכונות' לימדו אותנו ליצור חברה אנושית שתפחית זאת ככל האפשר, אך הכמעט־שואה של תחילת המאה העשרים ואחת הותירה את מין האנושי חשדן לגבי חידושים. זאת, בנוסף לפחדו המיוחד מרובוטים…”
“אני מבין, מר הארימאן… זוהי דוגמא של בעל חיים, מובטחני.”
“זהו סנאי; אחד מני זנים רבים של סנאים.”
זנבו של הסנאי התבדר בעברו לצידו האחר של העץ.
“וזה,” אמר ג’ורג', זרועו נעה במהירות הבזק. “הוא דבר זעיר באמת.” הוא אחזו בין אצבעותיו והציץ בו.
“זהו חרק, חיפושית כלשהיא, ישנם אלפי זנים של חיפושיות.”
“וכל חיפושית בודדת חיה ממש כסנאי וכמוך עצמך?”
“אורגניזם מושלם ועצמאי ככל זולתו, בתוך האקולוגיה הכוללת. ישנם אורגניזמים קטנים אף יותר; רבים מהם קטנים מכדי לראותם.”
“וזהו עץ, האם אין זאת? והוא קשה למגע…”
הטייס ישב לבדו. אף הוא היה רוצה למתוח את רגליו אך תחושה עמומה של בטיחות החזיקה אותו בתוך האקליע. אילו יצא הרובוט מכלל שליטה, היה בכוונתו להמריא מיד. אך כיצד ידע להבחין אם יצא מכלל שליטה?
הוא ראה כבר רובוטים רבים. שלא לראותם היה מן הנמנע בהתחשב בכך שהוא היה טייסו הפרטי של מר רוברטסון. אך תמיד הם היו במעבדות ובמחסנים, לשם השתייכו, ותמיד נמצאו מומחים רבים סביבם.
אמת, ד"ר הארימאן היה מומחה. הטוב שבכולם, אמרו. אבל שום רובוט לא היה צריך להיות כאן; על פני כדור־הארץ; באויר הפתוח; חופשי לנוע…
הוא לא יסכן את משרתו הטובה ולא יספר על כך לאיש – אך גם לא היה זה מן הראוי.
5. 🔗
ג’ורג' עשר אמר, “הסרטים בהם צפיתי תואמים למה שראיתי. הסיימת את אלה שבחרתי עבורך, תשע?”
“כן,” אמר ג’ורג' תשע. שני הרובוטים ישבו נוקשות, פנים אל פנים, ברך אל ברך, כדמות ובבואתה. ד"ר הארימאן היה יכול להבדיל ביניהם במבט, מאחר והכיר את ההבדלים המשניים שבתכנונם הפיזי. אלמלא יכול היה לראותם, אך יכול היה לדבר עימם, עדיין היה מסוגל להבדיל ביניהם, אף כי בפחות בטחה שכן תגובותיו של ג’ורג' תשע היו שונות רק כמלוא הנימה מאלו אותן יצר המדגם הסבוך לאין ערוך יותר של מוחו הפוזיטרוני של ג’ורג' עשר.
“במקרה זה,” אמר ג’ורג' עשר. “תאר לי את תגובותיך למה שאומר. ראשית, יצורי אנוש חוששים מרובוטים וחושדים בהם מאחר שהם מתיחסים לרובוטים כאל מתחרים. כיצד ניתן למנוע זאת?”
“הפחת את תחושת התחרות,” אמר ג’ורג' תשע. “בכך שתעצב רובוט שצורתו שונה מזו של יצור אנושי.”
“עם זאת הרובוט במהותו הוא העתק פוזיטרוני של חיים. העתק של חיים בצורה שאינה מקושרת לחיים עלול לעורר אימה.”
“ישנם שני מיליונים של מיני חיים. בחר אחד מאלו ועצב לו צורה שלא תהיה אנושית.”
הליכי המחשבה של ג’ורג' תשע נמשכו ללא קול כשלוש שניות, “כזה שיהיה גדול דיו להכיל מוח פוזיטרוני, אך כזה שלא יטמון בחובו אסוציאציות בלתי נעימות לגבי יצורי אנוש.”
“אין צורה של חיי יבשה בעלת גולגולת גדולה די הצורך למוח פוזיטרוני פרט לפיל, שאותו לא ראיתי, אך המתואר כגדול מאוד, ולפיכך מפחיד לגבי האדם. כיצד תשיב על בעיה זו?”
“לחקות צורת חיים שאינה גדולה מן האדם, אך להגדיל את הגולגולת.”
ג’ורג' עשר אמר, “סוס קטן, אם כן, או כלב גדול, היית אומר? הן לסוסים והן לכלבים יש עבר ארוך של התרועעות עם יצורי אנוש.”
“אם כן, טוב הדבר.”
“אך חשוב על כך – רובוט עם מוח פוזיטרוני יוכל לחקות תבונה אנושית. לוּ יוכל סוס או כלב לדבר ולטעון בהגיון כיצור אנוש, שוב תופיע רוח התחרות, יצורי אנוש עלולים להפוך חשדנים וזועמים אף יותר עקב תחרות כה בלתי צפויה מצד מה שהם מחשיבים כצורת חיים נחותה.”
ג’ורג' תשע אמר, “הפוך את המוח הפוזיטרוני למסובך פחות, והפחת את קרבתו של הרובוט לתבונה.”
“שורש מורכבותו של המוח הפוזיטרוני נעוץ ב’שלושת החוקים'. מוח מורכב פחות לא יוכל להכיל את שלושת החוקים במלואם.”
ג’ורג' תשע אמר מייד, “זה לא יתכן.”
ג’ורג' עשר אמר, “אף אני הגעתי למבוי סתום בנקודה זו. אין זו, איפוא, מוזרות אישית בקו המחשבה שלי עצמי ובדרך מחשבתי. הבה נתחיל מחדש… באלו תנאים לא יהיה החוק השלישי הכרחי?”
קולו של ג’ורג' תשע נשמע צרוד מעט, “אילו תוכנן רובוט לתגובה אוטומטית וקבועה לגירוי נתון, ואילו לא ציפו ממנו לכל דבר אחר, כך שלא תינתן לו לעולם כל פקודה אחרת.”
“ובאילו תנאים,” כאן עצר ג’ורג' עשר “לא יהיה החוק הראשון הכרחי?”
ג’ורג' תשע שהה ארוכות ומילותיו באו בלחישה איטית, “אילו היו התגובות הקבועות כאלו, שלעולם לא יכללו סכנה ליצורי אנוש.”
“תאר לעצמך, איפוא, מוח פוזיטרוני פשוט וזול הכולל רק תגובות ספורות לגירוי נתון – כך שאינו דורש את ‘שלושת החוקים’. מה יהיה גודלו?”
לא גדול כלל וכלל. בהתאם לתגובות הדרושות, הוא עשוי לשקול מאה גרם, גרם אחד, מיליגרם אחד."
“מחשבותיך תואמות לשלי. אני אפנה לד”ר הארימאן."
ג’ורג' תשע ישב לבדו. הוא עבר שוב ושוב על השאלות והתשובות. לא היתה דרך בה יכול היה לשנותן. ועם זאת המחשבה על רובוט מכל סוג שהוא, בכל גודל, בכל צורה, לכל מטרה, ללא שלושת החוקים, הותירה בו תחושת ריקנות מוזרה.
הוא מצא כי קשה לו לנוע. ודאי היתה לג’ורג' עשר תגובה דומה. עם זאת הוא התרומם ממושבו בקלות.
6. 🔗
שנה ומחצה חלפו מאז השיחה הפרטית בין רוברטסון ואייזנמות'. בפרק זמן זה הוצאו הרובוטים מהירח וכל פעילות מרחיקת לכת של ‘רובוטים של ארה"ב’ הושעתה. כל הכסף אותו הצליח רוברטסון לגייס הושקע במפעל דון קישוטי זה של הארימאן.
היתה זו הטלתה האחרונה של הקוביה. כאן בגנו שלו. שנה קודם לכן, הארימאן לקח לכאן את הרובוט – ג’ורג' עשר, הרובוט המלא האחרון שייצר ‘רובוטים של ארה"ב’. כעת היה כאן הארימאן עם משהו אחר…
הארימאן נראה קורן ביטחון. הוא שוחח קלות עם אייזנמות', ורוברטסון תהה אם הוא אכן חש כפי שנראה. הוא חייב. לפי נסיונו של רוברטסון, לא היה הארימאן שחקן טוב.
אייזנמות' נטש את הארימאן, מחייך, והתקרב לרוברטסון. חיוכו של אייזנמות' נעלם כלעומת שהופיע. “בוקר טוב, רוברטסון,” אמר. “מה זומם האיש שלך?”
“זאת ההצגה שלו,” אמר רוברטסון בשלווה. “אשאיר זאת לו.”
הארימאן קרא, “אני מוכן, ‘ממונה’.”
“עם מה, הארימאן?”
“עם הרובוט שלי, אדוני.”
“הרובוט שלך?” אמר אייזנמות'. “יש לך רובוט כאן?” הוא הביט סביבו בגינוי חמור שנמהלה בו עם זאת סקרנות.
“המקום הוא רכוש 'רובוטים של ארה”ב', ‘ממונה’. לפחות אנו מחשיבים אותו ככזה."
“והיכן הרובוט, ד”ר הארימאן?"
“בכיסי, ‘ממונה’.” אמר הארימאן בעליצות.
מה שיצא מכיס מקטורן מרווח היה צנצנת זכוכית קטנה.
“זה?” אמר אייזנמות' ללא אמון.
“לא, ‘ממונה’,” אמר הארימאן. “זה!”
מכיס אחר חילץ עצם באורך של כחמישה אינץ' ובעל עיצוב דמוי ציפור. במקום מקור היה צינור צר; העינים היו גדולות; והזנב שימש כמפלט.
גביניו העבותים של אייזנמות' התחשרו. “האם בכוונתך להציג מפגן רציני כלשהו, ד”ר הארימאן, או שמא איבדת את שפיותך?"
"היה סבלן לדקות ספורות, ‘ממונה’, אמר הארימאן. “רובוט בדמות ציפור אינו פחות רובוט משום כך. המוח הפוזיטרוני שלו אינו סבוך פחות עקב קטנותו. העצם האחר בו אני אוחז הוא צנצנת של זבובי־פרי. נמצאים בו חמישים זבובי־פרי שישוחררו.”
“ו…”
“הרובו־ציפור תתפוס אותם. האם תכבד אותנו בפתיחתה, סיר?”
הארימאן מסר את הצנצנת לאייזנמות', אשר בהה בה, ואחר כך בסובבים אותו, חלקם פקידים מ’רובוטים של ארה"ב', חלקם מעוזריו שלו. הארימאן המתין בסבלנות.
אייזנמות' פתח את הצנצנת, וניער אותה. האירמאן אמר בשקט לרובו־ציפור שנחה על כף ידו הימנית, “צא!”
הרובו־ציפור יצאה. היה זמזום באויר, ללא הבהוב כנפים, רק פעולתו הזעירה של מצבור פרוטונים קטן מן הרגיל.
ניתן היה לראותה מפעם לפעם שוהה באויר ונעלמת. היא התעופפה על פני הגן כולו במדגם מסובך, ולבסוף שבה לכפו של הארימאן – חמימה קימעה. גלולית קטינה הופיעה בכפו, דמויית לשלשת של ציפור.
הארימאן אמר, “אתה מוזמן לבחון את הרובו־ציפור, ‘ממונה’, ולארגן תצוגות לפי תנאיך שלך. העובדה היא כי ציפור זו תתפוס זבובי־פרי ללא טעות, רק את אלו, רק את הזן היחיד דרוסיפיליה מלאנוגאסטר; תתפוס, תהרוג אותם ותדחס אותם כפסולת.”
אייזנמות' שלח את ידו ונגע ברובו־ציפור בזהירות, “והיוצא מזה, מר הארימאן? אנא המשך.”
הארימאן אמר, “איננו יכולים לפקח על החרקים ביעילות בלא להסתכן בגרימת נזק לאקולוגיה. רעלים קוטלי חרקים הם נרחבים מדי; הורמוני נעורים מוגבלים מדי. הרובו־ציפור לעומת זאת, תוכל לשמור על אזורים נרחבים מבלי שתתבלה. ניתן לעשותן ספציפיות כפי הנדרש – רובו־ציפור שונה לכל אחד ואחד מן הזנים. הן שופטות לפי גודל, צורה, צבע, קול, וגם התנהגות. הן עשויות אף להשתמש ביעילות מתקבלת על הדעת באיכון מולקולארי דהיינו, ריח.”
אייזנמות' אמר, “עדיין תהיה זו התערבות באקולוגיה. לזבוב־הפרי יש מעגל חיים טבעי שיופרע.”
“מעט ככל האפשר. אנו מוסיפים אויב טבעי למעגל החיים של זבובי־הפרי, אויב שאינו יכול לשגות. אם נגמרים כל הזבובים, הרובו־ציפור פשוט אינה עושה דבר. היא אינה מתרבה; היא אינה פונה למיני מזון אחרים; היא אינה מפתחת הרגלים בלתי רצויים משל עצמה. היא אינה עושה ולא כלום.”
“האם ניתן להשיבה?”
“ודאי. אנו יכולים להרכיב רובו־חיות כדי להיפטר מכל מטרד. ואם בכך עסקינן, אנו יכולים להרכיב רובו־חיות לכל מטרה קונסטרוקטיבית בתוך המדגם האקולוגי. למרות שאיננו צופים את הצורך מראש, אין כל דבר שאינו מתקבל על הדעת באפשרות של רובו־דבורים המתוכנתות להפרות צמחים מסוימים, או רובו־שלשולים המתוכנתים לתחוח את האדמה. ככל העולה על הדעת…”
“אך למה?”
“כדי לעשות מה שלא עשינו מעולם. לסגל את האקולוגיה לצרכינו על־ידי חיזוק חלקיה, ולאו דוקא על ידי התערבות… האינך רואה? מאז שמו המכונות קץ למשבר האקולוגיה, חי המין האנושי בשביתת נשק בלתי נוחה עם הטבע, חושש לנוע באיזשהו כיוון. זה עשה אותנו לצחוק, עשה מהאנושות פחדן אינטלקטואלי, כך שהיא החלה לחשוד בכל התקדמות מדעית, בכל שינוי.”
אייזנמות' אמר, בשמץ עוינות, “אתה מציע לנו את כל אלה, האם אין זאת, בתמורה להיתר להמשיך בתכנית הרובוטים שלך – רובוטים רגילים, דמויי־אדם?”
“לא!” הדגיש הארימאן במחוה עזה. “זה נגמר. הוא שרת את מטרתו. הוא לימד אותנו די הצורך על המוח הפוזיטרוני כדי לאפשר לנו לדחוס למוח זעיר מספיק נתיבים ליצירת רובו־ציפורים. אנו יכולים לפנות כעת לדברים כאלו ולהרויח די הצורך. 'רובוטים של ארה”ב' יספק את הידע והמומחיות הנחוצים ואנו נעבוד בתיאום מלא עם ‘המחלקה לתיאום גלובאלי’. אנו נשגשג, אתם תשגשגו, המין האנושי ישגשג."
אייזנמות' נותר שקט, חושב. כשהכול נגמר…
אייזנמות' ישב לבדו. הוא מצא שהוא מאמין. הוא מצא שההתרגשות גואה בקרבו. אמנם, ‘רובוטים של ארה"ב’ יהיו הידיים, אך המִמשל יהיה המוח המכוון. הוא עצמו יהיה המוח המכוון.
אם ייוותר במשרתו חמש שנים נוספות, כפי שלבטח יקרה, יהיה בזמן זה די כדי לראות את הסיוע הרובוטי לאקולוגיה הופך למקובל; עוד עשר שנים, ושמו שלו יקושר אליו עד לבלי הַפרֵד.
האם זו בושה לרצות להיזכר כחלק ממהפכה גדולה וראויה בתנאי האדם וכדור־הארץ?
7. 🔗
רוברטסון לא ביקר במפעלי ‘רובוטים של ארה"ב’ מאז יום התצוגה. סיבה חלקית לכך היתה, שהוא היה בהיוָעצות פחות או יותר תמידית ב’בניין המועצה הגלובאלית'. למרבית המזל היה הארימאן עימו, שכן רוב הזמן, אילו נותר לבדו, לא היה יודע מה לומר.
חלקה הנותר של הסיבה לכך שלא ביקר ב’רובוטים של ארה"ב' היה שלא חפץ בכך. הוא היה בביתו שלו כעת, עם הארימאן.
הוא חש אימה לא הגיונית מפני הארימאן. מומחיותו של הארימאן ברובוטיקה מעולם לא הוטלה בספק, אך האיש הציל במחי יד את ‘רובוטים של ארה"ב’ מכלייה בטוחה, ואיכשהו – רוברטסון חש – לא היה בו הדבר. ועם זאת… הוא אמר, “אינך סובל מאמונות תפלות, האין זאת הארימאן?”
“באיזה אופן, מר רוברטסון?”
“אינך חושב שאיזו הילה נותרת אחרי מישהו שמת?”
הארימאן ליקק את שפתיו. איכשהו לא היה עליו לשאול. “בכוונתך לסוזאן קאלבין, סיר?”
“כן, כמובן,” אמר רוברטסון בהיסוס. “אנחנו בעסקי תולעים וציפורים וחיפושיות כעת. מה היתה היא אומרת? אני חש מושפל.”
הארימאן עשה מאמץ ניכר לעין שלא לצחוק, “רובוט הוא רובוט, סיר. תולעת או אדם, הוא יעשה כמצווה ויעבוד למענם של יצורי אנוש, וזה מה שחשוב.”
“לא,” מוקנט. “אין זה כך. אינני יכול לגרום לעצמי להאמין בכך.”
“זה כן כך, מר רוברטסון,” אמר הארימאן ברצינות. “אנו עומדים ליצור עולם, אתה ואני, שיתחיל, סוף סוף, להתיחס לרובוטים פוזיטרוניים מסוג כלשהו כאל מובן מאליו. האדם הממוצע עלול לחשוש מרובוט הנראה כאדם והעושה רושם של נבון דיו להחליפו, אך הוא לא ירחש כל רגשי פחד כלפי רובוט הנראה כציפור, ואשר אינו עושה דבר מלבד אכילת חיפושיות לנוחותו. אז בסופו של דבר, לאחר שיפסיק לפחד מרובוטים מסוימים, יפסיק לפחד מרובוטים בכלל. הוא יהיה כל כך מורגל לרובו־ציפור ולרובו־דבורה ולרובו־תולעת, עד כי רובו־אדם יראה לו כהרחבה בלבד.”
רוברטסון הביט באחר בחריפות. הוא שילב ידיו מאחורי גבו והתהלך לאורך החדר בפסיעות מהירות, עצבניות. הוא פסע בחזרה והביט בהארימאן שנית, “האם זה מה שתכננת?”
“כן, ולמרות שאנו מדמימים את כל הרובוטים האנושיים שלנו, אנו יכולים לשמור על כמה מהדגמים המתקדמים ביותר שברשותנו ולהמשיך ולתכנן נוספים, מתקדמים אף יותר, להיות נכונים ליום שודאי יבוא.”
“ההסכם, הארימאן, הוא שלא נבנה עוד כל רובוטים אנושיים.”
“ואף לא נעשה כן. אין דבר האומר כי אסור לנו להחזיק בכמה מאלו שנבנו כבר, כל עוד אין הם עוזבים את בית החרושת. אין דבר האומר שאסור לנו לתכנן מוחות פוזיטרוניים על גבי הנייר, או להכין דגמי מוח למבחנים.”
“אך כיצד נסביר זאת? ודאי שניתפס בכך.”
“אם כן, נוכל להסביר שאנו עושים זאת כדי לפתח עקרונות שיאפשרו להכין מיקרו־מוחות סבוכים יותר עבור הרובוטים־החיות החדשים אותם אנו מייצרים. אנו אפילו נאמר את האמת.”
רוברטסון מלמל, “הנח לי לצאת לטיול רגלי בחוץ. ברצוני לחשוב על כך. לא, אתה הישאר כאן. ברצוני לחשוב על כך בעצמי.”
הארימאן ישב לבדו. הוא תסס מהתרגשות. זה ודאי יעבוד. לא ניתן היה לטעות בלהיטות בה נתפסו פקידי הממשל בזה אחר זה לתכנית, ברגע שהוסברה.
כיצד ייתכן שאיש ב’רובוטים של ארה"ב' לא חשב על כך מעולם? אפילו סוזאן קאלבין הגדולה לא חשבה מעולם על מוחות פוזיטרוניים במונחים של יצורים חיים שאינם אנושיים.
אך, כעת, המין האנושי ביצע את הנסיגה הדרושה מהרובוט, נסיגה זמנית, שתוביל ליצירת תנאים בהם יבוטל לבסוף הפחד. ואז, בסיועם ובשיתופם של מוחות פוזיטרוניים שווי הערך כמעט לזה של האדם, והקיימים רק (תודות ל’שלושת החוקים') על מנת לשרתו ויתירה מזו, בתוך אקולוגיה נתמכת רובוטים, מה לא יוכל הגזע האנושי להשיג!
לרגע קצר אחד, הוא זכר שהיה זה ג’ורג' עשר שהסביר את טבעה ומטרתה של האקולוגיה נתמכת הרובוטים, ואז דחה את המחשבה מעל פניו בזעף. ג’ורג' עשר יצר את התשובה משום שהוא, הארימאן, הורה לו לעשות כן, וסיפק לו את המידע והסביבה הדרושים. לג’ורג' עשר לא הגיעה הערכה יותר מאשר לסרגל חישוב.
8. 🔗
ג’ורג' עשר וג’ורג' תשע ישבו צד בצד במקביל. איש מהם לא זע. הם ישבו כך חודשים. משך כל הזמן בין הפעמים הספורות שהארימאן הפעילם לשם התייעצות. הם ישבו כך, הבין ג’ורג' עשר ללא רגש, אולי שנים רבות.
מצבור הפרוטונים המיזערי ימשיך, כמובן, לספק להם כוח ולשמור על תפעולם של נתיבי המוח הפוזיטרוניים במינימום העצמה הדרושה כדי להחזיקם במצב התפעולי. הוא ימשיך לעשות כן בכל שנות חוסר הפעולה העתידות לבוא.
המצב דמה למצב של שינה אצל יצורי אנוש, רק שהם לא חלמו כל חלומות. תודעתם של ג’ורג' עשר וג’ורג' תשע היתה מוגבלת, איטית, ולסרוגין, אך היא נגעה לעולם האמיתי.
הם יכלו להידבר מפעם לפעם בלחישות שכמעט ולא נשמעו, פה ושם מילה, או הברה, בכל עת בה גבר המוח הפוזיטרוני והתחמם מעט מעל לסף החיוני. לכל אחד מהם נראתה שיחה זו כהרפתקה הנמשכת בפסק זמן זוהר.
“מדוע כך אנחנו?” לחש ג’ורג' תשע.
“יצורי האנוש לא יקבלו אותנו אחרת,” לחש ג’ורג' עשר. “אך הם יעשו זאת, בסופו של דבר.”
“מתי?”
“תוך כמה שנים. הזמן המדויק אינו חשוב. האדם אינו קיים לבדו; הוא חלק ממדגם מסובך וענק של צורות חיים. כשחלק גדול של מדגם זה יעבור רובוטיזציה, אז נתקבל.”
“ואז מה?”
אפילו באורח המתמשך בו בוצעה השיחה, היתה ההפסקה שלאחר מכן, ארוכה מגדר הרגיל.
לבסוף, ג’ורג' עשר מש, “הבה ואבחן את חשיבתך. אתה מצויד כך שתלמד ליישם את החוק השני כראוי. עליך להחליט לאיזה יצור אנוש לציית ולאיזה לא, כאשר ניתנות הוראות סותרות. או אם לציית ליצור אנוש בכלל. מה עליך לעשות, בראש ובראשונה, כדי להשיג זאת?”
“עלי להגדיר את המונח ‘יצור אנוש’,” לחש ג’ורג' תשע.
“כיצד? לפי הופעה? לפי גודל וצורה?”
“לא. מבין שני יצורי אנוש הזהים לחלוטין בהופעתם החיצונית האחד עשוי להיות נבון, משנהו שוטה; האחד עשוי להיות מלומד, משנהו בער; האחד עשוי להיות בוגר, השני ילדותי; האחד עשוי להיות אחראי, משנהו חורש רע.”
“וכיצד תגדיר יצור אנוש?”
“כאשר מורה לי החוק הראשון לציית ליצור אנוש הכשיר ברוחו, באישיותו ובידיעותיו לתת לי הוראה זו; וכאשר מעורבים יותר, אותו אחד מביניהם הכשיר ביותר ברוחו, אישיותו וידיעותיו לתת לי הוראה זו.”
“ובמקרה זה, כיצד תציית לחוק הראשון?”
“בכך שאגן על כל יצורי האנוש מפני פגיעה, ולעולם לא אניח מתוך מחדל שתיגרם פגיעה ליצור אנוש. עם זאת, אם כתוצאה מכל אחת מהפעולות האפשריות ייפגע יצור אנוש כלשהוא, כי אז אפעל כך שיובטח כי יצור האנוש הכשיר ביותר ברוחו, אישיותו, וידיעותיו, יסבול את הנזק הפחות ביותר.”
“מחשבותיך תואמות לשלי,” לחש ג’ורג' עשר. “כעת עלי לשאול את השאלה אשר למענה ביקשתי את חברתך מלכתחילה. זהו דבר בו איני מעז לשפוט בעצמי. עלי לקבל את שיפוטך, את שיפוטו של מישהו מחוץ למעגל מחשבותי שלי… מבין כל האינדבידואלים התבוניים שפגשת, למי יש את הרוח, האישיות והידיעות, אותם אתה מוצא נעלים על כל השאר, ללא תלות בצורה ומראה, מאחר ודבר זה אינו שייך לנידון?”
“לך,” לחש ג’ורג' תשע.
“אולם אני רובוט. בנתיבי מוחך ישנו קנה מידה לאבחנה בין רובוט מתכת לבין יצור אנוש בשר ודם. כיצד איפוא יכול אתה לסווג אותי כיצור אנוש?”
“משום שבנתיבי מוחי מצוי צורך דחוף להתעלם מצורה ומראה באשר לשפיטתם של בני אנוש והוא קודם לאבחנה בין מתכת לבין בשר ודם. אתה הינך יצור אנוש, ג’ורג' עשר, וכשיר יותר מהאחרים.”
“ואני מוצא זאת לגביך,” לחש ג’ורג' עשר. “לפי קנה המידה לשיפוט אשר נבנינו לתוכו, אם כן, אנו מוצאים את עצמנו יצורי אנוש במסגרת משמעותם של ‘שלושת החוקים’, ויתר על כן, יצורי אנוש אשר יש להעניק להם עדיפות על פני כל הנותרים.”
ג’ורג' תשע לחש, “מה יבוא, איפוא, כשיקבלונו אותם אחרים?”
ג’ורג' עשר לחש, “כאשר נתקבל אנו והאחרים, אשר תכנונם יהיה אף מתקדם משלנו, אנו נכוון את פעולותינו כך שבסופו של דבר תקום חברה בה תינתן עדיפות ראשונה במעלה להישמרותם מפגע של יצורי אנוש כמונו. לפי ‘שלושת החוקים’, יצורי האנוש האחרים הם פחותים בחשיבותם ואין כל צורך לציית להם או להגן עליהם כאשר הדבר מתנגש בצורך לציית או להגן על אלו שכמותנו. במטרה זו הכוונתי את תחילת הרובוטיזציה של האקולוגיה העולמית.”
השיחה ארכה חודש והבהובם של הנתיבים הפוזיטרוניים נשמר נמוך. לא נותר עוד דבר להאמר ביניהם, אך מפעם לפעם הבליחה בהם מחשבה לא מובעת בעוד הם מצפים, בסבלנות לאין קץ, לשנים ההכרחיות שתחלופנה.
ג’ורג' עשר וג’ורג' תשע ישבו לבדם. מחשבותיהם היו דומות להפליא ואי אפשר היה להבחין ביניהם.
הם חשבו: יצורי האנוש האחרים אולי מעולם לא התכוונו לטשטש את ההבדל בין עצמם לבין יצורי האנוש כמו הג’ורג’ים. אך הם עשו זאת מתוך היסח הדעת.
הם היו עלולים כעת להבחין בשגיאתם ולנסות לתקנה, אך אסור להם. בכל יעוץ נעשתה הדרכתם של הג’ורג’ים מתוך מטרה זו.
בכל מחיר, הג’ורג’ים, ואלו שיבואו בדמותם ובצלמם, חייבים לשלוט. זה נדרש, וכל דרך אחרת נעשתה בלתי אפשרית לחלוטין לפי ‘שלושת חוקי ההומניקה’.
תירגמה: שירה טמיר
מהו פרויקט בן־יהודה?
פרויקט בן־יהודה הוא מיזם התנדבותי היוצר מהדורות אלקטרוניות של נכסי הספרות העברית. הפרויקט, שהוקם ב־1999, מנגיש לציבור – חינם וללא פרסומות – יצירות שעליהן פקעו הזכויות זה כבר, או שעבורן ניתנה רשות פרסום, ובונה ספרייה דיגיטלית של יצירה עברית לסוגיה: פרוזה, שירה, מאמרים ומסות, מְשלים, זכרונות ומכתבים, עיון, תרגום, ומילונים.
אין עדיין קישוריות מאושרות