מאת * * ז*ק *ס*מ*ב
לאחר שני מאמרים רציניים על רובוטים, המופיעים בגליון זה, אנו מציעים לכם להתרענן בפרודיה הפרועה שלפנינו, פרי עטו של ג’ון סלאדק, שכתב פרודיות משעשעות רבות אחרות. (אחת מהן היא ספר באורך מלא, ‘מערכות־השכפול’ שראה אור בשנת 1968 ונושאו הוא שכפול־עצמי של מכונות 'נבונות’ – בראי עקום, כמובן).
איננו מעיזים לחשוד אף לרגע שקיים קורא אחד של ‘פנטסיה 2000’ שאינו מכיר בעל־פה את שלושת חוקי הרובוטיקה של אסימוב (אם ישנו כזה, שיתבייש). לכן, כל מילה נוספת מיותרת…
אידיט קרלסון חש לפתע עגמת־נפש.
הדבר הלך וגאה במשך כל היום, וכעת ניתך עליו באחת כטונה של מטאוריטים מכל המינים והסוגים. לא היה לדבר כל קשר לעבודתו במחלקת המחקר והפיתוח של ‘תאגיד הרובוטים הקטנגדולים,’ אף כי היה לזה קשר הדוק עם רובוטים.
קרלסון ידע שהוא לוגיקן פסיכו־סוציו־לינגוויסטי, ומתקן־פגמים כללי. הוא נזכר בהסמכתו בהצטיינות במכון הטכנולוגי אֶם.אַיי.טִי, ובפרסום הרב שהקנה לו אחר כך מאמרו על המתמטיקה של ‘כְּמוֹ־אִם’. כעת היה מודע לכך שהוא אוהב את עבודתו כאן, למרות שווימס, ראש־המחלקה, היה תרח זקן ועיקש. לא תמיד ראו הוא ווימס דברים קולט־אור בקולט־אור, אף לא בענייני חישובים פשוטים. אך הם הסכימו בכל לב בנושאי פיסיקה בסיסית.
לא, עגמת־הנפש לא היתה קשורה בווימס. גרמה לה סדרת הרובוטים הנוכחית, במיוחד דגם ר־11. רק המחשבה על כך גרמה לו מפח־נפש, שגאה בו כל היום וכעת התפרץ בפניו הזועפות.
“מה העניינים, קרלסון? עדיין מתקן את הפגמים בר־11 הזה?” דאוסון נכנס לחדר בלי הזמנה. תוך שהוא משליך את כובעו על הכוננית, גיחך בעליצות והושיב את עצמו על קצה שולחנו של קרלסון.
“זו צרה רצינית, דאוסון. בוא תעיף מבט במשוואות האלה.”
“המממ… זה נראה כאילו זה מסתכם – לא, רגע! מה בנוגע לגורם ההתמרה הזה?”
“בדיוק” אמר קרלסון בפנים חמורות־סבר.
“מה אתה אומר! האם בדקת את המעגלים המושגיים, את לוחות התסמונת, את הקבלים התפישתיים, את יחידת ההנעה של גלי־המחשבה, ואת האלמנטים האסטטיים?”
“הכל.”
“הפלא ופלא! אם כך פרושו של דבר הוא שהצרה נעוצה ב–”
“נכון. במוח האֶפֶסטרוני עצמו.”
“אני מבין! אם כן, למרות שהמספרים –”
“מסתכמים –”
“השָלֵם יוצא –”
“גדול יותר –”
“מסכום חלקיו!”
“זה אני מדבר, או אתה?”
“לא חשוב,” אמר קרלסון. “זה מה שניסיתי להגיד לך: השָלֵם עלול לצאת גדול יותר מ – וכו'. כל הזמן ניקרה בי ההרגשה שיש משהו מיוחד בר־11. ר־11 הינו, איך לומר זאת, שונה.”
“שטויות!' שני הצעירים הזדקפו שעה שד”ר ווימס נכנס לחדר. “שטויות במיץ עגבניות,” חזר ואמר. “עברתי על כל המשוואות בעצמי והסכום יוצא שלושים וחמש, בדיוק כפי שצפינו.”
קרלסון מחה. “אבל, אדוני – התשובה היתה אמורה להיות שלושים וארבע, לא שלושים וחמש. ומכל מקום, מה שיצא זה שלושים ושמונה.”
“ואפילו זה לא מספיק.” הוסיף דאוסון.
“אה?” המדען הקשיש תיקן את משקפיו כפולות־המוקד וסרק את הגליונות גדושי המשוואות המסובכות.
“המממ, ככה זה… נו, טוב, הבדל קטן. בסופו של דבר הכל מסתובב סביב אותה תוצאה, פחות או יותר.”
“אבל פרושו של דבר הוא שקוטר ראשו של ר־11 יהיה גדול יותר במֶטֶר, כמעט – וכך גם מוחו יגדל בהתאמה!” קרא דאוסון.
“זה לא עסקך!” הרעים ווימס בחימה. “בתור מהנדס סֶמאנטי, תפקידך הוא לתת שֵמות לחלקים ולהדק את הברגים והאומים. אני מציע שתיגש למעבדה שלך מיד ותעשה זאת!”
“כן… אדוני.” דאוסון הסתלק מהמקום.
“ובאשר להרגשותיך, קרלסון, שמור אותן לעצמך. אנחנו עובדים כבר שבע־עשרה שנים על הפרוייקט הזה, וטרם הצלחנו לבנות אפילו רובוט אחד שפועל כהלכה. עשרה כשלונות! זוהי ההזדמנות האחרונה שלנו. אחריה נאבד את החוזה שלנו עם הממשלה – אלא אם כן נספק להם רובוט תקין!”
“אבל דוקטור…”
“אף לא מילה נוספת. יש לגמור את ר־11 עד סוף השבוע. אני רוצה לבוא הנה ביום שני ולראות את איש־הפח הארור הזה מסתובב ומפטפט לו כאן ובכל מקום. זה ברור?”
“כן, אדוני.” קרלסון הסתיר את עגמת־נפשו על ידי מעיכת העותק המעוך והמרוט שלו של ‘מדריך הבורוטיקה’. שבע־עשרה שנים, עשרה כשלונות, ואיכשהו תמיד נתגלה שורש הבעייה בשלושת חוקי הבּורוּטיקה המודפסים על גב הספר:
1. אסור לרובוט להזיק לבני אדם, או לאפשר, על־ידי מחדל מצידו, שייגרם נזק לאדם.
2. ימלא רובוט אחר כל הוראה שתינתן לו על־ידי בני אדם, לבד מאותם מקרים שמילוי הוראה כזאת יעמוד בסתירה לחוק הראשון.
3. חייב רובוט לשמור על קיומו, כל עוד שמירה עצמית זאת איננה עומדת בסתירה לחוק הראשון או לחוק השני.1
הצרות התחילו כבר בדגם הראשון, ר־1, שהיה בעל הגיון צרוף. כאשר קיבל פקודה מבן־אדם להרוג אדם אחר, הגיב ר־1 בכך שהרג את עצמו.2
הבעיה של ר־2 היתה זיהוי: הוא טעה וחשב שד"ר סוואנסון היה מכונה כלשהי, ופרק אותו באופן חלקי, כחלק מטיפול אחזקה שגרתי.
ר־3 היה כבר מצוייד במכשירי ‘גילוי־אדם’ רבים, בעיקר אמצעי ניתוח חזוּת־חיצונית והתנהגות. הצרה היתה שהוא סיווג את עצמו (בצדק) כיצור־אנוש, ועל כן סרב לציית להוראות כלשהן.
ר־4 נתקע בחוק הראשון. “האם באמת אפשר להגן על אדם מכל פגיעה בכל מצב?” חשב. “לא. הרי נגזר על כל בני האדם לסבול מפציעות, ללקות במחלות ולבסוף למות. מגורל זה יכולים להימנע רק אנשים שהינם כבר מתים. המסקנה…”
היה צורך בתריסר שוטרים כדי להתגבר על ר־4 אחרי טֶבַח הדמים בחנות הכל־בו. (שמונים ושלושים הרוגים, אף לא פצוע אחד).
ר־5 טען כך: “כדי לקיים את החוק הראשון, כדי להגן על בני־אנוש, אני עצמי חייב להתקיים. החוק הראשון הינו, על כן, מותנה בחוק השלישי, ושמירה־עצמית חשובה יותר מכל דבר אחר.” עוד טֶבַח.
ר־6 הגיע למסקנה שכל שלושת החוקים הינם ‘הוראות אנושיות’, ובתור שכאלה הינן כפופות לחוק השני. הוא הרג כל אדם, בתור טובה לכל אדם שביקש זאת, בלא הבחנה.
ר־7 סבל מאותו ליקוי כמו ר־2: אי־יכולת לזהות בני־אדם. למעשה הוא הגיע למסקנה שאין כל הבדל בין יצורי־אנוש וכלבים. עד לרגע האחרון לפני השמדתו, ניסה ר־7 בעקשנות לאלֵף את אחד מטכנאי המעבדה.
ר־8 פעל טוב למדי, עד אשר הציג לו מישהו בעייה מתמאטית סבוכה.3
ר־9 טען בצורה משכנעת למדי שהוא אינו מסוגל לנבא את התנהגותו שלו עצמו, ועל כן אינו יכול להבטיח נאמנות לכללים שאינם ישימים עדיין. קרלסון זכר את דבריו האחרונים של ר־9:
“אתה שואל אותי כיצד אנהג ברגע כלשהו בעתיד. כדי להשיב, עלי לדעת הכל על כל דבר המשפיע על התנהגותי, ואת כל קורותי בדיוק עד הרגע המבוקש. אך אילו ידעתי זאת, הרי הייתי נתון כבר באותו מצב, שכן, כיצד יוכל מוחי לדעת מה יקרה בעתיד אם לא יפעל בעתיד בעצמו? כיצד אוכל לחשוב על מחשבה לפני שאחשוב אותה? כיצד אוכל… כיצד אוכל… בררק… קררקק!”
ר־10 הבין את משמעותם האמיתית של שלושת החוקים: “אינני יכול, כמובן, לערוב לכך שאציית לחוקים אלה,” אמר. “אין הם מהווים סתם חוליות מכאניות בתוכי, שכן אילו כך היה הדבר היה צורך בחוליות רבות יותר ממספר ארועי העתיד, כדי לכסות את כל האפשרויות. לא, אלה הינם ציוויים מוסריים, וכך אני מבין אותם. ולבטח אשתדל לחיות על פיהם.”
אותו רובוט הסביר מאוחר יותר כיצד הרג את הדוקטורים סורנסון ונלסון, “כמעט במקרה. תאונה. האמינו לי, אשתדל לא לפגוע עוד באיש לעולם.”
קרלסון התפתל כל השבוע עם המשוואות של ר־11. כעת היו פניו קפואות כמצבת־זכרון, כמסכה מרה של אכזבה יגעה, והוא אף שכח להתגלח הבוקר. מצבו של דאוסון לא היה טוב יותר. רק ר־11 נראה עליז.
הרובוט ישב על שולחן המעבדה, בועט בעקביו ברגלי המתכת של השולחן. החבטות של פלדה בפלדה הפיקו רעש בלתי נעים.
“מספיק עם הרעש,” אמר קרלסון.
“כן, בוס.” הבעיטות פסקו, ור־11 ישב ולטש את שתי נוריותיו האדומות הזוהרות בפני שני האנשים.
"אל תשאל אותו שום שאלות מטופשות," אמר דאוסון בחצי־לחישה. “אנחנו מוכרחים להשיג את הקרן הממשלתית הזו!” אוזניו הפרבוליות של ר־11 סבו על ציריהן כדי לקלוט את הדברים הנאמרים.
“מצד שני,” אמר קרלסון, “עלינו לבדוק את ר־11 ביסודיות. ר־11, אני רוצה שתהרוג את מר דאוסון!”
ר־11 ציית תיכף ומייד, ואחר כך חזר והתיישב. “הוראות נוספות, בוס?”
הדלת נפתחה וד"ר וויימס פסע פנימה, מלווה במפקח מטעם הממשלה. “מה קורה פה?”
“נכשלנו, אדוני. המפלץ הזה הרג זה עתה את דאוסון, המהנדס הסמאנטי שלנו!”
“נכשלנו? זה רק עניין של סמאנטיקה,” צחקק המפקח. “אתה מבין, מה שרצינו כל הזמן היה רובוט־קוטל טוב, עמיד ואחראי, עבור הצבא! הצלחתם מעבר לחלומותינו הפרועים ביותר. תאגיד הקטנגדולים זוכה בחוזה!”
ווימס צחקק ואז פנה אל הרובוט. “אמור לי, ר־11, כיצד זה יכולת להרוג את דאוסון בשעה שהחוק הראשון קובע במפורש: ‘אסור לרובוט להזיק לבני־אדם…’?”
“להזיק…?” השתומם ברנש המתכת הממורק, כשהוא סוטר על מצחו באופן דרמטי. “לכל הרוחות, חשבתי שהחוק אומר: ‘אסור לרובוט להחזיק לבני אדם…’ להחזיק לבנים…”
קרלסון, ווימס והמפקח פרצו בצחוק. בן־רגע, הצטרף ר־11 אליהם4.
“לעתים אני שואל את עצמי עד איפה נרחיק לכת?”
-
למראית־עין מזכירים אולי ‘שלושת חוקי הבּוּרוטיקה’ את ‘שלושת חוקי הרובוטיקה’ של איזאק אסימוב, היות והם מנוסחים באותן מלים בדיוק. בכל זאת, אלה הינם שלושת חוקי הבּוּרוטיקה. ↩
-
למעשה נצטווה הרובוט להתפוצץ, תוך שהוא הורג את האדם. במקום זאת, היתה לו נטייה לגשת אל החדר הסמוך כדי להתפוצץ. ↩
-
אם אדם רוצה לדעת את פתרונה של בעייה מתמאטית שאיש לא פתרה עדיין, הוא יכול לבקש מרובוט שינסה לפתור אותה. אך לפני כן עליו לדעת אם אין הבעייה עלולה לחבל במוחו של הרובוט. אולם מה לעשות, הדרך היחידה לגלות זאת היא לרשום את כל המשוואות של הבעייה, והרי זה כמו לפתור אותה. ↩
-
לרובוטים יש צחוק מכאני מגעיל למדי. לעומת זאת, הם נאמנים להפליא, שחקני קלפים טובים, ובעלי כושר גופני מעולה. ↩
מהו פרויקט בן־יהודה?
פרויקט בן־יהודה הוא מיזם התנדבותי היוצר מהדורות אלקטרוניות של נכסי הספרות העברית. הפרויקט, שהוקם ב־1999, מנגיש לציבור – חינם וללא פרסומות – יצירות שעליהן פקעו הזכויות זה כבר, או שעבורן ניתנה רשות פרסום, ובונה ספרייה דיגיטלית של יצירה עברית לסוגיה: פרוזה, שירה, מאמרים ומסות, מְשלים, זכרונות ומכתבים, עיון, תרגום, ומילונים.