משחק השח פועל בתחום צר מאוד של מציאות, המבוססת על כ־30 כללי עמידה, תנועה וטריפה של הכלים. לעומת זאת החיים, שהם זירת המשחק של ההבנה האנושית, בנויים מתשבץ ענק של עשרות אלפי “משחקים”, שלכל אחד מהם תחומי פעילות שונים וחוקי משחק נבדלים, ולמרות זאת המעבר ביניהם פשוט וטבעי. איננו יודעים מהם כללי ההמרה המאפשרים לנו לעבור ממשחק למשחק, ועל כן איננו יכולים לדעת אם הם פשוטים או מסובכים. כל שאנו יודעים על חוקי המרה אלה הוא, שהם יעילים. עובדה, במהלך שיחה שגרתית אנו יכולים לעבור מווידוי לנושא עסקי ומדיון פוליטי לרשמי מסע. כל אחד מנושאים אלה שונה מזולתו בכללי המשחק שלו, ברקעו, במטרותיו, במעורבות הרגשית־שכלית הנדרשת ממנו ועוד. אף על פי כן, המעבר מנושא לנושא אינו דורש מאִתנו כל הכנה מוקדמת. די בהשוואה זו בין זירת המשחק היחידה של מחשבה עמוקה לבין אינספור הזירות המרכיבות את החיים, כדי להמחיש את ההבדל בין הצטיינותה החד ממדית של מחשבה עמוקה לבין יכולתה הרבגונית של ההבנה האנושית. כדי להעלות את מחשבה עמוקה על מסלול בר השוואה, עליה להפגין לא רק כושר סביר בכל סוגי המשחקים הקיימים, אלא גם יכולת לעבור ממשחק הדוּק למשחק הגולות וממנו לקלס או לפוקר או לרֶמי, באותה קלות שאדם עובד בשיחתו מנושא לנושא.

לכאורה, עניין של מה בכך. כל מה שצריך לעשות הוא להרחיב את מערכת ההפעלה של “מחשבה עמוקה” בפקודות נוספות, ואחר כך להזין את המחשב בקובץ התכנות הספציפיות של כל אחד מהמשחקים הללו. למעשה, המשימה הרבה יותר מסובכת. כדי לאפשר למחשבה עמוקה לשחק דוּק, למשל, לא די בידיעת כללי המשחק והערך החומרי של כל אחד מהקיסמים הצבעוניים. על מנת להחליט איזה קיסם להרים, צריך לבדוק כמה קיסמים מונחים עליו, באיזה שיווי משקל הם נמצאים ומהם סיכוני התזוזה בהרמת הקיסם המסוים הזה מהערימה. פירוש הדבר, שצריך לצייד את מחשבה עמוקה בתפיסה מרחבית ובמערך שלם של חוקי פיזיקה ומכניקה. זה באשר לדוּק, ואילו כאשר תשחק פוקר, היא תעמוד בפני קשיים יותר גדולים. שכן איך ננסח עבורה את הכללים המעורפלים של העמדת פני פוקר, את הערכת אישיותם של המתחרים, את משאביהם הכספיים ואת השפעת הפסדיהם או נצחונותיהם הקודמים על הימוריהם? דומה, אפוא, כי הקושי האמיתי נעוץ בלימוד הגוף הגדול של ידע המצוי ברקע המשחק, קרי – חכמת המֶטה־משחק, שאנו עצמנו לא מבינים אותו. כיצד, למשל, להעביר למחשבה עמוקה את הכללים העמומים של ההבנה הפסיכולוגית ואת הידע הלא רשום, הלא מנוסח והלא מוגדר של דפוסי ההימור בפוקר?

יוצא, אם כן, שהבנת המטה־משחק בעייתית כמו הבנת המשמעות של המלים. את שני סוגי ההבנות הללו איננו מבינים כיצד אנו מבינים, ועל כן איננו יודעים כיצד להגדירם למחשב. מסקנה: אפשר להעביר למחשב רק אותם דברים הניתנים לניסוח ולהגדרה. יתרה מזו, העובדה שאני יכול להגדיר ולנסח משהו עשויה אמנם לאפשר לי לתפעל אותו, כפי שנעשה הדבר במשחק השח, אבל לא בהכרח להבין את משמעות התפעול. מה גם שבקיאות בתחום צר מאוד של ידיעה דומה במהותה להבנתו הלקויה של ידען־שוטה. לדוגמה, ניתן לצייר מחשב בידיעת רקע ספציפית, שתאפשר לו להצביע למה “הקופסה בתוך העט” הוא משפט שגוי מבחינת תוכנו, למרות תקפותו התחבירית. אבל ה"הבנה" שנקנה לו באמצעות ידיעת רקע זו לא תעזור לו לעמוד על השגיאה הסמנטית במשפט “התפוח אכל את הילד”, ואילו ידיעת הרקע של משפט זה לא תאפשר לו להבין את ההבדל בין “דני אוהב תפוחים” לבין “דני אוהב כלבים”. כל אחד מארבעת המשפטים הללו דורש ידיעת רקע שונה, ורק מי שמבין את משמעותם השונה וגם יכול להקיש מהם על תקפותם הסמנטית של משפטים אחרים, רשאי לראות את עצמו כבעל הבנה. מכך מובן, מדוע זכייתה האפשרית של מחשבה עמוקה באליפות העולם בשח לא תזַכה אותה בכתר המיוחל של ההבנה. ובכל זאת, כמו בפרשת הכשלון של התרגום המכני, מעז יצא מתוק, שכן שפל הציפיות אִפשר את שגשוגן של “מערכות המומחה”.

מערכות מומחה הן תכניות מחשב הבנויות על ידע ספציפי והמסוגלות למלא את מקומם של המומחים האנושיים בתחום הצר והמצומצם של מומחיותם. לדוגמה Prospector היא מערכת מומחה המכילה ידע גיאולוגי רחב של שכבות קרקע ומרבצים מינרליים. Mycin היא מערכת מומחה לאבחון דלקת קרום המוח וזיהומים חיידקיים בדם. Caduceuous כוללת מידע על 700 מחלות, וכבר בשלב ההרצה הקדימה כמה רופאים מומחים באבחון מחלות. דומה, אפוא, כי ההשקעה במערכות מומחה מצדיקה את עצמה. עובדה, 150 מתוך 500 החברות המובילות של כתב העת Fortune מפעילות או מפתחות מערכות מומחה בהיקף של מילארד דולר. חברת בואינג, למשל, בנתה מערכת מומחה ל־5,000 המחברים החשמליים במטוסיה. הפעלת המערכת קיצרה בעשרות שעות את זמן השימוש במדריך הידני בן 20 אלף העמודים, ששימש את הטכנאים. אבל לא כל מומחיות אנושית ניתנת להעברה למערכת מומחה, כפי שלמדה לדעת על בשרה אחת מיצרניות הגבינות. שבועות ארוכים ליוו אנשי התכנה את מומחה הגבינות של החברה, כדי לנסח למערכת המומחה את תהליך ההבשלה של הגבינה. בסופו של דבר התברר, שאת התכונה החשובה ביותר שלו, חוש הריח, לא ידע מומחה הגבינות כיצד לנסח. על פי הערכות מקובלות, מומחים מסוגלים לנסח בבהירות רק 35 אחוז מהידע שלהם. האחוז הנותר מורכב מנסיון מעשי ומאינטואיציות שרכשו במהלך חייהם המקצועיים והלא מקצועיים, ועל פי אלה הם מחליטים מתי לנהוג על פי הכללים ומתי לחרוג מהם, מתי מידע חדש הוא חשוב ומתי הוא זניח. מסקנה: מערכת המומחה לא מייצגת את הידע המלא של המומחה האנושי, אלא רק אותו חלק שהוא מסוגל לתאר, להסביר ולנסח בכללים, כללים שעל פי רוב הוא עצמו אינו פועל על פיהם.

בגלל כל הטעמים הללו, איש אינו מצפה ברצינות למצוא במערכות המומחה תשובה לשאלת ההבנה. שהרי הבקיאות הצרה העומדת בבסיסן של מערכות אלו לא מאפשרת להן לשחזר את החשיבה האנושית, אלא רק את הפעולות האנושיות. כיוון שכך, אין למערכת המומחה שום סיכוי לעבור את מבחן טיורינג, המקובל זה עשרות שנים כמבחן בסיס להבנה.

ב־1950, בעקבות נסיונות כושלים להגדיר את אופיה של החשיבה האנושית, הציע המתמטיקאי אלן טיורינג מבחן הכרעה פשוט בסוגיה זו. במבחן משתתפים שלושה אנשים: גבר (א'), אשה (ב') וחוקר. החוקר נמצא בחדר נפרד, ותפקידו לגלות באמצעות שאלות ותשובות שהוא מחליף עם השניים, מי הגבר ומי האשה. התקשורת בין החוקר לנחקרים מתנהלת באמצעות טלפרינטר, כדי למנוע את זיהוים על פי קולם. החוקר אינו יודע שתפקידו של א' להטעותו בתשובות שקריות, ושל ב' לסייע לו בעזרת תשובות נכונות. ומאחר שהוא אינו יודע מי מהשניים דובר אמת, מלאכת הזיהוי כלל לא קלה. מה יקרה, שאל טיורינג, אם נחליף את א' במכונה? האם החוקר יתקשה באותה מידה לנחש את זהותם של בני שיחו? טיורינג אמר, כי אם במשך חמש דקות של שיחה לא יגלה החוקר מיהו מי, ניתן יהיה לומר שהמכונה עמדה במבחן החשיבה. גם המתימטיקאי־פיזיקאי רוג’ר פנרוז, למרות עמדתו השלילית לגבי יכולתו של המחשב לחשוב, רואה במבחן טיורינג בוחן תקף ליכולת החשיבה. לטענתו, אם יוכל המחשב להשיב באורח קונסיסטנטי על כל שאלותיו של החוקר, כפי שאדם היה משיב עליהן, “אזי בהעדר עדות נגדית, הערכתי תהיה שהמחשב אומנם חושב, מבין, מרגיש וכו'”. ואכן טיורינג, המוחזק כאבי תורת המחשבים ומבּוֹני המכונה (קולוסוס) שפיצחה במלחמת העולם השנייה את הקוד הגרמני אניגמה, העריך כבר אז כי רק בשנת 2000 יוכל המחשב לעבור, ב־30 אחוזי הצלחה בלבד, את המבחן שהוא הגה.

אבל ב־1963 סברו רבים שטיוריג הגזים בהערכת הקושי. המהנדס ג’וזף ויצנבאום מ־MIT כתב תכנית מחשב, המחקה על דרך הפרודיה שיחה של פסיכולוג עם פציינט. את התכנית הוא כינה אלייזה, על שם לייזה דוליטל של ברנרד שאו. הנה קטע מאחת השיחות שהתנהלו בין אלייזה לבין פציינטית:

חשוב לציין שויצנבאום התייחס לאלייזה כאל שעשוע, ללא כל משמעות פסיכולוגית ולבטח לא כאל תכנית המסוגלת לפצח את מבחן טיורינג. אבל קנט קולבי, פסיכיאטר מאוניברסיטת סטנפורד, ראה באלייזה פוטנציאל תרפי לא מבוטל. הוא פיתח גִרסה דומה לאלייזה וכינה אותה דוקטור. ב־1963 התארח מהנדס רוסי ב־MIT, ובמסגרת ביקורו הוא הוזמן לשוחח עם דוקטור. להלן קטע קצר מהשיחה:

וכאן נסחף הרוסי לשיחה רצינית על ילדיו ועל יחסיו עם אשתו, למבוכתם הגוברת והולכת של מארחיו. השיחה הסתיימה אומנם באווירה מבודחת, אבל יכולתו של דוקטור לסחוף את המהנדס הרוסי לשיחה אינטימית טרפה את מנוחתו של ויצנבאום. אם תכנית פשוטה כל כך מסוגלת לחולל באדם התרגשות כה עזה, שאל את עצמו, מה יקרה כאשר יפותחו תכניות מתקדמות יותר? המחשבות סביב שאלה זו הביאו את ויצנבאום לכתוב ספר (“Computer Power and Human Reason” שבו הזהיר מפני פיתוח תכניות שנועדו לחקות או להחליף פונקציות רגשיות. בין השאר, המליץ לאסור על נסיונות להקנות יכולת שיחה למחשבים, מחשש שהדבר יגרע מכבוד האדם.

הספר עורר רעש ציבורי, אבל העבודה על תכניות השיחה נמשכה בכיוון שויצנבאום הזהיר מפניו. האחים סלאק, שני פסיכיאטרים מאוניברסיטת הרווארד, כתבו גִרסה ידידותית יותר של שיחה פסיכיאטרית. תכניתם ידעה לזהות מלים טעונות רגש ולהגיב עליהן בהערות עידוד כגון: “האם אתה מעוניין להרחיב בנושא זה?” וכאשר התכנית קולטת מלת עצב אצל בן שיחהּ, היא מפסיקה את רצף שאלותיה כדי לומר: “אני מקשיבה לך”. בניסוי שערכו האחים סלאק, חולקה אוכלוסייה של פציינטים לשתי קבוצות. קבוצה אחת עברה טיפול קונוונציונלי אצל אחד האחים, ואילו הקבוצה השנייה קיימה סדרת שיחות עם תכנית המחשב. בסקר שנערך בעקבות הניסוי התברר, שרבים העדיפו להמשיך את טיפולם עם המחשב על פני טיפול קונוונציונלי, בטענה שהם חשים עצמם פתוחים וחופשיים יותר מולו. תכנית אחרת, שפותחה על ידי ואגמן ומורטון מאוניברסיטת אילינוי, הציעה ייעוץ לבחירת דרכי פעולה במצבי משבר. תשעה מתוך 10 סטודנטים שהשתמשו בתכנית ציינו שהיא סייעה להם להיחלץ ממצבי קונפליקט וכי נוח להם יותר להיוועץ עִמה מאשר עם המטפל האנושי.

מפגש פיקנטי במיוחד התנהל בין דוקטור לפארי. דוקטור, כאמור, היא תכנית המחקה אופן שיחה של פסיכולוג קליני, ואילו פארי מחקה התנהגות של אישיות פרנואידית. הנה קטע קצר מהמפגש:

מקרה מוזר במיוחד אירע לדניאל בוברו, תלמידו של מרווין מינסקי, הגורו הגדול של הבינה המלאכותית, ומי שלימים פיתח את תכנית השיחה “סטודנט”. בוברו עבד במשרה חלקית בחברה עתירת ידע (BBN) שפעלה ליד אוניברסיטת קיימברידג'. מטעם זה לא הופתע סמנכ"ל השיווק של החברה למצוא בשבת בבוקר פתק על המסוף בזו הלשון: “נא להשתמש במסוף להעברת הודעות ולסיים כל הודעה בנקודה”. הסמנכ"ל היה משוכנע, שבוברו השאיר את המסוף מחובר למחשב בביתו, ולא העלה בדעתו שאחד התכניתנים חמד לו לצון וחיבר את המסוף ל"דוקטור". להלן קטע קצר משיחתו של הסמנכ"ל עם מי שהוא דימה שהיה בוברו:

כיוון שהסמנכ"ל שכח לחתום את בקשתו בנקודה, התכנית לא הגיבה. הסמנכ"ל הזועם המתין כמה דקות לצלצול, וכשזה התמהמה, טלפן לביתו של בוברו והביע בסגנון בוטה ביותר את דעתו עליו.

הצלחתן של דוקטור ואלייזה בהסתרת זהותן מבני שיחן מצביעה לכאורה על יכולתן של תכניות אלו לעמוד בהצלחה במבחן טיורינג. אין טעות גדולה מזו. אלייזה יכולה להצליח במעשה ההטעיה דקה אחת, אולי שתיים, אבל לא חמש דקות. הסיבה לכך היא, שהמנגנון התחבירי שלה שטחי ביותר ולפיכך קל מאוד לחשיפה. לדוגמה, אם הפציינטית (של “אלייזה”) היתה אומרת “הדלת”, במקום “החבר שלי הכריח אותי לבוא לכאן”, אלייזה היתה מגיבה באותו משפט: “צר לי לשמוע שאת מדוכאת”. הטעם לכך הוא, שמבחינתה דלת וחבר הם מונחים חסרי תוכן ומשמעות באותה מידה. למעשה, אלייזה מצויידת במנגנון המאפשר לה לאתר מלות מפתח בשיחה, כגון: אני, אתה, אבי, אמי, מאושר, עצוב, מדוכא, שונא, אוהב וכו'. כשהיא מאתרת אחת ממלות המפתח הללו, היא משלבת אותה באחד המשפטים המוכנים עמה מראש. למשל, על המשפט “אני מרגישה מדוכאת”, היא תגיב: “צר לי לשמוע שאת מדוכאת”. אם אינה מאתרת מלת מפתח, היא תגיב במשפט שאלה. לדוגמה, על המשפט “אני מרגיש עלוב, היא תגיב ב”למה אתה חושב שאתה עלוב?" אשליית ההבנה נוצרת בין השאר בעזרת מאגר מצומצם של מלים נרדפות: אם=משפחה; שונא=לא מחבב. על כן על המשפט “אמי שונאת אותי”, היא תגיב ב"ספר לי עוד על משפחתך", או ב"למה אינך מחבב את אמך". עד כמה מנגנון לשוני זה מוגבל, אפשר להיווכח מעדותו של יוברט דרייפוס. כאשר הוא נשאל על ידי אלייזה על הרגשתו, הוא השיב תחילה “נפלא”, אך מיד תיקן את עצמו וכתב: “לא, אני מרגיש נהדר”. אלייזה קלטה את מלת המפתח “לא”, והגיבה בהתאם: “למה אתה כל כך נגטיבי?”

מפגש משעשע, שיש גם בו כדי להעיד על טווח ההבנה המוגבל של התכנית, נערך בין דוקטור לבין העיתונאי רוזן. רוזן סיפר לדוקטור שהוא מחבב מסעדות סיניות, אך מתקשה להחליט אם להזמין צדפות או סלט, ועל כך הוא מבקש את עצתו של דוקטור:

שיח חירשים זה נמשך דקות ארוכות, ואך פלא הוא שרוזן לא העיף את צלחת הצדפות על דוקטור. שיחה זו, כמו קודמותיה, מסגירה שתיים מנקודות התורפה של תכניות אלו: חוסר ספונטניות והעדר כושר אלתור. אחד הנסיונות המעניינים להתגבר על ליקויים אלה נעשה על ידי התכנית Racter, שבמקרה יועדה לספר סיפורים, אבל התגלתה כמתאימה לשיחה על “עולמה הפנימי”. ראקטר עושה שימוש אסוציאטיבי חופשי וכמעט אנרכיסטי בנתונים על מקומות, עובדות, אנשים ואירועים שהוזנו לה מראש, והתוצאה המתקבלת פרועה, מפתיעה ומשעשעת. להלן קטע שיחה בין ראקטר למתכנת שלה, צ’מברלין:

וכך הלאה וכך הלאה, בנוסח המזכיר את מסיבת התה המטורפת של “עליסה בארץ הפלאות”, ואנו רק יכולים לשער איזו שיחה היתה מתנהלת אם היו מפגישים את ראקטר המטורף עם אלייזה המיושבת או עם פארי הפרנואיד.

ובכן, מה חסר לראקטר כדי שהאסוציאטיביות הפרועה שלו תהיה לא רק משעשעת, אלא גם הגיונית, ולו הגיון מטורף נוסח “ציד הסנארק” של לואיס קארול? בראש וראשונה שכל ישר (common sense). השכל הישר, לצד היכולת לטפל במושגים תיאורטיים, הוא אולי התכונה הייחודית ביותר של התבונה האנושית. עיקר כוחה של תכונה זו בא לה מהתנסות ישירה, ובתור שכזו היא גם הקשה ביותר להעברה למחשב. למשל, כל ילד לומד מנסיונו העצמי, ללא הדרכה מהמבוגרים, שאפשר למשוך חפץ כבד יחסית בעזרת חוט, אבל לא לדחוף אותו. את הידע העצמי הזה איננו יודעים כיצד להעביר למחשב. אנחנו משערים שהשכל הישר מותנה בהכרת הקשר בין סיבה למסובב, בתפיסה בלתי אמצעית של חוקים פיזיקליים, במודעות למוקדם ולמאוחר, בהבנת מטרות ובתחושת הסיבתיות, אבל איננו יודעים בדיוק ממה הוא בנוי. מניחים שהשכל הישר מורכב מאוצר בלום של פריטי מידע הקשורים בעצמים, במצבים, באנשים, במאורעות, במקומות, בקולות, בתמונות, בריחות, במשפטים, באמונות וכו', שרכשנו במרוצת החיים והמחוברים זה לזה ברשת מסועפת של אנלוגיות, מטפורות ואסוציאציות. גודלו של מאמר זה מוערך בכמיליון פריטים, אבל לא זה כוחו. אין שום קושי להזין את המחשב ב־10 מיליון פריטי מידע, אך איך נגדיר את הקשר האסוציאטיבי והאנלוגי, שאינו בהכרח לוגי, בין כלונס התומך בשיח עגבניות לבין מקל הליכה התומך באדם זקן? על קשיי האנלוגיה, על אי יכולתו של המחשב לפהק ועל הנסיון לעקוף את בעיית ההבנה באמצעות מסגרות הקשר, במאמר הבא.