במהלך המאמר הקודם הערכנו שאיננו מכירים דרך ליצור במחשב הבנה אנושית. אמירה זו עלולה לעורר את חמתם של אנשי הבינה המלאכותית, לפיכך מן הדין להרחיב עליה את הדיבור. נקודת המוצא שלנו היא שהתכוונות להשגת מטרה היא תכונה מולדת המשותפת לכל בעלי החיים. למשל, הקנגורו לא צריכה ללמד את עוברה הזעיר והעיוור איך להגיע משיפולי בטנה לכיס הפטמות. את הדרך הארוכה והמייגעת לשם עושה העובר מכוח תכונה גנטית שהוא נולד עִמה. לעומת זאת, למחשב אין מטרה משלו, וממילא גם לא התכוונוּת להשיג מטרות. הואיל וכך, כל המטרות וכל הכיוונים שווים מבחינתו, שהרי אין לו שום קריטריון פנימי להעדפת מידע מסוג אחד על משנהו; מאחר שאין לו קריטריון בחירה, הוא לא מסוגל לקבוע מה חשוב ומה טפל במציאות, משמע, אין לו הבנה.

את היכולת להבין את מכלול תוכני המציאות – יכולת המצטיינת בפתיחות רבה, בכושר למידה גמיש ובאפשרות לאחזר את המידע בהקשרים מגוונים על ידי רשת ענפה של אסוציאציות – איננו יודעים כיצד לנסח כהוראות פעולה (אלגוריתם) למחשב. יכולת זו התגבשה לאִטה במשך עשרות מיליוני שנים של אבולוציה לא על פי אלגוריתם מסודר ושיטתי, אלא בדרך חתחתים של ניסוי וטעייה, שאינה ניתנת לשחזור. כל שניתן לעשות הוא לבנות מודלים פשטניים המחקים קטעים מסוימים של ההבנה, שאותם אנו יכולים להעביר למחשב, אבל לא את המכלול. צירוף הקטעים למכלול משול לנסיון לשחזר רשת סבוכה של מסילות רכבת, שנהרסה כליל בשטפון, בעזרת כמה קטעי מסילה שנותרו לפליטה. אנו יכולים להסיע קטר על־גבי קטעים אלה, ולרגע עשוי להיווצר הרושם שהקטר נוסע כמימים ימימה, אך אשליה זו מתפוגגת בקצה הקטע של המסילה.

גם את השכל הישר, שאנו רוכשים במהלך חיינו על ידי התנסות ישירה, לא ניתן להעביר למחשב באמצעות אלגוריתם. רמז לבעייתיות זו בא לביטוי בנסיון לנסח למחשב מהי מסיבה מוצלחת. ברור לנו כי מה שעושה מסיבה למוצלחת הוא לא פונקציה של נתונים אובייקטיביים, כמו מספר המשתתפים, סוגי המשקאות ורמת הדציבלים של המוזיקה, אלא פועל יוצא של משתנים סובייקטיביים הפועלים על כל אדם באופן שונה, כגון אופי האינטרקציה שהיתה לנו במהלך הערב, באיזה מצב רוח הגענו למסיבה, את מי פגשנו שם, לכמה תשומת לב זכינו, איך השפיע עלינו המשקה וכו'. “מסיבה מוצלחת” היא על כן דבר שונה לאנשים שונים. למרות זאת, כאשר מישהו אומר לנו שהיה במסיבה מוצלחת, איננו מתקשים לרדת לסוף כוונתו, כיוון שאנו מתרגמים את עדותו לאותם משתנים הגורמים לנו ליהנות ממסיבה. המחשב לעומת זאת אינו חווה חוויות. לפיכך, גם אם יוזן בתכנית רבת משתנים של “מסיבה מוצלחת”, ספק אם יוכל לזהות תכנית אחרת של “מסיבה מוצלחת” כמוצלחת, כיוון ששתי התכניות נבנו על ידי תכניתנים בעלי משתני הנאה שונים.

והנה, אחרי שהשתכנענו כמעט שהקניית הבנה למחשב היא לא רק משימה בלתי אפשרית, אלא גם צירוף מלים הסותר את עצמו, סיימנו את המאמר בהרהור שני על הצהרותיהם של לוגיקנים ובלשנים משנות ה־60, כי המחשב לעולם לא יוכל להתמודד כשווה בשווה עם אמני השח, בגלל העדר חשיבה אסטרטגית, דמיון יוצר ואינטואיציה. אבל למרות הצהרותיהם, התכנית מחשבה עמוקה השיגה בשנת 1989 דירוג של 2,650 נקודות, וכבר חוזים לה בשנים הקרובות 3,500 נקודות שיבטיחו לה את הכתר העולמי. יתר על כן, לא מזמן פיתחו בחברת יבמ תכנת תרגום מיפנית לאנגלית, המצביעה על כיוון חדש לעקיפת ההבנה על ידי עצמת מִחשוב ברוטלית. כאשר התכנית נדרשת לתרגם את המשפט “הוא קנה לביתו קילו תפוחים”, היא סורקת במהירות עצומה מאגר אדיר של משפטים באנגלית, המתחילים במלים “הוא קנה”. השוואת המשפטים האלה לטקסט היפני מביאה למציאת המשפט האנגלי המקביל לו, ומבטיחה תרגום נקי משגיאות. האין בהישגים אלה, המסתמכים על כושר הקיבול והמהירות בלבד, משום כתובת על הקיר למצדדים בבלעדיותה של ההבנה האנושית? כלום איננו מתעקשים לראות בסוג המיוחד של הבנה, שהתפתחה בעולם החי, את ההבנה היחידה האפשרית? האומנם רק מוח ביולוגי מסוגל לייצר מחשבות, ורק כך יכולה להתפתח הבנה?

התשובה אינה קלה. אנו משערים שהמחשבות נוצרות במוח, אבל אין לנו מושג כיצד נעשה הדבר. מבחינה פיזיקלית חומר יכול להתגלם רק בחומר ובאנרגיה, בעוד שהמחשבה וההבנה אינן לא זה ולא זה, ואף על פי כן הן תוצרים של פעילות חומרית. התהליכים המתרחשים במוח מוסברים על ידי חוקי הכימיה והחשמל, אבל המחשבה, התודעה וההבנה לא ניתנות להגדרה בקטיגוריות חשמליות או כימיות. מטעם זה אך אנו מבינים כיצד יכולים מחשבה או רצון או כוונה לגרום לנו להסמיק או להזיז את רגלנו. יתרה מזו, מאחר שאיננו יכולים לחדור למוחם של בני אדם אחרים כדי לצפות באופן בלתי אמצעי בהבנה שלהם, אנו מקישים על פי תגובתם שהם מחוננים כמונו בהבנה. ההיקש הוא אולי נכון, אך קשה לראות בו הוכחה. חוסר יכולתנו להוכיח באורח אובייקטיבי את קיום ההבנה אצל זולתנו הוא אחד הביטויים המרכזיים של בעיית הנפש־גוף המפורסמת.

מה שעושה בעיה זאת לפרדוקסלית במיוחד הוא העובדה שהשכל והתודעה מופיעים רק אצל בעלי חיים, למרות שהחומר האורגני אינו שונה בעקרון מהחומר הדומם. שניהם מורכבים מאטומים הסרים לאותם חוקים פיזיקליים. מיליארדי האטומים הבונים את גופנו מופיעים בטבלת היסודות הכימיים לצד יסודות אחרים שמהם מורכב החומר הדומם, ואין הם נושאים שום תו המזהה אותם כאטומים “חיים”. במלים אחרות, הפחמן שמרכיב את החומר האורגני לא טעון “כוח חיים” יותר מהסיליקון המשמש לבניית הטרנזיסטורים של המחשב. אפשר לומר שהבעיה הניצבת לפנינו כפולה: מצד אחד, איננו יודעים איך הפעילות הכימית־חשמלית במוח יוצרת מחשבות, רגשות, רצונות וחוויות. מצד שני, אם אי ידיעתנו לא מונעת מהרגשות ומהמחשבות להיווצר במוח, כיצד נוכל לפסול על הסף את אפשרותה של מכונה חושבת, בטענה שאיננו יודעים כיצד לעשות את זה?

ג’ון סירל, פילוסוף אמריקני חשוב וממתנגדיה הבולטים של הבינה המלאכותית, אינו פוסל אפשרותה של מכונה חושבת על בסיס עקרוני, אלא עובדתי. עובדה היא, טוען סירל, שהמוח הביולוגי הוא המערכת היחידה הידועה לנו המסוגלת לחשוב. סירל יוצא נגד האנלוגיה הפשטנית, שלפיה היחס בין השכל למוח שווה ליחס שבין תכנית המחשב למחשב. ההבדל העקרוני בין השניים, אומר סירל, הוא שתכנית מחשב רק מתפעלת סמלים, ואילו השכל מבין גם את תוכנם. כיוון שכך, המחשב יכול לטפל בקשרים התחביריים של השפה, אבל לא להבין את התכנים ואת המשמעויות של המלים. כדי להמחיש את ההבדל העמוק בין תחביר לסמנטיקה, הגה סירל ניסוי מחשבתי המכונה “החדר הסיני”.

סירל דימה את עצמו נעול בחדר עם חבילת טקסטים בשפה הסינית. מאחר שאינו מבין מלה בסינית, הטקסטים לגבי דידו הם ממש “סינית”. כעבור זמן מה מכניסים לחדרו חבילה שנייה של טקסטים בסינית, אבל הפעם בצירוף ספר כללים בשפה האנגלית, המורים לו איך לחבר את הסמלים הסיניים שבחבילת המסמכים הראשונה עם הסמלים הסיניים שבקובץ השני. לא עוברות אלא דקות אחדות ומכניסים לו קובץ שלישי של סמלים סיניים, יחד עם דף הוראות בשפה האנגלית, המנחה אותו כיצד לזווג אלמנטים מסוימים מהקובץ השלישי עם שני הקבצים הראשונים. סירל אינו יודע שהאנשים שמחוץ לחדר, המכניסים לו את החומר, מכנים את הקובץ הראשון “תסריט”, את הקובץ השני “סיפור”, את הקובץ השלישי “שאלות”, את הסמלים שהוא מזווג על פי דף ההוראות “תשובות לשאלות”, ואילו את ספר הכללים בשפה האנגלית “תכנית”. אחרי כמה ימי תרגול רוכש סירל מיומנות כה רבה בתפעול הסמלים הסיניים, עד כי צופה זר יסרב להאמין שבחדר יושב אדם שאינו יודע מלה בסינית, ועל כן לא מבין גם את התסריט, את הסיפור, את השאלות, וכמובן את התשובות.

הניסוי המחשבתי של החדר הסיני בא להמחיש עד כמה מגוחכת הטענה, שהפקת פלט זהה לתוצר של הבנה מעידה על הבנה. למחשבות ולתובנות שלנו, אומר סירל, יש תכנים מנטליים, בעוד שתכניות המחשב ריקות מתוכן ומשוללות יכולת להבין תכנים. סירל כמובן, צודק. תכנית שח כמוה כיונה שאולפה לזהות ניצולים בים. העובדה שהיונה עושה מלאכה זו טוב יותר מטייס אנושי אין פירושה שהיא מבינה כמוהו גם את המשמעות של חיי אדם. סירל תִפקד בחדר הסיני כמכונה הפועלת על פי עקרונות פורמליים, קרי, הוא תִפעל את הסמלים ברמת התחביר של השפה ולא ברמה הסמנטית שלה. על כן צודק סירל באומרו, שאם הפעולות שביצע בחדר הסיני לא גרמו לו להבין סינית, אין שום סיבה להניח שתכניות המחשב גורמות למחשבים להבין את תוכנן. כאמור, סירל לא פוסל על הסף אפשרות של מכונה חושבת, אבל, הוא מוסיף, אי אפשר שלא להתרשם מהספציפיות האנטומית והפיזיולוגית של המוח, המאפשרת למידע שקולט הגוף באמצעות החושים ליצור תופעות מנטליות, ולתופעות מנטליות המתחוללות במוח לגרום לנו לחוש רעב או תענוג. אומנם אפשר לחקות תהליכים אלה על ידי הדמיה במחשב, אבל הדמיה של עצם או של תהליך לא משכפלת אותם. עובדה, אינך יכול לאכול פיצה על ידי הדמיה של פעולת האכילה.

משל החדר הסיני עורר גל סוער של תגובות מצד הגרעין הקשה של אנשי הבינה המלאכותית, המסרבים לראות בכשרים המנטליים תכונה ייחודית ובלעדית של מערכות ביולוגיות. לגבי דידם גם מערכת העשויה מנייר או מבקבוקי זכוכית יכולה להפגין כשרים מנטליים, ובלבד שתשתמש באמצעי קלט־פלט נכונים ותפעל עם תכנה הולמת. נימוקי התנגדותם ראו אור בכתב־העת המדעי “סיינטיפיק אמריקן” (ינואר 1990) ובספר “The Mind’s Eye” (בעריכת הופשטטר ודנאט). להלן טיעוניהם המרכזיים:

1. סירל לא מבין אומנם סינית, אבל החדר בכללותו – הכולל אותו, את ספר הכללים, את קובצי הסמלים ואת דף ההוראות – מבין. סירל מתפקד בחדר הסיני כמו נוירון (תא) בודד במוח. הנוירון הבודד אומנם לא מבין דבר, אבל אלמלא פעילותו החשמלית לא היתה נוצרת במוח הכנה.

2. כנגד החדר הסיני אפשר להציג את “המורה לסינית”. נניח שהתבקשת ללמד בבית ספר סיני, למרות שאינך יודע את השפה. מִתקן מיוחד המחובר לראשך מתרגם את מחשבותיך באנגלית לפעימות חשמליות, הגורמות לשרירי הפה ולמיתרי הקול להשמיע אותן בסינית. תלמידיך, שאינם מודעים לקיומו של המִתקן הנסתר, מתפעלים מהסינית המושלמת שלך. האם התלהבותם תעניק לך הרגשה שאתה יודע סינית? מובן שלא, שהרי איש אינו יכול לדבר בשפה זרה לו בשיטה כזאת. מסקנה: אם תלמידיך מתפעלים, משמע שאתה יודע סינית.

3. נניח שפיתחנו טכניקה חדשנית המאפשרת להחליף את הנוירונים במוח בטרנזיסטורים, ואלה מסוגלים למלא בהצלחה את הפונקציה הפשוטה יחסית של העברת האותות החשמליים בין הנוירונים. כיוון שכך, בעל המוח לא יחוש בשום הבדל כאשר נחליף את הנוירונים שלו זה אחר זה בטרנזיסטורים. הוא ימשיך לדבר, לקרוא, לזכור, להבין ולהתרגש בדיוק כמו מקודם. אבל מה יקרה כאשר נחליף את הנוירון האחרון במוחו בטרנזיסטור? על פי הגיונו של סירל, ייווצר פרדוקס: אף שהטרנזיסטורים ממלאים בהצלחה מלאה את תפקיד הנוירונים, בעל המוח יחדל באותו הרגע להבין את הדברים שהוא שומע ומדבר, כיוון שמוחו המורכב מטרנזיסטורים הוא עתה מחשב לכל דבר, נטול יכולת סמנטית ולפיכך משולל הבנה. במלים אחרות, דינו של מוח טרנזיסטורי זה כדינו של סירל בחדר הסיני: הוא יוכל לתפעל סמלים. אבל לא להבין את תוכנם.

ובכן, קשה לראות בטיעונים אלה תשובה מוחצת לניסוי המחשבתי של סירל. להשוות את מרכיביו הדלים של החדר הסיני למיליארדי הנוירונים של המוח האנושי, על קשריהם המסועפים, הוא מעשה הגזמה הראוי ל"ספר השיאים של גינס". הטיעון השני מדיף ריח הטעיה. כדי שמִתקן התרגום הסמוי ימלא כראוי את תפקידו, הוא צריך להבין את הרובד הסמנטי של המחשבות ולא רק לשלוט בתחביר שלהן, שאם לא כן ייכשל בכל הכשלים של תכניות התרגום המכניות. מסקנה: מִתקן התרגום המסתורי איננו מכונה, אלא מוח אנושי לכל דבר, שאותו כאמור איננו יודעים ליצור באופן מלאכותי. הוא הדין לגבי הטענה השלישית. פעילות מנטלית (כמו זכירה) מפעילה במוח זרמים של מסרים כימיים המחוללים שינויים מולקולריים ברשת העצבית של המוח. בהנחה שהטרנזיסטור המושתל, המחליף את הגוף המרכזי בתא העצב (הנוירון), יוכל לקלוט ולהפעיל מסרים כימיים ולשגר זרם חשמלי בזנבו הארוך (האקסון) של הנוירון, עדיין הוא מהווה אך מרכיב אחד במערכת מורכבת, שאיכותה נקבעת על ידי קווי הקשר (דנדריטים) המסתעפים ממנה לנוירונים האחרים ברשת. טעות שכיחה קושרת את רמת האינטליגנציה של בעל חיים למספר הנוירונים במוחו, ולא כך הוא. קליפת מוחו של עכבר מכילה פי עשרה נוירונים (מאה אלף) לכל מילימטר מעוקב מאשר אצלנו. אבל כל אחד מהנוירונים שלנו מסוגל ליצור קשר עם פי 10 עד פי 100 נוירונים שכנים בהשוואה לעכבר. במלים אחרות, את עליונות החשיבה האנושית על עכברים צריך לחפש בכמות הדנדריטים ולא במספר הנוירונים. יוצא אפוא, שהחלפת הנוירונים בטרנזיסטורים לא הופכת את המוח הביולוגי למוח אלקטרוני, כשם שהשתלת לב של חזיר בגופו של אדם לא הופכת אותו לחזיר. המוח הטרנזיסטורי הוא אפוא מוח ביולוגי לכל דבר.

אם כך, מה מלמד אותנו החדר הסיני? אנו יודעים שסירל השיב בהצלחה על כל השאלות שהוצגו לו בסינית, למרות שלא הבין מלה, הודות לכך שהוא מילא במדויק אחרי סדרת הוראות (אלגוריתם) שהוכנה לו מראש. מי שנתבע לגלות הבנה היה המתכנת, מחבר האלגוריתם, זה שכתב את ספר הכללים ואת דף ההוראות, זה שניסח את הקשרים בין קובץ א' (הסיפור) לקובץ ג' (השאלות) ולקובץ התשובות. לכן אילו סירל היה נשאל למשל על התרשמותו מהסיפור, קרוב לוודאי שלא היה יודע מה להשיב, כי שאלה מסוימת זו לא היתה רשומה בקובץ השאלות, ולפיכך לא הופיעה בקובץ התשובות. כשל פשוט זה מפריך את הטענה המייחסת הבנה לחדר בכללותו, שכן גם החדר כולו לא היה מסוגל לספק תשובה לשאלה פשוטה זו. לעומת זאת, אילו הסיפור היה כתוב באנגלית, סירל היה מסוגל להשיב בכוחות עצמו, בלי להזדקק לעזרה מהחדר כולו. מסקנה: החדר בכללותו חף מכל הבנה הן בשפה הסינית והן בשפה האנגלית.

כל מה שסירל עשה בחדר הסיני לא ביטא הבנה, אלא חיקוי של הבנה. עובדה מהותית זו היתה מתגלה בנקל על ידי מבחן טיורינג (ראה המאמר השני בסדרה זו), שכן ניהול שיחה פתוחה וחופשית, כנדרש במבחן זה, מחייבת את הנבחן לגלות הבנה, בעוד האלגוריתמים של תכניות שיחה מסוג אלייזה או מערכות המומחה למיניהן מאפשרים להן, במקרה הטוב, לשוחח שיחה כאילו־אנושית למשך זמן קצר מאוד או על נושא צר מאוד. לדוגמה, כאשר הפציינטית של אלייזה אומרת: “החבר שלי הכריח אותי לבוא לכאן”, מגיבה התכנית ב"למה החבר שלך הכריח אותך לבוא לכאן?" אבל אם הפציינטית תחליף את המלה חבר במלה דלת, אלייזה לא תבחין בשינוי, כי מבחינה תחבירית אין הבדל בין דלת לחבר, ולכן היא תגיב כמנהגה: “למה הדלת שלך הכריחה אותך לבוא לכאן?” אומנם, אפשר לנסח אלגוריתם תחבירי מתוחכם יותר, שיפסול חיבור של שם עצם (דלת) עם פועל (מכריחה). אולם גם אלגוריתם זה היה נכשל במוקדם או במאוחר בצירוף שלא נחזה מראש. למשל, הוא היה פוסל משפט עתיר משמעות כמו “ההר הכריח אותי לבוא לכאן”, שכן כדי לדעת שמשפט זה תקף גם מבחינה תחבירית וגם מבחינה סמנטית, נדרשת הבנה של נפש האדם וידיעה רחבה של דחפיו, עולמו המטפורי, תרבותו וכו'.

התעלמות מההבדל הדק בין הבנה לבין חיקוי של הבנה מביאה רבים וטובים לייחס הבנה למערכות מומחה, המפגינות מומחיות מרשימה בתחום מוגדר וסופי של ידיעה. אבל אם תשאל מערכת מומחה לקידוחי נפט איזו ביצה היא רוצה לארוחת בוקר, היא לא תבין את השאלה. לא רק משום שלמערכת מומחה גיאולוגית אין כל ידע קולינרי, כי אם גם מפני שמושג הרצון מייצג מצב מנטלי פתוח, מונע על ידי התכוונות, שלא מתחייב לוגית מנתונים וממצבים מוגדרים, ועל כן לא ניתן לנסחו באלגוריתם. אלגוריתמים יכולים לטפל במצבים סגורים, כמו הכנת ביצים שלוקות אן זיווג טקסטים בחדר הסיני, אבל ספק אם נוכל לנסח אלגוריתם שיאפשר לעירייה להחליף את המצילים בחוף הים במצלמות ממוחשבות. שכן כדי להבדיל בין מי ששוחים ומשתכשכים במים להנאתם לבין מי שמנסים להציל את נפשם, נדרשת בין השאר הבנת רקע רחבה של תרבות הפנאי, התמצאות בגילויי ההומור של בני אדם וידיעת תגובותיהם במצבי מצוקה. את המערכת המורכבת הזאת של מצבים ותובנות איננו יודעים כיצד לנסח באלגוריתם.

האחים דרייפוס מציינים בספרם הפולמוסי (“Mind Over Machine”) חמישה שלבים של מיומנות נהיגה:

1. שלב הטירונות. הנהג הטירון פועל על פי כללים נוקשים ומבודדים. לדוגמה: כאשר המכונית מגיעה למהירות של 35 קמ"ש, עבור להילוך שני.

2. שלב הטירונות המתקדמת. בשלב זה הנהג מחליף הילוכים על פי מאמץ המנוע.

3. שלב המיומנות. הנהג המיומן משלב את כללי הנהיגה עם מטרות (בדיקת גבולות שליטתו. השגת מכונית מתחרה וכו').

4. שלב המיומנות הגבוהה. הנהג יוצר אינטגרציה מלאה של כל הגורמים, ומשלב אותם במכלול אחד.

5. שלב המומחיות. כל גורמי הנהיגה מופנמים, והנהיגה האינטואיטיבית תופסת את מקום ההחלטות המבוססות על כללים.

האחים דרייפוס טוענים שמכלול הגורמים בשלבים 4 ו־5 אינם קשורים זה בזה בקשר סיבתי פשוט, לפיכך המחשב לעולם לא יוכל להגיע לשלבים אלה. להערכתי, הקושי מבחינת המחשב נעוץ דווקא בשלב 3. התקן טיסה אוטומטי פועל על פי העקרון האלגוריתמי של שלב 1, אבל היכולת לעשות אינטגרציה של גורמים רבים מאפשרת לו להטיס מטוס בדרגת מיומנות של שלבים 4 ו־5. במלים אחרות, כמו במקרה של מחשבה עמוקה, שילוב של אלגוריתם מורכב ועצמה חישובית יכול להגיע לרמת מיומנות אנושית, אם כי בדרך שונה. אבל שום מחשב לא יכול לקבוע לעצמו מטרות והתכוונויות, כיוון שאלו נגזרות מתודעתו הפנימית של האדם ולא מגורמים חיצוניים.

הקושי העיקרי בהעברת החשיבה, ההבנה, ההתכוונות והתודעה בכללותה למחשב נובע אפוא מכך שהקשר בין סיבה למסובב במצבים המנטליים אינו פשוט ולא מחויב המציאות. למשל, אין קושי לנסח לזיקית אלגוריתם שיגרום לה לשנות את צבע עורה (“אם הסביבה כהה, שני את גון עורך לכהה”). אבל אי אפשר ליישם אלגוריתם זה על תכונתם של בני אדם להסמיק במצבי מבוכה, מפני שהקשר הסיבתי בין מבוכה לסומק אינו ישיר ואינו פשוט. יש מצבי מבוכה שמעלים בנו סומק ויש שגורמים לנו לגמגם, יש מבוכות שגורמות לנו להסמיק בנסיבות מסוימות, אך אותן נסיבות עצמן בעיתוי אחר לא מעוררות בנו שום תגובה.

האם זהו סוף פסוק? האם לעולם תישאר הבינה האנושית מחוץ להישג ידה של הבינה המלאכותית? לא בהכרח. אומנם מבחינת המחשב ההבנה היא משהו חמקמק כמו טעמה של עוגה. אפשר להגדיר בנקל את כל מרכיבי המתכון – קמח, ביצים, שמרים, וניל, סוכר – באלגוריתם מדויק, לרבות טמפרטורת האפייה, אבל את טעמה של העוגה אי אפשר לגזור מאף אחד מהמרכיבים בנפרד ואף לא מכולם יחד. הוא פועל יוצא של המכלול. אולם אם המכלול אינו תוצר ישיר של פעילות הנוירונים כי אם נובע ממורכבות הרשת העצבית, אזי את התשובה לבעיית ההבנה צריך לחפש אולי במחשבים מטיפוס אחר, הבנויים על פי הדגם העצבי של מוחנו. הייתכן שתוצרים מסוימים של מחשבים עצביים אלה לא ייגזרו מאופי האלגוריתמי של פעולת הנוירונים, אלא ממבנה הרשת?

על המחשבים העצביים ועל מידת יכולתם לחקות את החשיבה האנושית, במאמר הבא שיחתום את הסדרה.