שיחה עם פרופ' דוד הראל    🔗

דיקן הפקולטה למתמטיקה ומדעי המחשב במכון ויצמן.

בינואר 1988 נשאל קספרוב במסיבת עיתונאים אם עד סוף המאה יצליח מחשב לנצח רב־אמן. בשום פנים לא, השיב קספרוב. ואמנם, באוקטובר 1989 הוא הביס ללא תנאי את “מחשבה עמוקה”, תוכנית שח ממוחשבת. בעקבות נצחונו הכריז קספרוב במסיבת עיתונאים, שבעימות זה הגן על כבוד האדם מפני המכונה. בפברואר 1996 נערכה תחרות נוספת בין קספרוב לתוכנית השח “כחול עמוק”. קספרוב ניצח בתוצאה 2:4. כדי לשחק שח כהלכה, הסביר לעיתונאים, צריך יותר מסתם טקטיקה ומהלכים, צריך פנטזיה, צריך אינטואיציה. ללא תכונות אלה, הוסיף, אין למחשב סיכוי לנצח את האדם במאה הזאת. בחודש מאי 1997 נערך קרב הגומלין בין קספרוב ל“כחול עמוק יותר”, גרסה משופרת של תוכנית השח הקודמת. קספרוב הפסיד בתוצאה 2.5:3.5. מדבריו ניתן היה ללמוד, כי דברים שהוא מצליח לגלות בזכות האינטואיציה מגלה המכונה באמצעות מיליארדי חישובים.

הפסדו של קספרוב למחשב לא השפיל את כבוד האדם, כשם שניצחונו בעבר לא העצים אותו, הוא רק הראה עד כמה לא רציניות היו הצהרותיו הקודמות. הוא הראה דבר נוסף, שבמקום לחקות את היכולות המחשבתיות של האדם, כמו אינטואיציה ופנטזיה – שאנו עצמנו איננו מבינים אותן – רצוי לחפש להן דרכים עוקפות, כפי שהמטוסים עקפו את נפנוף כנפי הציפורים באמצעות כנפיים קשיחות ומדחף. עוד הראה הפסדו של קספרוב, שאפשר לגבור על החשיבה האנושית גם במשחק כל־כך אינטליגנטי כמשחק השח אם חדלים לחקות את פעולת המוח האנושי ומתחילים לחשוב כמו מכונה המסוגלת לבצע 300 מיליון פעולות בשנייה.

אבל אולי גם אנחנו מקדימים הצהרה למחשבה? אולי קספרוב לא ניצל נכון את יתרונו המוחלט בחשיבה אסטרטגית? ובכלל, עד כמה ההתמודדות בין אדם למכונת שח הוכרעה סופית?

פרופ' הראל: אם זה לא מוכרע כרגע, זה קרוב מאוד להיות מוכרע. לדעתי, בעוד חמש או עשר שנים יופיע כחול עוד יותר עמוק, שיהיה רשמית וסופית אלוף העולם.

ינאי: מה המשמעות של ניצחון המחשב על אלוף העולם בשח?

פרופ' הראל: זה אומר שהמחשב הזה מסוגל לעשות דבר אחד מאוד טוב. נו, אז מה? מחשב הוא אלוף העולם בהכפלת מספרים ובחישובי משכורות כבר חמישים שנה. גיבור הסרט “איש הגשם” הוא אוטיסט סימפטי ואלוף העולם בספירת קיסמי שיניים, אבל לא היית נותן לו לנהל את יומן הפגישות שלך ולא היית משתף אותו בשיחה אינטליגנטית כלשהי. זה רק מוכיח, שלדעת לעשות דבר אחד טוב, ואפילו טוב מאוד, כמו לנצח את קספרוב בשח, לא אומר הרבה על אינטליגנציה במובן הכללי שלה.

ינאי: אפשר לומר את זה על כל מערכות המומחה המתמחות בתחום מוגדר ומצטיינות בו, בין שהתחום הזה הוא קידוחי נפט ובין שהוא ניתוח תרשים של א.ק.ג.

פרופ' הראל: שלא תהיה טעות, אני לא אומר שקל לבנות מערכת מוּמחה טובה. התוכנה שניצחה את קספרוב היא דבר מדהים בחוכמתה, אבל זו אינה אינטליגנציה.

ינאי: זה בדיוק מה שאנשי הבינה המלאכותית ביקשו להוכיח למן שנות החמישים של המאה שלנו באמצעות משחק השח: שאפשר להקנות אינטליגנציה למכונה. למעשה, משחק השח שימש שנים רבות נייר הלקמוס לאפשרותה של אינטליגנציה מלאכותית. היו אף כאלה שניבאו, כי חמש שנים אחרי שהמחשב ינצח את אלוף העולם בשח תהיה לנו מכונה שמסוגלת להבין, לחשוב ולעשות כל מה שבני־אדם יודעים לעשות.

פרופ' הראל: העבר מלא הצהרות שגויות. היום לא תמצא אדם אחד רציני בתחום שיאמר את זה. במשחק השח נעזר המחשב בתכונות אחרות לגמרי מאלה המשמשות שחקני שח אנושיים. למשל, יכולת חיפוש מהירה והרבה מאוד תבניות מתוכנתות, אבל זו אינה אינטליגנציה. אתן לך דוגמה לְמָה אני מתכוון באינטליגנציה. אם בתגובה לשאלתך הייתי מרים את גבות העיניים שלי ומקמט את המצח, היית מבין שלא הבנתי את דבריך. או אם פתאום אקום ואשפוך בלי כוונה כוס מים עליך, מייד תשים לב ותזוז הצידה. אנחנו משתמשים בהרבה מאוד ידע בלי להיות מודעים לכך.

ינאי: אם קספרוב היה מזמין את “כחול עמוק יותר” לכוסית קוניאק לרגל נצחונו, יש להניח שהמחשב היה מחפש בזיכרון שלו מהו כלי המשחק הזה שקוראים לו קוניאק.

פרופ' הראל: יותר מזה. גם אם תשנה איזשהו כלל במשחק השח, ותקבע, למשל, שהפרש ידלג שלוש משבצות בקו ישר (לפני הפניה) במקום שתיים, התוכנית הייתה מתמוטטת. שחקן אנושי היה יכול להסתגל די מהר לגרסה החדשה ולהתמודד היטב עם השינוי הזה בכללי המשחק.

ינאי: שכנעת אותנו שידע מאוד ספציפי, אפילו בדרגה הגבוהה ביותר, איננו אינטליגנציה. מהי אם כן אינטליגנציה?

פרופ' הראל: למשל, היכולת שלנו לנהל שיחה מעניינת, אפילו על נושא בלתי מוכר. אתן לך דוגמה. נניח שאני שואל אותך האם אתה יודע מה זה זופצ’וק. אתה לא יודע, ואז אני מסביר לך, שזופצ’וק הוא לוויתן מעופף, שיודע לכתוב סיפורי מסתורין. כדי לשכנע אותך שזו לא בדיה, אני אומר לך שפיתחו את הלוויתן הזה מקוף, במעבדה גנטית, במשך הרבה מאוד דורות, עד שהידיים שלו התכווצו ונהיו סנפירים. הוא גם גדל קצת ושמן, ואגב כך לימדו אותו לקרוא ולכתוב, והיום הוא מסוגל לחבר נובלה בלשית ברמה בינונית. אני שואל אותך האם יכול להיות שיש דבר כזה, ואתה משיב בשלילה, לא משום שאתה גאון גדול, אלא מפני שיש לך ידיעה מסוימת על הנדסה גנטית, ודי בידיעה הזאת כדי לדעת שאין שום דרך – לפי הידוע לנו היום – לפתח יצור כזה. עכשיו, בוא ננתח את השיחה הזאת. למדת ממני משהו, למדת מה זה זופצ’וק. סיפרתי לך את הסיפור ומיד הבנת שזה לא הגיוני. איך ידעת שזה לא הגיוני? כי קישרת את זה עם כל מיני דברים אחרים שאתה יודע והסקת מסקנה אינטליגנטית. אז יש לנו למידה, הבנה והסקת מסקנות הגיוניות. שאלת מה זו אינטליגנציה, זאת אינטליגנציה. גם היום אין מחשב שמתקרב, אפילו באופן חלקי ביותר, ליכולת ניהול של שיחה מהסוג הזה.

ינאי: הדברים שלך רומזים למבחן ידוע משנות החמישים, הקרוי על שם המתמטיקאי אלן טיורינג. זהו מבחן מאוד פשוט להוכחת אינטליגנציה מלאכותית. בחדר אחד יושב שופט, בחדר שני נמצא מחשב ובחדר שלישי אדם. השופט מעביר באמצעות המקלדת שלו שאלות לשני החדרים במטרה לגלות באיזה חדר נמצא המחשב. אם השופט לא מצליח לזהות את המחשב במהלך שיחה של חמש דקות, יש להכיר במחשב כבעל אינטליגנציה. מה דעתך על מבחן זה?

פרופ' הראל: מה שחכם במבחן טיורינג הוא שמחשב נדרש להתחזות ליצור אינטליגנטי, ולא בהכרח להיות ממש אינטליגנטי.

ינאי: אבל מה בעצם הקושי? מה הקושי לנהל חמש דקות שיחה על דא ועל הא?

פרופ' הראל: זה בדיוק העניין. אתה, כשופט, מנסה להכשיל את בני־השיח שלך בכל מיני אופנים. אתה יכול לבקש מהם להכפיל שני מספרים, ואם אחד מהם יענה מאוד מאוד מהר, תדע שהוא מחשב ולא בן־אדם. כלומר, כדי לעמוד בהצלחה במבחן טיורינג צריך לתכנת את המחשב לעשות טעויות מפעם לפעם. אתה יכול כמובן להוביל אותו לשיחה אינטימית ופרטנית על הוריו, ועל־פי אופי התשובות תדע עם מי יש לך עסק: אדם או מחשב. וכמובן, שיחה בלתי שגרתית – אבל מתקבלת על הדעת מנקודת מבטו של שופט ספקן, כמו זו על הזופצ’וק – תיתן מלוא החופניים מידע על זהותו של בן־השיח.

ינאי: כלומר, דווקא השיחה הפשוטה מסגירה את זהות המשוחח.

פרופ' הראל: אני חושב שמילת המפתח היא פשטות, והדבר נכון לא רק לגבי ניהול שיחות, אלא גם לגבי עיבוד והבנה חזותיים: אם היינו מכניסים לאולפן טלוויזיה אדם בעל אינטליגנציה ממוצעת לגמרי, הוא היה מזהה תוך חמש שניות את המקום כאולפן טלוויזיה, זאת על סמך האנשים היושבים בו, התאורה, המצלמות וכו'. אם תכניס את המחשב הכי חזק בעולם לאולפן, ותיתן לו חודש ימים לסרוק את המקום, הוא לא יהיה מסוגל בשום פנים ואופן להגיע בכוחות עצמו למסקנה, שהוא נמצא באולפן טלוויזיה. בשבילנו זה עניין פשוט, ועל כן איננו מבינים עד כמה מסובך התהליך שעובר במוח שלנו. שוב, שלא תטעה, אני לא מזלזל ב“כחול עמוק”. להפך, אני חושב שהוא הישג ממדרגה ראשונה. אני בטוח גם, שכאשר תוכנית מחשב תוכרז באופן רשמי לאלופת עולם, זה יהיה שווה את העמוד הראשון בכל עיתון. אבל, זאת לא אינטליגנציה.

ינאי: דאג לאנט, אחד החוקרים הבולטים בתחום הבינה המלאכותית, מנסה משנת 1984 להקנות אינטליגנציה מלאכותית לרובוט, והוא עושה את זה על־ידי הזנת הרובוט במיליוני ידיעות האמורות להוות בסיס למה שקרוי שכל ישר או בלועזית – קומון־סנס. בתחילת דרכו הוא חשב שדי במיליון עובדות כאלו, כעבור עשר שנים זה גדל לעשרה מיליון, ולאחרונה – בראיון עם מרווין מינסקי, התברר שהוא זקוק ל־50 מיליון עובדות כדי להבין, למשל, שאם אישה מסוימת היא אמך, אזי היא חייבת להיות מבוגרת ממך; או כאשר אתה רוצה לדחוף חפץ אינך יכול לעשות את זה עם חוט אלא עם מקל. כמה עובדות נדרשות לדעתך כדי ליצור קומון־סנס?

פרופ' הראל: הייתי אומר ש־30 או 50 מיליון עובדות הן חלק אחד מהמגוון הרחב והגדול של מיומנויות העושות מישהו לאינטליגנטי, ולוּ ברמה ממוצעת לגמרי. ראשית, לא די בעובדות, צריך גם את הקשרים בין העובדות. זאת אומרת, אם תבלע את האנציקלופדיה בריטניקה ותדע אותה בעל־פה, זה לא יעשה אותך אינטליגנטי. אם לחזור לדוגמה של הזופצ’וק, כדי להסיק שהלוויתן הזה לא יכול להיבנות, לא מספיק שאתה יודע הרבה עובדות, אתה צריך לדעת לקשור את הדברים ביחד במבנה מאוד מתוחכם.

ינאי: בעצם, זוהי שאלה של קשרים אסוציאטיביים שנוצרים אד־הוק, תוך כדי השיחה.

פרופ' הראל: השתמשת במילה מאוד חשובה, “נוצרים”. אם לעשות סדר בדברים, הדבר הראשון הוא העובדות; הדבר השני הוא הקשרים בין העובדות – שאף אותן צריך להבין; הדבר השלישי הוא הדינמיקה של יצירת הקשרים החדשים. כלומר, טעות לראות בחומרה את הרשת של העובדות, ובתוכנה את החוכמה המוכנסת לרשת. במוח האנושי, גם החומרה עצמה משתנה באופן מהיר ודינמי, וההשתנות הזאת היא חלק מהבינה שלנו. כלומר, גם הרישות הפיזי בין הנוירונים במוח משתנה כל הזמן.

ינאי: המסקנה מדבריך היא שאנחנו יודעים כרגע על מכונה אחת בלבד שמסוגלת לייצר הבנה, חשיבה וקומון־סנס, וזוהי המכונה הביולוגית הקרויה מוח. ולפי שעה, אנחנו לא יודעים, איך להקנות יכולות אלה למכונה שאיננה ביולוגית.

פרופ' הראל: עשית מעשה לא כל־כך הוגן. הגנבת בשאלה שלך את ההבדל בין ביולוגיה לאלקטרוניקה, ועל זה לא דיברנו עדיין.

ינאי: המחשב לא היה מבחין בחוסר ההגינות הזה.

פרופ' הראל: זה שהבחנתי בכך לא נובע מכך שאני אינטליגנטי במיוחד. הנקודה היא שאני מקבל את קביעתך, שהיום אנחנו יודעים רק על מכונה אחת המסוגלת להפיק אינטליגנציה, והיא המוח שלנו. מכך אין להסיק שזה אפשרי אך ורק משום שהמוח עשוי מחומרים אורגניים.

ינאי: הופשטטר, המוכר לרבים מספרו אֶשֶׁר, גאדל, באך, אומר שלא נוכל ליצור חשיבה והבנה במחשב, באופן מתוכנן, על־ידי תכנות. אם תהיה לנו מכונה חושבת, היא תצמח מעצמה, באופן ספונטני, כפועל יוצא של מורכבות הרשת. האם אתה שותף לדעה הזאת?

פרופ' הראל: בעיקרון אני מסכים, וזה קשור עם הלמידה הדינמית של הרשת עליה דיברנו קודם. רשת הנוירונים, בין שהיא מלאכותית או טבעית, היא גוף לומד, בין השאר על־ידי זה שהחיבורים בין הנוירונים משתנים. משמעות הדבר היא שהרשת קולטת אינפורמציה חדשה, משתנה בהתאם, ובכך מתאימה את עצמה למטלות עתידיות. העובדה שהיא יכולה לעשות עם זה כל מיני דברים מתייחסת לא רק לנוירונים עצמם, אלא לאופי החיבור ביניהם.

ינאי: כבר נבנו מחשבים ניסויים על־פי מודלים של רשתות עצביות, העובדים בשיטה של חישוב מקבילי, והם הראו יכולת למידה עצמית בלתי מתוכנתת מראש, כמו למשל זיהוי צורות.

פרופ' הראל: כן, יש דברים שהרשתות האלה עושות יותר טוב ממחשבים רגילים, כיוון שהן בנויות מראש לכך. אבל את הדברים האלה אפשר בעיקרון לעשות גם עם מחשבים רגילים.

ינאי: יותר מחמישים שנה אחרי פיתוח המחשב האלקטרוני, יש לנו מחשב שמסוגל להבחין בין פרצוף של כלב לפרצוף של חתול?

פרופ' הראל: כן, בתחום הזה נרשמו הצלחות גדולות. למשל, במחלקה שלנו במכון ויצמן יש קבוצה שמתעסקת בראייה מלאכותית. “מלמדים” שם את המחשב להיות מסוגל ל“התבונן” בכמה תמונות פורטרט מזוויות שונות, ולזהות את אלה השייכות לאותו אדם. לפני כמה שנים “לימדו” את המחשב לעמוד על ההבדלים בין מכוניות דומות: פולקסוואגן חיפושית וסאאב, למשל. המבחנים האלה הם מאוד קשים, מאוד מסובכים, הרבה יותר ממה שחושבים. והנה, בתחום הזה נרשמה התקדמות מאוד גדולה, וכך גם בשטחים אחרים של הבינה המלאכותית, אבל כל זה עדיין רחוק מאוד מהבינה הנדרשת כדי לעבור את מבחן טיורינג.

ינאי: מה שמביא אותי לשאלה האחרונה, הקשורה בתחזיות בתחום המחשבים. תחזיות רבות התבדו. אחת הבולטות בהן הייתה של יו"ר חברת יבמ, שהעריך ב־1943 כי השוק העולמי יוכל לקלוט לא יותר מחמישה מחשבים. מה עושה את החיזוי בתחום זה לקשה במיוחד?

פרופ' הראל: טוב, הנבואה ניתנה כידוע לשוטים. תראה מה קרה למשל באינטרנט. אף אחד לא חזה את ההתפתחות שלה, והמעניין הוא שדווקא שם לא הייתה איזושהי פריצת דרך טכנולוגית משמעותית, איזשהו רעיון גאוני של מישהו. מה שעומד ביסוד האינטרנט הוא פשוט רשת שמחברת מיליוני מחשבים ומאפשרת להעביר ביניהם מידע באמצעות טכנולוגיות פשוטות ואחידות. זה כמעט הכול, ותראה איזה מהפכה היא חוללה.

ינאי: מתי לדעתך יפצח המחשב את האגוז של האינטליגנציה?

פרופ' הראל: יכול להיות שזה יקרה פעם, אבל זה לא יעשה באופן דרמטי. לא יהיה איזשהו רגע בזמן שהכל יאמרו, הנה בעיית האינטליגנציה המלאכותית פוצחה. מבחן טיורינג הוא המבחן היחידי שאפשר להצביע עליו כעל נקודת ציון בזמן, שאם המחשב יעמוד בו זה יהווה אולי רגע של מפנה. אני לא חושב שזה יקרה בעתיד הנראה לעין, אבל אני לא חושב שאנחנו צריכים לחתור במיוחד לנקודת המפנה הזאת.