האזהרה האחרונה של סטיבן הוקינג לאנושות: בינה מלאכותית מגיעה בשבילנו
ספרו שפורסם לאחר מותו על עתידנו מציע פחד ואופטימיות מפתיעה.
הסיפור הזה הוא חלק מקבוצת סיפורים שנקראת 
למצוא את הדרכים הטובות ביותר לעשות טוב.
לסטיבן הוקינג יש מסר אחרון לאנושות: אם הרובוטים לא יקבלו אותנו, שינויי האקלים יצליחו.
הוקינג, מי נפטר בגיל 76 של מחלה נוירולוגית ניוונית מוקדם יותר השנה, מציע את מחשבות הפרידה שלו ב פורסם לאחר מותו ספר שנקרא תשובות קצרות לשאלות הגדולות , שיוצא ביום שלישי. זה מסר שכדאי להקשיב לו מאדם שהוא כנראה המדען הנודע ביותר מאז איינשטיין, הידוע בעיקר בזכות גילויו של כיצד פועלים חורים שחורים . ספרו של הוקינג היסטוריה קצרה של זמן נמכר יותר מ-10 מיליון עותקים והתמודדו עם שאלות גדולות כמו איך התחיל היקום? ומה יקרה כשזה יסתיים? בשפה פשוטה מספיק עבור הקורא הממוצע.
בקטע שפורסם ב הטיימס של לונדון במהלך סוף השבוע, הוא מצחיק ואופטימי, אפילו כשהוא מזהיר אותנו שבינה מלאכותית עלולה להערים עלינו, שהעשירים צפויים להתפתח ל- מינים על-אנושיים, וכי כוכב הלכת דוהר לקראת מגורים מוחלטים.
ספרו של הוקינג הוא בסופו של דבר פסק דין על עתידה של האנושות. בהסמקה ראשונה, פסק הדין הוא שנגזר עלינו. אבל חפרו עמוק יותר ויש כאן גם משהו אחר, אמונה שהחוכמה והחדשנות האנושית יסכלו את ההרס שלנו, גם כשנראה שאנחנו מתכננים להביא זאת לפועל.
אולי הרובוטים באים לקראתנו
האזהרה הגדולה ביותר של הוקינג היא על עלייתו של בינה מלאכותית: או שזה יהיה הדבר הכי טוב שקרה לנו אי פעם, או שזה יהיה הדבר הגרוע ביותר. אם לא נזהר, בהחלט יכול להיות שזה הדבר האחרון.
בינה מלאכותית טומנת בחובה הזדמנות מצוינת עבור האנושות, וכוללת הכל, החל מהאלגוריתמים של גוגל ועד למכוניות בנהיגה עצמית ועד לתוכנת זיהוי פנים. אולם הבינה המלאכותית שיש לנו היום עדיין קיימת שלבים פרימיטיביים. מומחים מודאגים מה יקרה כשהאינטליגנציה הזו תעלה עלינו. או, כפי שמגדיר זאת הוקינג, בעוד שההשפעה קצרת הטווח של הבינה המלאכותית תלויה במי ששולט בה, ההשפעה ארוכת הטווח תלויה אם ניתן לשלוט בה בכלל.
זה אולי נשמע כמו חומר של מדע בדיוני, אבל הוקינג אומר שלפטר את זה ככזה תהיה טעות, ואולי הטעות הגרועה ביותר שלנו אי פעם.
בהשוואה לרובוטים, אנו בני האדם די מגושם. מוגבל על ידי הקצב האיטי של האבולוציה, לוקח לנו דורות לחזור על זה. רובוטים, לעומת זאת, יכולים לשפר את העיצוב שלהם הרבה יותר מהר, ובקרוב, הם כנראה יוכלו לעשות זאת ללא עזרתנו. הוקינג אומר שזה ייצור פיצוץ מודיעיני שבו מכונות עלולות לחרוג מהאינטליגנציה שלנו יותר ממה שהאינטליגנציה שלנו עולה על זו של חלזונות.
הרבה אנשים חושבים שהאיום של בינה מלאכותית מתמקד בכך שהיא הופכת מרושע ולא מיטיב. הוקינג מבטל אותנו מהחשש הזה, ואומר שהסיכון האמיתי ב-AI אינו זדון, אלא יכולת. בעיקרון, בינה מלאכותית תהיה טובה מאוד בהשגת מטרותיה; אם בני אדם יפריעו לנו, אנחנו עלולים להיות בצרות.
אתה כנראה לא שונא נמלים מרושע שדורך על נמלים מתוך רוע, אבל אם אתה אחראי על פרויקט הידרואלקטרי של אנרגיה ירוקה ויש אזור נמלים להציף, חבל על הנמלים. בואו לא נציב את האנושות בעמדה של אותן נמלים, כותב הוקינג.
למי שעדיין לא השתכנע, הוא מציע מטאפורה אחרת. למה אנחנו כל כך מודאגים לגבי AI? בטוח שבני אדם תמיד מסוגלים למשוך את התקע? שואל אותו אדם היפותטי.
הוקינג עונה: אנשים שאלו מחשב, 'האם יש אלוהים?' והמחשב אמר, 'יש עכשיו', והתיך את התקע.
סוף החיים עלי אדמות?
אם זה לא הרובוטים, זה כמעט בלתי נמנע שעימות גרעיני או אסון סביבתי ישתק את כדור הארץ בשלב מסוים ב-1,000 השנים הבאות, כותב הוקינג.
האזהרה שלו מגיעה בעקבות המדאיגה של השבוע שעבר פאנל בין-ממשלתי לשינויי אקלים (IPCC) דוח מזהיר כי אנחנו רק יש 12 שנים לעשות שינויים מסיביים מספיק כדי לשמור על התחממות כדור הארץ לרמות מתונות. ללא שינויים כאלה, בצורת ממושכת, סופות טרופיות תכופות יותר ועליית מפלס הים יהיו רק ההתחלה.
שינויי אקלים נמלטים הם האיום הגדול ביותר על כוכב הלכת שלנו, הוא אומר, ואנחנו פועלים באדישות פזיזה לעתיד שלנו על כדור הארץ.
למעשה, אולי אין לנו עתיד בכלל, הוא אומר, ומזהיר אותנו לא לשים את כל הביצים שלנו בסל אחד. וכן, הסל הזה הוא כדור הארץ. גם אם בני האדם ימצאו דרך לברוח, מיליוני המינים המאכלסים את כדור הארץ יהיו נידונים, הוא אומר. וזה יהיה על מצפוננו כגזע.
אזהרה נוספת לא פחות מאיימת. אנו נכנסים לשלב חדש של אבולוציה בתכנון עצמי. שלב זה אומר שבקרוב נוכל לסלק את שרשראות האבולוציה המסורתית ולהתחיל לשנות ולשפר את ה-DNA שלנו עכשיו - לא בעוד מאות אלפי שנים.
כמו בינה מלאכותית, היכולת לערוך את ה-DNA שלנו מכילה את הפוטנציאל לתקן את הבעיות הגדולות ביותר של האנושות. ראשית, וכנראה לא בעתיד הרחוק, נוכל לתקן פגמים גנטיים, לערוך גנים לדברים כמו ניוון שרירים וטרשת צדדית אמיוטרופית, או ALS, המחלה שהוא אובחן עם ב-1963. הוקינג אומר שבתוך זה המאה, נוכל לערוך אינטליגנציה, זיכרון ואורך חיים. ואז הדברים עלולים להסתבך באמת.
הוקינג קורא לאנשים שיעשו זאת על-אנושיים, וסביר להניח שהם יהיו האליטות העשירות בעולם. בני אדם זקנים רגילים לא יוכלו להתחרות, וכנראה ימותו, או יהפכו לחסרי חשיבות. במקביל, סביר להניח שבני-אדם יתיישבו כוכבי לכת וכוכבים אחרים.
אם כל זה נשמע די מדכא, זה כן. אבל אפילו כשהוקינג מגיש פרוגנוזה אפוקליפטית לכדור הארץ ולכל מי שנמצא בו, המותג שלו של האופטימיות מגיעה דרך. יש לו אמונה שהגזע הגאוני שלנו ימצא דרך להחליק את קשרי כדור הארץ ולכן ישרוד את האסון.
הוא אפילו מאמין שבמקום להיות מפחיד, האפשרויות האלה מרגשות ושזה מגדיל מאוד את הסיכוי להוות השראה לאיינשטיין החדש. איפה שהיא תהיה.
למצוא דרך לצאת מכוכב הלכת כדור הארץ, ואולי אפילו ממערכת השמש, היא הזדמנות לעשות את מה שעשו נחיתות הירח: לרומם את האנושות, להפגיש בין אנשים ואומות, להכניס תגליות חדשות וטכנולוגיות חדשות.
הירשם לניוזלטר Future Perfect. פעמיים בשבוע תקבלו סיכום של רעיונות ופתרונות להתמודדות עם האתגרים הגדולים ביותר שלנו: שיפור בריאות הציבור, הפחתת סבל של בני אדם ובעלי חיים, הפחתת סיכונים קטסטרופליים, ובעצם - להשתפר בעשיית טוב.
