שלום לכולם
הפעם ניכנס ישירות לדבר האקטואלי הבא. כפי שראינו בפרק הקודם "סיבוכיות הרשת" היא איום של ממש על יציבות העולם, מכל הבחינות, הן תחזוקתה ושבריריותה (וכפי שאבי היקר הביא דוגמא פנטסטית, ממש מהשבועות האחרונים) והן מבחינת בעיות האבטחה ההולכות ונעשות קריטיות וסבוכות יותר ויותר. הבעיה המרכזית כפי שזה נראה היא בעיית התלויות הגבוהה, אילו המערכות היו בדידות, הן לא היו פגיעות כל כך. עתיד האינטרנט, כבר אמרנו, הוא לא ימשיך בתצורתו הנוכחית נקודה (כך קיבלתי במסורת).
הפעם נעבור לדבר על התקוות שהאנושות תולה בבינה המלאכותית, שפתחה פתח למאות ענפים שהיו עד כה רחוקים מהמחשב. ובכן אם רשת האינטרנט היא בבחינת קורי עכביש אימתניים שנפרשו על האנושות כולה, הרי שהבינה המלאכותית היא ביצה טובענית ודביקה שאין ממנה שום אמצעי מילוט (אם אכן חלילה יתממשו החזונות של החברות העוסקות בתחום). בכדי להסביר זאת, אכתוב הקדמה קטנה.
תפקוד החברה האנושית כחברה מחייב יסוד אחד בסיסי שבלעדיו אין לה כל קיום: אמון. האמון, כפי שנראה מתקיים בצורה רשתית (כלומר רשת של אמון שבו הקצוות מאמינים זה לזה דרך אמון במישהו אמצעי וחוזר חלילה). ניקח דוגמא פשוטה, יש לנו רופא משפחה, נניח שאנו מכירים אותו אישית משכבר הימים. כשהוא ימליץ לנו על טיפול, לא נחשוד בו שהוא מתכוון לרעתנו. לצורך הטיפול הוא יפנה אותנו לפלוני אלמוני שהוא מספר אחד בתחום, רופא המשפחה סומך על מקצועיותו של אותו אחד, ואנו נלך אחרי ההמלצה הזו, למרות שמעולם לא הכרנו את אותו רופא צד ג'.
יוצא שבעצם האנושות כולה יצרה רשת אדירת מימדים של אמון, שמגיע עד למוסדות הממשל ואף ליחסים בינלאומיים. כל דבר שאנו עושים אם אין לנו בו ידע מספיק, מבוסס על אמון בגורמים שניים ושלישיים, בין אם נרצה ובין אם לאו, אחרת אדם אמור להתחבא במערה ולהמתין למוות ברעב. זאת הסיבה שהשחיתות היא דבר שכל כך מפחיד את הבריות, לא בגלל השקל וחצי שאותו מושחת "החסיר" מהכלכלה, אלא בגלל הפגיעה במנגנון האמון, שהוא כל כך הכרחי לקיום המערכת.
לא נאריך בנושא מרתק זה, על אף שהוא שווה התייחסות ארוכה בפני עצמה. מה שבעיקר נוגע אלינו, הוא שאתה יכול להאמין למישהו, אך ורק מתוך ההנחה שאתה והוא חושבים באופן דומה, הן מבחינת מערכות האינטרסים, והן מבחינת תפיסת המציאות. כשאתה עולה על מטוס, אתה מניח שכל השותפים בתכנונו ובהרכבתו, איש איש בחלקו בדק ויודע איך אותו חלק עובד. ברגע שישנו בן אנוש אחד שיודע איך החלק צריך להיות ואתה סומך עליו, זה מספיק לך. הופה, הגענו לנקודה. נחזור עליה ברגע שישנו בן אנוש אחד שיודע איך החלק צריך להיות ואתה סומך עליו, זה מספיק לך, זאת הסיבה היחידה שאנשים שמים את חייהם יום יום על הכף של ההנדסה הכבדה, עולים על אוטובוסים, שפועלים על מנוע בעירה, ונוסעים על גשרים, שבנויים על יסודות בטון שנבדק על ידי... כימאי אלמוני שאיש לא יודע את שמו מלבד החברה המעסיקה אותו.
אוקיי, נעזוב לרגע את הנושא הזה, ונעבור לתחום הבינה המלאכותית, ישנם כמה סוגים של בינה מלאכותית, האתגר המשותף לכולם, עשיית פעולות שאינן מתמטיות אלא סטטיסטיות, והתמודדות עם כמות נתונים ומשתנים שאין אפשרות לחשב בתוכנה מסורתית. הסוג הפופולרי והנפוץ לבינה מלאכותית, נקרא "רשת נוירונים" או "למידה עמוקה" הסבר נרחב כאן. הבעיה הגדולה ביותר עם בינה מלאכותית, היא שאין מישהו שיודע איך היא צריכה לעבוד, כלומר, לא מדובר במכונה גדולה ומורכבת, שלפחות לכל חלק יש מהנדס שמכיר אותו על בוריו. מדובר על מכונה שאין אף מהנדס שיודע איך היא אמורה לעבוד, פשוט מאמנים אותה עד שרואים שזה "מצליח". ועכשיו שאלה פשוטה, האם הייתם עולים על מטוס שלא בנו אותו מהנדסים, אלא ילדים בכיתה ג', אבל, הטיסו אותו מיליוני פעמים ושינו את המבנה שלו, עד שהוא הצליח לטוס בלי ליפול.
בדיוק זהו העניין, אין בן אדם שיודע למה המערכת קיבלה החלטה כזאת ולא אחרת. זה לא משהו שניתן "לדבג" אותו, גורם ההפתעה בו הוא דומיננטי מאוד, אנו מחליפים את האמון בבני אדם שכל אחד ואחד מהם אחראי על המשבצת שלו הפרטית, באמון במשהו שאיננו אנושי כלל (והוא גם לא בקטיגוריה של חוקי הטבע שההכרה האנושית תופסת אותה) ההנחה שהמחשב חושב כמוני, היא לא נכונה, לא שמעתי איש שטוען כך. אז אם איננו יודעים אם המחשב חושב כמונו, איך נוכל לתת בו אמון? מערכת השיקולים שלו נסתרת לחלוטין, ולכן הכרח הוא שכל החלטה של המחשב, תעבור בדיקה אנושית גם כן, מה שמוביל אותנו כעת לשאלת השאלות, האם מכונית אוטונומית דרגה 5 (הדרגה הגבוהה ביותר, ללא כל התערבות אנושית) תהיה או לא תהיה??? תשובה, [size=200:k5rxiqax]לא!!![/size:k5rxiqax] אני חוזר שוב, [size=150:k5rxiqax]מכונית אוטונומית דרגה 5 לא תהיה[/size:k5rxiqax]. יהיו כלי עזר שונים ומשונים, שיעזרו לנהג אבל לא יחליפו אותו לחלוטין. אז לכל הנהגים שפחדו לאבד את משכורתם, כרגע לא נשקפת סכנה.
מה כן אפשרי? מכוניות שלא פועלות על בינה מלאכותית, אלא על מחשוב ותיכנות מסורתי, והן מחוברות לרשת, ונוסעות בכביש מיוחד למכוניות ללא נהג, זה אפשרי. אבל רגע... זה דורש פריסת תשתיות עצומת מימדים, מי הולך לשלם על זה בדיוק???? אלון מאסק??? אולי.
פורסם במקור בפורום CODE613 ב02/09/2017 21:38 (+03:00)