@לא-מתייאש בלי קשר למהות ונכונות הסיבות שציינת (ואני לא מסכים איתם, אבל יש עוד מאה סיבות כן נכונות, בעיקר מה שאני הולך לכתוב),
אני חושב שהסיבות הללו לא יעלו ולא יורידו, הAI הוא מטאפורית פטריה פולשת, שמהירות הצמיחה שלה לא תלויה בנו כלל, לטוב ולרע, שתפגע בטווח הקרוב באופן קשה או פטאלי את הביקוש וההיצע של התמחות אנושית מכל סוג.
כלומר גם אם המון אנשים ירצו גורם אנושי שייקח אחריות כפי שאמרת, לא תהיה ברירה לקחת אחראי אנושי, כי לא יהיה כזה מושג מהר מאוד. אולי אפשר לקרוא למי מוכן לקחת עליו אחריות של פיתוח סוג של חברת ביטוח לAI... בפועל הAI יעבוד, ומהר מאוד רק הוא, בלי שתהיה דריסת רגל אנושית.
למה אני אומר שלמשאבי המח האנושי אפילו הטובים ביותר, לא יהיה הרבה שימוש ודרישה בטווח הקרוב:
א. אין מחליט: בשונה מעולם הרכב בו לרגולטורים יש כח (יותר מידי), בנושא הזה אף אחד לא מחכה או שואל מישהו, לממשלה או לכל רגולטור מכל סוג אין אפילו יכולת תיאורטית לאכוף משהו.
ב. אימוץ מהיר על ידי כולם בכל תחום: כמו בעולם האבטחה, 85% מהאנשים לא חוששים מכלום/לא מבינים בכלום, וצריך מבוגר אחראי שיעזור להחליט עבורם (רגולוציות ממשלתיות ומסחריות - כמו הדפדפנים למשל), אין פה כל כך מקום למבוגר האחראי (תקינה וכל דרך אחרת), זה הגיע מידי מהר ומידי לא ידוע עוד.
ג. כדור שלג: הסיבות הקודמות יוצרים כדור שלג. ואז זה מגיע לכולם על כרחם. זה כדור שלג שדומה למהפכות הגדולות שהיו, ששום ממלכה/אוטונומיה/אידאולוגיה לא עמדו בפניהם.
אני חושב שההיצע של ההתמחות האנושית נפגע כבר מאוד, ביחס גדול יותר ומסוכן יותר מהירידה בביקוש.
ייתכן שחוסר הסנכרון הזה עצמו יאט מאוד מאוד את התבונה של הAI ויגרום מהר לחרטות על בואו - לא באמת שייך חרטות על משהו שאף אחד לא יכל למנוע.