למה צריך עדיין מתכנתים

[Mordechay]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

@צדיק-תמים אז למה אין לשיטתך היום מכונות שנוהגות לבד?

למה לא קיים מודל שפה שמצליח לא לעשות טעויות ושיהיה לו שיקול דעת ו agi וכו'? בקיצור, מאוד הגיוני שפשוט לא הגיעו לרמה מספקת כדי שזה יפעל במצבי קיצון (וכמובן צריך להיות מאובטח שלא יקרה התסריטים הידועים...)

[צדיק תמים]

@Mordechay אתה עושה דיון תיאורטי? בארצות הברית וסין יש מוניות אוטונומיות, waymo לבד עשתה עשרות מליוני נסיעות
Waymo מתכוננים להתרחב ליותר מ 10 מדינות עד סוף השנה
ויש גם את טסלה, Zoox של אמזון, May Mobility, ובסין את Baidu ועוד כמה חברות

[dovid]

@לא-מתייאש בלי קשר למהות ונכונות הסיבות שציינת (ואני לא מסכים איתם, אבל יש עוד מאה סיבות כן נכונות, בעיקר מה שאני הולך לכתוב),
אני חושב שהסיבות הללו לא יעלו ולא יורידו, הAI הוא מטאפורית פטריה פולשת, שמהירות הצמיחה שלה לא תלויה בנו כלל, לטוב ולרע, שתפגע בטווח הקרוב באופן קשה או פטאלי את הביקוש וההיצע של התמחות אנושית מכל סוג.
כלומר גם אם המון אנשים ירצו גורם אנושי שייקח אחריות כפי שאמרת, לא תהיה ברירה לקחת אחראי אנושי, כי לא יהיה כזה מושג מהר מאוד. אולי אפשר לקרוא למי מוכן לקחת עליו אחריות של פיתוח סוג של חברת ביטוח לAI... בפועל הAI יעבוד, ומהר מאוד רק הוא, בלי שתהיה דריסת רגל אנושית.

למה אני אומר שלמשאבי המח האנושי אפילו הטובים ביותר, לא יהיה הרבה שימוש ודרישה בטווח הקרוב:
א. אין מחליט: בשונה מעולם הרכב בו לרגולטורים יש כח (יותר מידי), בנושא הזה אף אחד לא מחכה או שואל מישהו, לממשלה או לכל רגולטור מכל סוג אין אפילו יכולת תיאורטית לאכוף משהו.
ב. אימוץ מהיר על ידי כולם בכל תחום: כמו בעולם האבטחה, 85% מהאנשים לא חוששים מכלום/לא מבינים בכלום, וצריך מבוגר אחראי שיעזור להחליט עבורם (רגולוציות ממשלתיות ומסחריות - כמו הדפדפנים למשל), אין פה כל כך מקום למבוגר האחראי (תקינה וכל דרך אחרת), זה הגיע מידי מהר ומידי לא ידוע עוד.
ג. כדור שלג: הסיבות הקודמות יוצרים כדור שלג. ואז זה מגיע לכולם על כרחם. זה כדור שלג שדומה למהפכות הגדולות שהיו, ששום ממלכה/אוטונומיה/אידאולוגיה לא עמדו בפניהם.

אני חושב שההיצע של ההתמחות האנושית נפגע כבר מאוד, ביחס גדול יותר ומסוכן יותר מהירידה בביקוש.
ייתכן שחוסר הסנכרון הזה עצמו יאט מאוד מאוד את התבונה של הAI ויגרום מהר לחרטות על בואו - לא באמת שייך חרטות על משהו שאף אחד לא יכל למנוע.

[י.פל.]

@dovid
רק להבין: אתה לא משתמש בפטרייה הפולשת הזו?

[dovid]

@י.פל. איך זה נוגע למה שכתבתי? ואם כבר אענה, אני משתמש כבד.

[nigun]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

חברות הביטוח לא רוצות, יפסידו כסף אם יש פחות תנועות

יש דווקא חברות ביטוח שמזהים את הפער ומציעים ביטוח לטסלה בנהיגה עצמית במחיר מופחת
https://www.lemonade.com/fsd

[nigun]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

אני מחכה שזה יגיע לכאן, אוליי בעוד 20 שנה.

דווקא משרד התחבורה מחפש להוציא כותרות שבחנים אישור של נהיגה עצמאית של טסלה בישראל
זה עדיין לא השלב של מונית בלי נהג אבל גם זה לכאורה לא במרחק 20 שנה
https://www.geektime.co.il/report-claims-tesla-fsd-testing-is-approved-in-israel

[קרני פרה]

@צדיק-תמים אז הוא גם לא נוסע...
ודאי שלאנשים יש יכולת ביצוע טובה יותר אנשים לא יוותרו על יכולת מהירות וכו'

[צדיק תמים]

@קרני-פרה לא ברור לי על מה הגבת
אבל מה שייך פה דיון תיאורטי כשכבר יש עובדות בשטח
שמראות שכבר היום סטטיסטית זה טוב ובטוח בהרבה
תסתכל קצת בסרטונים מטסלה FSD או Waymo
ועל נתונים סטטיסטיים מעשרות מליוני הנסיעות שבוצעו (ב Waymo זה נתונים של חברה חיצונית!)

[קרני פרה]

@צדיק-תמים מהירות נסיעה... אין כלי שנוסע במהירות נסיעה אנושית ממוצעת עם תגובות מהירות בהתאם...
אפי' על מגבלות של נסיעה כחוק אנשים לא מוכנים לשמור...
מהירות זה נתון אחד מלבד נתונים כמו למצא חניה חוקית או פשוט למצא חניה של אמפריעה לאף אחד...

[צדיק תמים]

https://www.geektime.co.il/tesla-fsd-has-a-new-mad-max-mode
הכל עניין של הגדרות