למה צריך עדיין מתכנתים

[צדיק תמים]

@י.פל. אני לא מדבר על המצב הנוכחי. אני מדבר על המצב שניתן להגיע אליו. טסלה לא חייבת להסכים, בשביל זה יש רגולטור

[לא-מתייאש]

@צדיק-תמים אז למה אין לשיטתך היום מכונות שנוהגות לבד?

[צדיק תמים]

@לא-מתייאש לא יודע מתי בדקת, בהחלט יש

[לא-מתייאש]

@צדיק-תמים כתב בלמה צריך עדיין מתכנתים:

@לא-מתייאש לא יודע מתי בדקת, בהחלט יש

זה קיים רק בכמה מדינות בארצות הברית, בכלל העולם זה אסור

[צדיק תמים]

@לא-מתייאש כן אירופה כבר הרגה את עצמה מזמן עם כל הרגולציה

[לא-מתייאש]

אני מחכה שזה יגיע לכאן, אוליי בעוד 20 שנה.

[Mordechay]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

@צדיק-תמים אז למה אין לשיטתך היום מכונות שנוהגות לבד?

למה לא קיים מודל שפה שמצליח לא לעשות טעויות ושיהיה לו שיקול דעת ו agi וכו'? בקיצור, מאוד הגיוני שפשוט לא הגיעו לרמה מספקת כדי שזה יפעל במצבי קיצון (וכמובן צריך להיות מאובטח שלא יקרה התסריטים הידועים...)

[צדיק תמים]

@Mordechay אתה עושה דיון תיאורטי? בארצות הברית וסין יש מוניות אוטונומיות, waymo לבד עשתה עשרות מליוני נסיעות
Waymo מתכוננים להתרחב ליותר מ 10 מדינות עד סוף השנה
ויש גם את טסלה, Zoox של אמזון, May Mobility, ובסין את Baidu ועוד כמה חברות

[dovid]

@לא-מתייאש בלי קשר למהות ונכונות הסיבות שציינת (ואני לא מסכים איתם, אבל יש עוד מאה סיבות כן נכונות, בעיקר מה שאני הולך לכתוב),
אני חושב שהסיבות הללו לא יעלו ולא יורידו, הAI הוא מטאפורית פטריה פולשת, שמהירות הצמיחה שלה לא תלויה בנו כלל, לטוב ולרע, שתפגע בטווח הקרוב באופן קשה או פטאלי את הביקוש וההיצע של התמחות אנושית מכל סוג.
כלומר גם אם המון אנשים ירצו גורם אנושי שייקח אחריות כפי שאמרת, לא תהיה ברירה לקחת אחראי אנושי, כי לא יהיה כזה מושג מהר מאוד. אולי אפשר לקרוא למי מוכן לקחת עליו אחריות של פיתוח סוג של חברת ביטוח לAI... בפועל הAI יעבוד, ומהר מאוד רק הוא, בלי שתהיה דריסת רגל אנושית.

למה אני אומר שלמשאבי המח האנושי אפילו הטובים ביותר, לא יהיה הרבה שימוש ודרישה בטווח הקרוב:
א. אין מחליט: בשונה מעולם הרכב בו לרגולטורים יש כח (יותר מידי), בנושא הזה אף אחד לא מחכה או שואל מישהו, לממשלה או לכל רגולטור מכל סוג אין אפילו יכולת תיאורטית לאכוף משהו.
ב. אימוץ מהיר על ידי כולם בכל תחום: כמו בעולם האבטחה, 85% מהאנשים לא חוששים מכלום/לא מבינים בכלום, וצריך מבוגר אחראי שיעזור להחליט עבורם (רגולוציות ממשלתיות ומסחריות - כמו הדפדפנים למשל), אין פה כל כך מקום למבוגר האחראי (תקינה וכל דרך אחרת), זה הגיע מידי מהר ומידי לא ידוע עוד.
ג. כדור שלג: הסיבות הקודמות יוצרים כדור שלג. ואז זה מגיע לכולם על כרחם. זה כדור שלג שדומה למהפכות הגדולות שהיו, ששום ממלכה/אוטונומיה/אידאולוגיה לא עמדו בפניהם.

אני חושב שההיצע של ההתמחות האנושית נפגע כבר מאוד, ביחס גדול יותר ומסוכן יותר מהירידה בביקוש.
ייתכן שחוסר הסנכרון הזה עצמו יאט מאוד מאוד את התבונה של הAI ויגרום מהר לחרטות על בואו - לא באמת שייך חרטות על משהו שאף אחד לא יכל למנוע.

[י.פל.]

@dovid
רק להבין: אתה לא משתמש בפטרייה הפולשת הזו?

[dovid]

@י.פל. איך זה נוגע למה שכתבתי? ואם כבר אענה, אני משתמש כבד.

[nigun]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

חברות הביטוח לא רוצות, יפסידו כסף אם יש פחות תנועות

יש דווקא חברות ביטוח שמזהים את הפער ומציעים ביטוח לטסלה בנהיגה עצמית במחיר מופחת
https://www.lemonade.com/fsd

[nigun]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

אני מחכה שזה יגיע לכאן, אוליי בעוד 20 שנה.

דווקא משרד התחבורה מחפש להוציא כותרות שבחנים אישור של נהיגה עצמאית של טסלה בישראל
זה עדיין לא השלב של מונית בלי נהג אבל גם זה לכאורה לא במרחק 20 שנה
https://www.geektime.co.il/report-claims-tesla-fsd-testing-is-approved-in-israel