למה צריך עדיין מתכנתים

[לא-מתייאש]

האנושות בנוייה בצורה שצריך מישהו שיהיה חייב במקרה של בעייה, אני גם בטוח ב-1000% שAI נוהגת פי 10 יותר טוב מרוב רובם של האנשים, הבעייה היא במקרה של תנועה מי חייב ? וודאי לא הAI, מי ישלם ? וודאי לא TESLA, אז מי ?
אז הAI אוליי יודעת יותר טוב את החוקים אבל צריך מישהו שיוכלו ליפול עליו.
זה אותו דבר בחברה, אם הרסת את הPROD, יוכלו ליפול עליך , יתבעו אותך אוליי גם ותשלם ולכן אתה ניזהר, לAI זה לא אכפת, ראינו הרבה שAI מחקו שנים של עבודה כי זה היה נראה להם בסדר ומה היא תגיד ? אופס, סליחה.
בקיצור, AI יחליף את התחומים שאין אחריות, אבל חוץ מזה, כרגע חייב בן אדם שגם אם הוא עושה הכל דרך הAI, לפחות יוכלו לתבוע אותו

[צדיק תמים]

@לא-מתייאש כתב במה עונים ללקוחות ששואלים האם אפשר לבנות את מה שאני בונה בAI?:

האנושות בנוייה בצורה שצריך מישהו שיהיה חייב במקרה של בעייה, אני גם בטוח ב-1000% שAI נוהגת פי 10 יותר טוב מרוב רובם של האנשים, הבעייה היא במקרה של תנועה מי חייב ? וודאי לא הAI, מי ישלם ? וודאי לא TESLA, אז מי ?
אז הAI אוליי יודעת יותר טוב את החוקים אבל צריך מישהו שיוכלו ליפול עליו.

אז עדיף שימותו כל שנה מליון איש העיקר שיהיה את מי להאשים?
כבר כיום יש לרכב אוטונומי 92% פחות תאונות קטלניות (הנתון הנ"ל על waymo אבל טסלה גם הרבה יותר בטוח)

[לא-מתייאש]

@צדיק-תמים כתב במה עונים ללקוחות ששואלים האם אפשר לבנות את מה שאני בונה בAI?:

אז עדיף שימותו כל שנה מליון איש העיקר שיהיה את מי להאשים?

כל עוד שאתה לא עונה לשאלה ״מי ישלם״ אז בשביל העולם, עדיף שימותו אפילו פי 1000 מזה.

[י.פל.]

@צדיק-תמים
יתירה מכך: אם אין את מי להאשים, השולט בקוד יוכל לרצוח כרצונו: טלאי אחד קטן... הרי אתה לא יכול לראות את הקוד...

[צדיק תמים]

@לא-מתייאש מה הכוונה מי ישלם? גם טסלה יכולה לעשות ביטוח, או לשלם בעצמה, מה הבעיה?
יש מצלמות מכל הכיוונים, בודקים מי עבר על חוקי התנועה והוא ישלם

[לא-מתייאש]

@צדיק-תמים כתב במה עונים ללקוחות ששואלים האם אפשר לבנות את מה שאני בונה בAI?:

@לא-מתייאש מה הכוונה מי ישלם? גם טסלה יכולה לעשות ביטוח, או לשלם בעצמה, מה הבעיה?

ואתה חושב שטסלה מוכנים לשלם במקרה של תנועה ? אף שזה נגרם בגללם, זה כמו לומר שanthropic ישלם אם קלוד הרס לך את הprod, ואת בעל הרכב גם כן וודאי לא ירצה לשלם.
בקיצור רק בגלל זה היום אין אוטו שנוהגת לבד, ומיליונים אנשים מתים

[צדיק תמים]

@לא-מתייאש אז לא טסלה ישלמו, בעל הרכב יצטרך לעשות ביטוח. הביטוח גם יעלה לו עשירית בגלל שכל המחיר של ביטוח זה סטטיסטיקה. זה בעיות טכניות שוליות

המטרה של מערכת חוקי התנועה כולל עונש המאסר הוא לשמור על שלום הציבור. לחפש מישהו שישב בכלא זה להתמקד בצורה ולא במטרה

[י.פל.]

זו לא שאלה של "ישלם", חשבתי שזו הייתה טעות סופר של לא מתייאש...
זו שאלה של אחריות, מאסר לצורך העניין.

[לא-מתייאש]

@צדיק-תמים כתב בלמה צריך עדיין מתכנתים:

לחפש מישהו שישב בכלא זה להתמקד בצורה ולא במטרה

מסכים איתך 1000% אבל ככה העולם העובד, אחד שעייף או לא יושן טוב, הרופא לא יתחיל לחקור למה הוא לא יושן טוב, אוליי הוא לא אוכל כמו שצריך, לא פועל מספיק, פשוט הוא יתן לו כדור לישון אז זה יתפוצץ במקום אחר.

חברות הביטוח לא רוצות, יפסידו כסף אם יש פחות תנועות

[צדיק תמים]

@י.פל. למה צריך מאסר? מה המטרה של מאסר? למנוע פגיעה עתידית?
אז תעשה קנס על היצרן. וכן @לא-מתייאש טסלה יסכימו לאחריות מסוימת כדי לקבל אישורים רגולטוריים בדיוק כמו שלהרבה עסקים יש הוצאות גדולות על רגולציה

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

חברות הביטוח לא רוצות, יפסידו כסף אם יש פחות תנועות

להיפך, הם יכולים לא לגלגל את כל הייעול ללקוח ולהרוויח הרבה יותר

[י.פל.]

@צדיק-תמים כתב בלמה צריך עדיין מתכנתים:

למה צריך מאסר? מה המטרה של מאסר? למנוע פגיעה עתידית?
אז תעשה קנס על היצרן.

ואתה חושב שטסלה תסכים???
מישהו שילם על הילד שנדרס לפני שלש שבועות בארה"ב?

[צדיק תמים]

@י.פל. אני לא מדבר על המצב הנוכחי. אני מדבר על המצב שניתן להגיע אליו. טסלה לא חייבת להסכים, בשביל זה יש רגולטור

[לא-מתייאש]

@צדיק-תמים אז למה אין לשיטתך היום מכונות שנוהגות לבד?

[צדיק תמים]

@לא-מתייאש לא יודע מתי בדקת, בהחלט יש

[לא-מתייאש]

@צדיק-תמים כתב בלמה צריך עדיין מתכנתים:

@לא-מתייאש לא יודע מתי בדקת, בהחלט יש

זה קיים רק בכמה מדינות בארצות הברית, בכלל העולם זה אסור

[צדיק תמים]

@לא-מתייאש כן אירופה כבר הרגה את עצמה מזמן עם כל הרגולציה

[לא-מתייאש]

אני מחכה שזה יגיע לכאן, אוליי בעוד 20 שנה.

[Mordechay]

@לא-מתייאש כתב בלמה צריך עדיין מתכנתים:

@צדיק-תמים אז למה אין לשיטתך היום מכונות שנוהגות לבד?

למה לא קיים מודל שפה שמצליח לא לעשות טעויות ושיהיה לו שיקול דעת ו agi וכו'? בקיצור, מאוד הגיוני שפשוט לא הגיעו לרמה מספקת כדי שזה יפעל במצבי קיצון (וכמובן צריך להיות מאובטח שלא יקרה התסריטים הידועים...)

[צדיק תמים]

@Mordechay אתה עושה דיון תיאורטי? בארצות הברית וסין יש מוניות אוטונומיות, waymo לבד עשתה עשרות מליוני נסיעות
Waymo מתכוננים להתרחב ליותר מ 10 מדינות עד סוף השנה
ויש גם את טסלה, Zoox של אמזון, May Mobility, ובסין את Baidu ועוד כמה חברות

[dovid]

@לא-מתייאש בלי קשר למהות ונכונות הסיבות שציינת (ואני לא מסכים איתם, אבל יש עוד מאה סיבות כן נכונות, בעיקר מה שאני הולך לכתוב),
אני חושב שהסיבות הללו לא יעלו ולא יורידו, הAI הוא מטאפורית פטריה פולשת, שמהירות הצמיחה שלה לא תלויה בנו כלל, לטוב ולרע, שתפגע בטווח הקרוב באופן קשה או פטאלי את הביקוש וההיצע של התמחות אנושית מכל סוג.
כלומר גם אם המון אנשים ירצו גורם אנושי שייקח אחריות כפי שאמרת, לא תהיה ברירה לקחת אחראי אנושי, כי לא יהיה כזה מושג מהר מאוד. אולי אפשר לקרוא למי מוכן לקחת עליו אחריות של פיתוח סוג של חברת ביטוח לAI... בפועל הAI יעבוד, ומהר מאוד רק הוא, בלי שתהיה דריסת רגל אנושית.

למה אני אומר שלמשאבי המח האנושי אפילו הטובים ביותר, לא יהיה הרבה שימוש ודרישה בטווח הקרוב:
א. אין מחליט: בשונה מעולם הרכב בו לרגולטורים יש כח (יותר מידי), בנושא הזה אף אחד לא מחכה או שואל מישהו, לממשלה או לכל רגולטור מכל סוג אין אפילו יכולת תיאורטית לאכוף משהו.
ב. אימוץ מהיר על ידי כולם בכל תחום: כמו בעולם האבטחה, 85% מהאנשים לא חוששים מכלום/לא מבינים בכלום, וצריך מבוגר אחראי שיעזור להחליט עבורם (רגולוציות ממשלתיות ומסחריות - כמו הדפדפנים למשל), אין פה כל כך מקום למבוגר האחראי (תקינה וכל דרך אחרת), זה הגיע מידי מהר ומידי לא ידוע עוד.
ג. כדור שלג: הסיבות הקודמות יוצרים כדור שלג. ואז זה מגיע לכולם על כרחם. זה כדור שלג שדומה למהפכות הגדולות שהיו, ששום ממלכה/אוטונומיה/אידאולוגיה לא עמדו בפניהם.

אני חושב שההיצע של ההתמחות האנושית נפגע כבר מאוד, ביחס גדול יותר ומסוכן יותר מהירידה בביקוש.
ייתכן שחוסר הסנכרון הזה עצמו יאט מאוד מאוד את התבונה של הAI ויגרום מהר לחרטות על בואו - לא באמת שייך חרטות על משהו שאף אחד לא יכל למנוע.