למה צריך עדיין מתכנתים

[Jabberwock]

זכורה לי אמרה שמעייני החוכמה יפתחו באחרית הימים. אולי זאת הבינה המלאכותית

[NH.LOCAL]

@Jabberwock כתב בלמה צריך עדיין מתכנתים:

זכורה לי אמרה שמעייני החוכמה יפתחו באחרית הימים. אולי זאת הבינה המלאכותית

המקור הוא מהזוהר. שפע חוכמה וידע הוא מצב נתון כבר לפחות 100-150 שנה, הבינה המלאכותית היא פשוט המשך וחיזוק של המגמה הקיימת

[Mordechay]

@י.פל. כתב בלמה צריך עדיין מתכנתים:

הרבה משתמשים בפורום זה, כתבו מפורשות שהם הפסיקו ללמוד/לכתוב קוד מאז שהם התחילו להשתמש בAI, ראה בשרשורים המדוברים.
ולכן? יש בזה חיסרון?
אתה נהיה יבש, פחות יודע, פחות 'מלכלך את הידיים' - וגם את הראש, גם את הלוגיקה הוא כבר קובע לך, ואם לא הוא - אז הAI השני שנתתו לו לעבור על התוכנית שיצר הA הראשון...

ברור שזה רע, המוח שלך לא מתפתח (זה כמו שאדם שיענו לו על כל השאלות ויתנו לו כל מה שהוא רוצה לא ייצא ממנו כלום) וברגע שה ai מגיע להתגר שהוא לא יכול לעמוד בו וצריך אותך או לאתגר שהוא לא יכול לעשות בשבילך - לנהל משא ומתן, קשרים, עבודה (שצריך אותך ולא את ה ai שאתה משתמש), גמישות, ועוד ועוד, אתה נתקע עם כל חוסר ההשקעה בחיים...

[NH.LOCAL]

@Mordechay כתב בלמה צריך עדיין מתכנתים:

ברור שזה רע, המוח שלך לא מתפתח (זה כמו שאדם שיענו לו על כל השאלות ויתנו לו כל מה שהוא רוצה לא ייצא ממנו כלום) וברגע שה ai מגיע להתגר שהוא לא יכול לעמוד בו וצריך אותך או לאתגר שהוא לא יכול לעשות בשבילך - לנהל משא ומתן, קשרים, עבודה (שצריך אותך ולא את ה ai שאתה משתמש), גמישות, ועוד ועוד, אתה נתקע עם כל חוסר ההשקעה בחיים...

ביל גייטס וסטיב ג'ובס הפסיקו לכתוב קוד הרבה לפני שהם הפכו למנכ"לים של חברות בשווי עשרות מיליארדים.
אי כתיבת קוד לא עוצרת את ההתפתחות שלך, היא בסך הכל מחליפה אותה בסוג אחר, כנראה טוב בהרבה

[Mordechay]

@NH.LOCAL כתב בלמה צריך עדיין מתכנתים:

ביל גייטס וסטיב ג'ובס הפסיקו לכתוב קוד הרבה לפני שהם הפכו למנכ"לים של חברות בשווי עשרות מיליארדים.
אי כתיבת קוד לא עוצרת את ההתפתחות שלך, היא בסך הכל מחליפה אותה בסוג אחר, כנראה טוב בהרבה

השוואה מצחיקה, זה כמו שתגיד שכל המוצלחים נשרו מהלימודים לכן כל מי שנושר יש לו סיכוי טוב להצליח....
אין דבר כזה אם אתה מפסיק להשתפשף אתה נהיה טיפש, ההוכחה הכי טובה היא שכל מפתח הפוריקטים עם ai לא הגיעו לשום מקום... וברובם לא יצא מזה כלום, זה כמו לשחק בלגו, אני לא אומר שצריך לא להשתמש ב ai אני כן אומר שצריך לללמוד לא להיטפש אם אתה לא לומד כלום ורק כותב ל ai מה לבנות אתה נסוג במקום ללמוד ולהתקדם, אתה לא יכול להתקדם מלהסביר ל ai על מה אתה חולם, מנהלים הם בדרך כלל אנשים שידעו לתכנת מאוד מאוד טוב והיו להם כישורים נוספים כמו הנהגה, יכולת ניהול פרויקטים מורכבים, ועוד, והכל זה דברים שהם השתפשפו ועבדו, לא לשבת על מחשב ולכתוב ל ai....

[dovid]

@NH.LOCAL הלואי שהיית צודק.
אם כבר המקרים האלה של "הפסיקו לכתוב קוד" להיות מנהלים הם מחייבים שלמנהלים יהיה רקע קודם בו הם ירקו דם.
תפסיק לדבר על קוד, זה בכלל לא הנקודה. הנקודה היא לעמול. אני בטוח שאתה חושב שאפשר לעמול להפיק מהLLM תועלת, אבל לא, אני לא מדבר על כזה עמל.
כל תחום בעולם, אתה עובד קשה, פיזית, מנטלית, טועה, מתקן וגם משתפשף כפי שאמר @Mordechay, אם אתה מוכשר אולי אתה עושה את זה מהר, אבל קשה להאמין שיש דרך בלי זה. הLLM המודרניים מקשים מאוד על בן אדם לעבור את המסלול הזה, ואם הוא עובר הוא יוצא משמה הרבה יותר עייף מבחינת מוטיבציה (מה שווה להצליח אם זה מיותר?).
ניקח ילד בן עשר, ולטובת העניין נניח שיש לו אינטליגנציה של בן 50. למה הוא לא יכול להיות מנהל חברה, וגם לא עסק קטן וגם בקושי (מיעוט ממש!) מנהל את עצמו? כי חסר לו בדיוק את זה. וגם ילד בן עשר של היום הוא עתיר "שפשוף", בזכות העדר הLLM לצידו. מה יהיה עם בני העשר של עוד דור?

[אף אחד 3]

@NH.LOCAL כתב בלמה צריך עדיין מתכנתים:

ביל גייטס וסטיב ג'ובס הפסיקו לכתוב קוד הרבה לפני שהם הפכו למנכ"לים של חברות בשווי עשרות מיליארדים.

אני גם מכיר סנדלר שהפסיק להיות מדען טילים הרבה לפני שהוא הפך לסנדלר
כלומר לא הבנתי את הטענה
הם פשוט עשו הסבה מתחום אחד לאחר מתוקף תפקידם והמקום אליו הם נקלעו ועברו מתפקיד תובעני אחד לאחר

[י.פל.]

@dovid
אולי אפשר להסתכל על זה טיפה שונה:
או, שבסך הכל השפשוף השפשוף השתנה: לדעת איך ומה לכתוב, על מה להסתכל - ועל מה לא לבזבז אנרגיה.

אני מרגיש שהכל פה חוזר על עצמו:
מישהו אחד טוען ש מתבטל (העבודות, השכל, השפשוף, הxyz) והאחר עונה לו שהכל קיים - במיקום טיפה שונה.
מה אנחנו מפספסים בוויכוח הלא נגמר הזה?
האם יתכן שאלו שטוענים בעד הם המפתחים הפחות מנוסים - כמוני (המשפט הזה הוא מחמאה בשבילי...)? לא כל כך סביר.
אז מה כן?

[dovid]

@י.פל. אדרבא, זה לא קשור בכלל דוקא לתכנות. אלא שבתכנות יש לכם "נגיעות", אתם חיים במוחש את הכפלת הכח בעשר/מאה/מליון שהLLM מעניק לאנושות, ומפריע לכם שמגיעים עם תחזיות קודרות במקום להבין כמה פוטנציאל נפתח בפנינו.
בא נדבר על רפואה ונתמקד רק בזה.
הAI יעזור לרפא (כבר עוזר בטירוף), הLLM יענה (כבר עונה) על כל שאלה בדיוק גבוה (שהרופא המומחה לא היה אדיב, והאדיב קשקש בשכל) וכולי.
האם יהיה מישהו שמבין ברפואה עוד חמישים שנה? איך הוא יהיה מבין? הוא יעבור "מסלול מפרך" של לשאול כל הזמן את הLLM? האם תהיה לו הזדמנות להתחבט בכלל בבעיה רפואית?
כל הזמן אומרים, לא נורא, הAI ירפא טוב יותר. אוקי, בא נזרום עם ההנחה הזו (שהיא מאוד שגויה כשמדובר על להוציא את המין האנושי לגמרי מן הזירה), למה עדיין נראה לכם שמנהלים כן יהיו? על איזה רקע הם יצמחו בדיוק?
אתה יכול לקחת דוגמה שאתה בוודאי מרגיש, כשאתה כותב פרומפט לLLM, לפעמים אתה שוקל אם להתבטא ברור יותר ואתה מחליט להשמיט את "ההבהרה" או את ההשקעה ב"ניסוח" כי הוא ממילא יבין אותך, כלומר אפילו את המעט שהוא להתבטא מה בכלל רוצים, יש כרסום מהיר על ידי הנוחות שמשקיעה אותנו בספה בעומק שקשה לקום ממנו...

כשילד בגיל שאמורים לדבר לא מתחיל לדבר, יש כאלו שמייעצים להורים לא להבין רמזים. בטענה שכשלילד מספיק לתת חיוך מתוק עם יד לכיוון המטבח וישר מציעים לו שלושה אפשרויות והוא מהנהן בנכונה, הוא לא רואה טעם לשבור את השיניים ולומר שהוא רוצה לשתות. אנחנו נדע לדבר?

[י.פל.]

@dovid כתב בלמה צריך עדיין מתכנתים:

האם יהיה מישהו שמבין ברפואה עוד חמישים שנה?

האם מישהו שמבין ברפואה כיום, טוב יותר מהai?
ממחקר לפני כחצי שנה (נצח במושגי ai...), הai ענה בכ8.5-9% יותר טוב מהרופא הממוצע.
אז מי יפסיד מכך שלא יהיו רופאים אנושיים? העשירים.

@dovid כתב בלמה צריך עדיין מתכנתים:

כשאתה כותב פרומפט לLLM, לפעמים אתה שוקל אם להתבטא ברור יותר ואתה מחליט להשמיט את "ההבהרה" או את ההשקעה ב"ניסוח" כי הוא ממילא יבין אותך

ואז אני צריך להשקיע עוד שעה כדי לתקן את מה שהוא עשה לי...
מניסיון: ככל שהריכוז בכתיבת הפרומפט גדול יותר, זמן התוצאה קטן יותר, והמחרחק לפרומפט הבא קצר יותר (מה שגורם כמובן להתשה... כמה אפשר להתרכז כך?)

@dovid כתב בלמה צריך עדיין מתכנתים:

אנחנו נדע לדבר?

חזרנו לשאלה הבסיסית, לוויכוח הבסיסי, כפי שהצגתי אותו.

שוב: האם אני סתם עקשן שלא מבין אותך, אתה סתם עקשן שלא מבין אותי, או שיש כאן קצר.

אבקש שתענה @dovid כדי שתהיה המילה האחרונה: אני לא חושב שאכתוב בזה עוד (בל״נ!)

[לא-מתייאש]

אני חושב שהאנלוגיה לאפיית לחם או אריגת בגדים שגויה לחלוטין, כי אלו משימות פיזיות שקוף כנראה היה יכול לבצע אם היו מלמדים אותו. הבעיה מתחילה כשאנחנו מתחילים להחליף את האינטליגנציה שלנו, ובמיוחד את הדבר היחיד שמבדיל אותנו מהחיה: הדיבור. ה-GPS כשלעצמו אינו דבר רע, אבל זה שאני כבר לא יודע לחשוב זה בוודאי הדבר הנורא ביותר שיכול לקרות לבן אדם – זה הופך אותו בכל יום לטיפש יותר, ליותר חייתי. מכונה שמחליפה את המוח תגנוב ממני את כל האנושיות שלי, ואני אצטמצם לישות ללא נשמה, ללא אישיות, שרוצה רק את מה שאומרים לה לרצות, שכבר לא חולמת. מחקרים רבים כבר מראים את ההשלכות הקטסטרופליות על המוח שלנו.

ובחזרה לתכנות: אני לא חושב שזה בעייתי להפסיק לכתוב את הסינטקס של הקוד, להפך, זה מצוין; אבל את הסינטקס הזה חייבים להבין. האם אפשר לכתוב תוכנית היום בלי להבין את ההבדל בין אסינכרוניות למקביליות? בלי להבין את ההבדל בין פרימיטיב לאובייקט? בלי להבין מתי להשתמש ב-Singleton או ב-Framework של DI, מתי להשתמש בהזרקת תלות , והרשימה עוד ארוכה מאוד? התשובה היא כן, אבל התוכנית הזו תהיה גרועה ומלאה בבאגים. ה-AI לא יגיד לך: "אתה לא משתמש בטכנולוגיה הנכונה" או "כאן זה מצומד למשהו אחר", כי זה דורש הבנה ולא סטטיסטיקה. אני מאמין שיבוא יום שבו ישלמו לאלו שמבינים כדי לפתור את הדרמות שנכתבות היום על ידי AI.

לתכנת עם AI זה נהדר אם אתה יודע לתכנת. וכדי ללמוד, ה-AI צריך להיות לכל היותר המורה שלך – מורה פרטי נגיש להפליא.

[dovid]

@י.פל. הנה תשובתי: קרא שוב מה שכתבתי, והפעם בניסיון להבין אותי בלי לענות.

[Mordechay]

@י.פל. כתב בלמה צריך עדיין מתכנתים:

אני מרגיש שהכל פה חוזר על עצמו:
מישהו אחד טוען ש מתבטל (העבודות, השכל, השפשוף, הxyz) והאחר עונה לו שהכל קיים - במיקום טיפה שונה.
מה אנחנו מפספסים בוויכוח הלא נגמר הזה?

אני חושב באמצע, אין שום סיבה שעבודות יעלמו כמו במהפכה התעשייתית בדרך כלל רמת החיים עולה וכך גם נוספות עבודות עיליות יותר - פעם היו מתכנתים באסמבלי היום בפיתון (כמובן זה לא מדויק...), אני כן חושב שזה מקשה על בן אדם להשקיע וללמוד דברים, כאשר הוא מבין שכל דבר ה ai יעשה טוב ממנו ובשנייה אחת (אבל עדיין צריך אנשים כי ה ai מוגבל לרמת קונטקסט ומורכבות, ויצרתיות, בקיצור העולם לא יתקדם רק מפרומפטים...)

@dovid ממש התחברתי לכל מילה (בפרט עם הדוגמה של הרופא ועם החוסר יכולת לנסח או לפרק בעיות בסיסיות (כיום כשאני רוצה לבנות פרויקט בדרך כלל אני שואל את ה ai מה מבנה הפרויקט ומתכתב איתו איך לתקן שיהיה בדיוק מה שאני רוצה, מה שמונע ממני בתחל'ס בחיים לדעת לפרק בעיות ולסדר - אני כותב הכל מבולגן וה ai יסדר, מה נעשה שבחיים לא הכל עובד דרך ה "תרגומן" ai - גם הפוסט הזה לא )

@י.פל. כתב בלמה צריך עדיין מתכנתים:

האם מישהו שמבין ברפואה כיום, טוב יותר מהai?

כל המידע שלו מבוסס על מחקרים ועל רופאים שגילו את הדברים אז אולי רופא ספיציפי יודע פחות ממנו (זה ודאי נכון ברוחב הידיעה אבל לא בשיקול דעת לקבוע מה הגיוני ומה לא מסתבר)
ברגע שאין רופאים אין מי שיקדם אותו כך שכל הידע יישאר נכון לשנת 2026 ולא הלאה (לא תוכל ליצר תרופה למחלה על ידי פרומפט... גם אם אומרים ש ai עוזר לפתח תרופות לא לזה הכוונה....)
בנוסף שיקול הדעת שלא מוטעה נורא (הוא נועד להגיד מה שאתה רוצה לשמוע בלי קשר לרמת ההיגיון והנכונות, כל מי שהתייעץ איתו יכול לראות שהרבה פעמים הוא נותן לך הבחנות שנשמעות לך הגיוניות אבל כשאתה הולך לרופא הוא מסביר לך שזה לא הגיוני
וכנ"ל תוכל לראות שרוב הבעיות שנכתבו לו והוא הביא פתרון, לעולם (כמעט) לא יועילו בדרך כלל תתלהב מזה שקיבלת את הפתרון (הכאילו פתרון) ולא תעשה עם זה כלום, ככה זה כשמקבלים הכל על מגש של זהב בלי שום עבודה

@י.פל. כתב בלמה צריך עדיין מתכנתים:

ואז אני צריך להשקיע עוד שעה כדי לתקן את מה שהוא עשה לי...
מניסיון: ככל שהריכוז בכתיבת הפרומפט גדול יותר, זמן התוצאה קטן יותר, והמחרחק לפרומפט הבא קצר יותר (מה שגורם כמובן להתשה... כמה אפשר להתרכז כך?)

מה ענית, הוא כתב שכיוון שאתה מתרגל ש ai מבין הכל, אתה לומד לא להסביר את עצמך, דבר (להסביר זה מאמץ מסוים, מאמץ מוחי שאם אתה רגיל לא לעשות אותו זה מתנוון, או בשפה פשוטה אתה לא תסביר את עצמך גם לאנשים, ובכללי יכולת ההסבר שלך יורדת (לא תהיה פוליטקאי )

@י.פל. כתב בלמה צריך עדיין מתכנתים:

חזרנו לשאלה הבסיסית, לוויכוח הבסיסי, כפי שהצגתי אותו.

שהוא? יספיק לנו לכתוב פרומפטים לדעתך? כנראה שתקליד כל היום לחברים שלך ותלמד דרך כתיבה במחשב והכל כך, כי אם תפגוש את החבר שלך לא תצליח לדבר איתו באמצעות "פרומפט" וכל אחד יודע שדבר שאתה לא עובד עליו הוא מתנוון (מי שנוסע רק ברכב לא יהיה לו כוח ללכת בדרך כלל, וכדומה)

שאלה למחשבה, ה ai מתוכנת כדי לשרג אותנו - להיות המנטור שלנו, או לתת לנו מה שמבקשים ממנו בצורה הכי קלה ונעימה?
אני פעם ביקשתי ממנו שייתן לי פרומפט הנחיית מערכת שבמקום לתת מה שמבקשים שינתח מה טוב למשתמש ולפי זה יחליט האם לענות או לא לענות או מה לענות (לפעמים לא טוב לבן אדם לדעת משהו) בתחל'ס זה לא כל כך עובד (זה מעצבן לדבר איתו כשכל דבר הוא מנסה ליעל במקום להגיב מה שמצפים, בתחל'ס כל זה משימה שהוא לא יכול להתמודד איתה כי הוא לא באמת יודע מה המצב שלך ועד כמה כדאי עכשיו להרגיז אותך (לתת לך להתאמץ) או להרפות (לתת פתרון נחמד וקל).

וואי וואי יצא ערוך, צריך לבקש מ ai לתמצת הנה דעתו בעניין