באג: בינה מלאכותית, או לשבור את הראש חצי שעה

[י.פל.]

@Mordechai-0 כתב בנתקלתי אתמול בבאג חמוד:

@dovid וכל שאר המומחים לא לגלות

אתמול נתקלתי בבאג חמוד שב"ה אחרי חצי שעה הצלחתי לפתור, והחלטתי לשתף
כדי לפשט ולהראות את הבאג, הנה דוגמה קצרה:

var list = new List<Action>();
for (int i = 0; i < 3; i++)
{
    list.Add(() => Console.WriteLine(i));
}
list.ForEach(x => x());

ציפיתי שהפלט יהיה:
0
1
2

אבל במקום זה, קיבלתי:
3
3
3

כל המומחים, זה כולל את GPT?
כי הוא גם ענה את התשובה, וגם הזכיר את מה שdovid אמר...
https://chatgpt.com/share/68dad597-4a38-8013-a39c-38927ef8b64c

עריכה: לא שמתי לב לתגובה שמעלי...

[eido]

יפה.
רק פעם הבאה במקום לבדוק חצי שעה, תכניס את הקוד בGPT, חצי דקה יכתוב בטבעיות את הענין.

[dovid]

@י.פל. לענ"ד הטענה שלו שהיה משהו שונה לגבי for לפני 5 היא טעות קלאסית של GPT.
ההבדל הוא רק לגבי foreach שלא מוזכר שמה.

[dovid]

@eido כתב בנתקלתי אתמול בבאג חמוד:

יפה.
רק פעם הבאה במקום לבדוק חצי שעה, תכניס את הקוד בGPT, חצי דקה יכתוב בטבעיות את הענין.

ההבדל הוא שמי שבודק חצי שעה יהיה מפתח X10.
מי שבודק בGPT הוא בבעיה, כי כשאתה מקבל הכל עם כפית לפה אתה מתקשה להזיז אחר כך את שרירי הלשון, וזה גם בהנחה שכל האוכל הוא טעים ובריא.

[eido]

@dovid כתב בנתקלתי אתמול בבאג חמוד:

@eido כתב בנתקלתי אתמול בבאג חמוד:

יפה.
רק פעם הבאה במקום לבדוק חצי שעה, תכניס את הקוד בGPT, חצי דקה יכתוב בטבעיות את הענין.

ההבדל הוא שמי שבודק חצי שעה יהיה מפתח X10.
מי שבודק בGPT הוא בבעיה, כי כשאתה מקבל הכל עם כפית לפה אתה מתקשה להזיז אחר כך את שרירי הלשון, וזה גם בהנחה שכל האוכל הוא טעים ובריא.

מסכים חלקית.
אומרים שללמוד גמרא עם ביאור (לא אנקוב בשמות, זה גם לא משנה, אני חושב שכולם אותו דבר בענין זה, רק אגיד שלא מדובר על רש"י ותוס'. כמובן אני לא מזלזל בזה, לפעמים זה נצרך על אף שלא מומלץ, ההכרח לא יגונה) זה כמו לנסוע עם תוכנת ניווט (כנ"ל) - מגיעים ליעד אבל לא יודעים את הדרך... שזה חבל מאוד, בשתי הדוגמאות...

כאן לדעתי זה שונה, אני לא מתכנת X10 וגם לא שואף לשם, וכל פעם שאני מסיים לכתוב קוד אני נותן לבינה מלאכותית אחת או יותר לעבור על הקוד, אולי פספסתי משהו, אולי טעיתי בהקלדת ושימוש במשתנה (בPHP יש 0 אכיפה ואזהרה לגבי זה אתה יכול לטעות באות אחת ואף אחד לא ידע, בשונה משפות אחרות), או כל בעיה אחרת. אם יש בעיה היא מעדכנת אותי (לפעמים מעדכנת סתם גם כשאין...), ומזה לומדים - אם יש מה ללמוד וזו לא טעות הקלדה - יודעים להבא לא לעשות ככה.
מצד שני, לשאול אותה מראש על כל דבר איך לעשות זה פחות טוב כי ככה באמת לא לומדים, אא"כ שואלים וחופרים מה כל דבר אומר, וגם אז, כמו שאתה אומר לא רגילים לחשוב על דרך פעולה בעצמך שזה גרוע מאוד בעיני.

בקיצור לדעתי צריך לדעת מתי כן ומתי לא, וכמובן מה המטרה שלך, אם המטרה היא רק לסיים את זה ולא להתפתח הלאה אז אפשר לשאול חופשי, חוןץ מלבזבז המון זמן על טעויות שהיא עושה לא תפסיד כלום.

[Mordechai 0]

@dovid כתב בנתקלתי אתמול בבאג חמוד:

ההבדל הוא שמי שבודק חצי שעה יהיה מפתח X10.

מדוייק

@eido כתב בנתקלתי אתמול בבאג חמוד:

כאן לדעתי זה שונה, אני לא מתכנת X10 וגם לא שואף לשם.

אוקיי
אבל אני גם מתכנת וגם שואף ליותר

ועכשיו לסיכום אני נעזר הרבה בAI למיניהם לצורך מציאת פתרונות נקודתיים שיפור לוגיקה מבנה בסיסי ופחות בכדי שיחשוב במקומי על אלגוריתם
ואלו חלק מהסיבות:

1. זה עלול להרוס את הכיף שבפיתוח ולנוון את החשיבה.
2. זה מאוד מסבך למצוא את הטעויות הקטנות שהוא עושה מתוך כל מה שהוא כתב
3. בשביל לשאול אותו על בעיה מורכבת, על אלגוריתם שתלוי באלף ואחד דברים שונים מתוך הפרויקט של מעל 100,000 שורות קוד, אני צריך לפשט את הקוד לרמה של הקוד שכתבתי לעיל
   ואם כבר פישטתי לרוב שם טמון הכלב...

בקיצור צריך להיות מאוד חכם כדי לדעת במה להשתמש ולמה להשתמש...!

[eido]

@Mordechai-0 מסכים איתך.
אני לא יודע מה לגבי 100,000 שורות קוד, אני לא חושב שהגעתי לזה אי פעם... אף פעם לא הוצרכתי להגיע לכזה דבר, וגם אני די מחלק את זה לקבצים קטנים לדוגמא עכשיו אני בונה מערכת קטנה וחמודה שבה אני צריך לנהל לפחות 3 מסדי נתונים שונים, בכל אחד מהם צריך לקרוא/למחוק/לעדכן/להוסיף שורות למסד נתונים ולמצוא התאמות. אני לא יודע מה מקובל לעשות בתעשיה, אבל לכל פעולה כזו עשיתי קובץ נפרד (PHP) מה שיצר לי כרגע 10 קבצים רק בשביל פעולות אלו חוץ מקובץ לפונקציות עזר וקובץ לקבצי הגדרות. כך שהכי הרבה הגעתי ל150 שורות. בתוכנה אחרת בC# הגעתי ל940 שורות שזה המון בעיני, וגם את זה אפשר בקלות מאוד לחלק לחלקים שהוא יכול לבדוק.

לענינינו, במקרה דנן,לדעתי די קל לבודד את החלקים שיכולים להיות חשודים.

אבל אני מסכים, וגם כתבתי בהודעה הקודמת, צריך להזהר בשימוש בבינה מלאכותית.

[avi rz]

@dovid כתב בנתקלתי אתמול בבאג חמוד:

ההבדל הוא שמי שבודק חצי שעה יהיה מפתח X10.
מי שבודק בGPT הוא בבעיה, כי כשאתה מקבל הכל עם כפית לפה אתה מתקשה להזיז אחר כך את שרירי הלשון, וזה גם בהנחה שכל האוכל הוא טעים ובריא.

@eido כתב בנתקלתי אתמול בבאג חמוד:

מצד שני, לשאול אותה מראש על כל דבר איך לעשות זה פחות טוב כי ככה באמת לא לומדים, אא"כ שואלים וחופרים מה כל דבר אומר, וגם אז, כמו שאתה אומר לא רגילים לחשוב על דרך פעולה בעצמך שזה גרוע מאוד בעיני.

אני גם חושב שלבדוק לעלות על באגים, זו מעלה = כלומר אתה נהיה ייחודי בעוד משהו.
דווקא לגבי כתיבת הקוד, אני חושב שזה כמו שאני מתקדם למשרה של מנהל מחלקה, כלומר יכול להיות שעידן כתיבת הקוד הולך לעבור, ואין סיבה בעולם שאני יבזבז 3 שבועות על עבודה שאני יכול לעשות בשלושה ימים, למה אני אמור לכתוב את כל האין ספור שורות.
מספיק שאני מתכנן את הפרויקט לעומק כולל טבלאות מדויקות עם השדות הנדרשות, ראוטים שאני צריך, פיצרים מיוחדים, בקיצור את כל ההיררכיה של הפרויקט.
ברגע שאתה מכיר אתה יודע בדיוק מה אתה רוצה, אחרי זה אתה מוריד את זה לעובדים שלך לביצוע, כמובן אם יש באגים אתה אמור לפקח ע"ז וכו'.
אשמח לדעת אם טעיתי ואיפה.

[dovid]

@avi-rz הלואי, הבעיה שלא כולם יכולים להיות מנהלים. בטח שאם זה הולך לך, לך על זה בכל הכח.
באריכות: אתה צודק לגמרי שמנהל לא צריך להיות מתכנת X10 ובמידה מסויימת אפילו לא צריך לדעת לכתוב קוד. בפרט בדרך ניהול מונחה משימות (להבדיל ממיקרו-ניהול), ובעצם אנחנו מדברים בכל הנושא רק על מנהלים מהסוג הזה.
בעצם מנהל הוא זוג של רכז, שככל שהוא מבין יותר את התחום יש לו ייתרון אבל הוא לא צריך בכלל את הייתרון הזה כדרישת סף.
ואכן מקצוע הניהול מייתר את כל המקצועות האחרים. תמיד להיות מנהל מצליח ורווחי יותר מלהיות מומחה בכל תחום. מנהל בית חולים הוא הרבה פעמים רופא ממוצע ומטה אם בכלל (למרות תואר הפרופסור שלו), וביל גייטס בטח איבד את כישורי הפיתוח של מאוד מהר במהלך הקריירה. למרות המסורת בארץ ששרי ביטחון למשל יהיו עם ניסיון צבאי (אולי בשביל ייתרון של המיקרו-ניהול או הבנה מעמיקה יותר של ה"איך"), ברוב המקרים האחרים אין את זה בכלל.
מנהל גם מרויח הרבה יותר ממתכנת ובעצם אין גבול לרווחים שהוא יכול לקבל (כיזם/עצמאי/או מנהל חברה עשירה), וזה שיקול בהשתדלות אם שני המקרים מתאימים במידה שווה לאדם.
אלא שמנהל מסוג זה גם צריך כישורים. הוא צריך דבר ראשון להצליח לפעול מכח הסיפוק הזה, בלי הסיפוק של החכמה או היצירה האישית (בפרט כשהעובדים שלך מוכשרים ממך אפילו בליטוש הרעיון או שינוי לחלוטין), שנית הוא צריך להיות בעל יכולת של "התנתקות" מה"איך" במידה רבה. למתכנתים (במידה מובהקת) שאני מכיר אין את שני הדברים, וממילא זה לא השתדלות וחלקם אפילו לא אפשרי.

[eido]

@avi-rz אני חושב שכל מה שכתבת זה טוב ויפה, פרט לעובדה שאני לא מכיר בינה מלאכותית שיודעת לעשות דברים כמו שצריך.
משהו נקודתי - כן, אבל מערכת מורכבת ממש לא. וגם הנקודתי זה רק משהו קטן, הבינה מלאכותית פשוט בנויה ככה, אני לא מאמין שיבוא יום וזה יהיה במקום מתכנת.
אני נעזר המון בבינה מלאכותית, מצד אחד זה מקל עלי כי אני מתעסק בשפה שאני לא מכיר, ולא כ"כ רוצה ללמוד לעומק. ומצד שני, אני שורף המון זמן על טעויות של הבינה מלאכותית.
בקיצור, זה כלי עזר מצוין, לא מעבר! חשוב שיזכרו את זה!

[pcinfogmach]

@eido
לכאורה זה מפריך לפחות חלק מהטענות שלך:

https://tchumim.com/topic/17086/שיתוף-להערות-mapraqti-תוכנה-ליצירת-מפת-מקומות-בבית-כנסת

https://tchumim.com/topic/17164/mapraqti-תובנות-על-vibe-coding-בבקשה/32

הפוטנציאל של בינה מלאכותית הולך וגדל מיום ליום (בפרט בכלים המסחריים שככל הנראה לא נגעת בהם). אבל בסופו של דבר הוא כלי ולא ישות ולכן לגבי התוצאות שהוא מניב תלוי מאוד מי משתמש בו ואיך.

[eido]

לא יודע מה עשה שם ואיך, הנסיון שלי הראה שכשהתוכנה מתחילה להיות מורכבת הבינה מלאכותית מסתבכת.

[avi rz]

@eido חולק ע"ז לגמרי, גם מבחינת התוכנה, יש כלים ממש טובים ועקביים.
אני אישית משתדל להסביר ברור מה אני רוצה ובאיזה צורה,
ולפעמים גם את זה אני עושה איתו, ומתחיל בצאט חדש עם התוכנית הרצויה - כמובן אחרי ביקורת.
לגבי התקדמות ההתפחות שלו, אין ספק שמה שהלקח לו להתקדם בהרבה זמן, = ניהיה פחות זמן, וכך אני מאמין שזה ייתפתח מאוד.
צריך לעלות על הגל, לא רואה ברירה אחרת.
אני עכשיו באמצע פרויקט מורכב, אשתדל בעז"ה בל"נ לעדכן האם הצלחתי לעבוד איתו בכל השלבים...

[avi rz]

@dovid אני כתבתי את הדברים על רקע אישי,
לפני 4-5 שנים כתבתי תוכנה ב node.js + sequelize, הסרט שזה היה,
ליצור

• migerations
• models
• routes
• services
• controllers
  אפי' בשביל ה CRUD הבסיסי, זה לא נגמר!
  הייתי פשוט מתוסכל מזה, כמובן לא מתחרט, צברתי מזה נסיון מאוד נחמד, אממה כרגע אחרי שאני מכרי את הדברים למה שאני לא אקבל את הבסיס בצורה טובה יותר ונקייה והעיקר קלה יותר.
  לכן אני חושב שאת הדברים שאנחנו מכירים למה שלא נוריד את זה לגורמים חיצוניים,
  וכמו שאמרתי את התיקון באגים והוספות קריטיות, ברור שיש לזה מעלה לעשות לבד להשתפשף, וככה אתה מוצא את הזמן להתייעל בנישות יכולות יותר להביא אותך לשאיפה של ה X10.
  נ.ב. כותב כ"ז מנימה אישית ברור שאפשר לחלוק, וכמובן הדעה שלי ענייה, בתוך בין כל הראשים כאן.

[dovid]

@avi-rz הבנת מדברי שצריך להתנזר מAI?
אני רק הערתי על ה"בזבוז" של חצי שעה.

[NH.LOCAL]

@eido כתב בבאג: בינה מלאכותית, או לשבור את הראש חצי שעה:

משהו נקודתי - כן, אבל מערכת מורכבת ממש לא. וגם הנקודתי זה רק משהו קטן, הבינה מלאכותית פשוט בנויה ככה, אני לא מאמין שיבוא יום וזה יהיה במקום מתכנת.

כדאי שתתחיל להאמין, אחרת תגיע לא מוכן וחבל
זה עניין של שנה-שנתיים לכל היותר, איזור 2027

ההתקדמות מאוד עקבית כבר כמה שנים, וכרגע אין שום סיבה להניח שנגיע למגבלה מסויימת (של מחשוב, אנרגיה או כל דבר אחר) לפני 2028 לפחות

@dovid כתב בבאג: בינה מלאכותית, או לשבור את הראש חצי שעה:

@avi-rz הלואי, הבעיה שלא כולם יכולים להיות מנהלים. בטח שאם זה הולך לך, לך על זה בכל הכח.
באריכות: אתה צודק לגמרי שמנהל לא צריך להיות מתכנת X10 ובמידה מסויימת אפילו לא צריך לדעת לכתוב קוד. בפרט בדרך ניהול מונחה משימות (להבדיל ממיקרו-ניהול), ובעצם אנחנו מדברים בכל הנושא רק על מנהלים מהסוג הזה.

מנהל גם מרויח הרבה יותר ממתכנת ובעצם אין גבול לרווחים שהוא יכול לקבל (כיזם/עצמאי/או מנהל חברה עשירה), וזה שיקול בהשתדלות אם שני המקרים מתאימים במידה שווה לאדם.

כדאי להתחיל להתרגל כבר מעכשיו להפוך ממתכנת פשוט למנהל, ככל שמקצוע התכנות ילך ויהפוך ללא רלוונטי - ככה הצורך להפוך ל"מנהל" של צוות AI ילך ויגבר

[eido]

@avi-rz כתב בבאג: בינה מלאכותית, או לשבור את הראש חצי שעה:

גם מבחינת התוכנה, יש כלים ממש טובים ועקביים.

איזה כלים יש? אני משתמש בGPT החינמי (את שאר הבינות שניסיתי לא אהבתי) אולי בגלל זה אצלי הוא יותר מתקשה?!

[eido]

@NH.LOCAL כתב בבאג: בינה מלאכותית, או לשבור את הראש חצי שעה:

כדאי להתחיל להתרגל כבר מעכשיו להפוך ממתכנת פשוט למנהל, ככל שמקצוע התכנות ילך ויהפוך ללא רלוונטי - ככה הצורך להפוך ל"מנהל" של צוות AI ילך ויגבר

מי אמר שAI יצטרך מנהל? מסתבר שהוא יוכל לנהל כמו כמה מנהלים ביחד ובפחות מהזמן.

מה שנקרא, נחיה ונראה. אני לא מאמין שנגיע ליום שבו הAI יחליף (עם דגש על יחליף) את המתכנת האנושי. כנ"ל להרבה תפקידים.

[NH.LOCAL]

@eido כתב בבאג: בינה מלאכותית, או לשבור את הראש חצי שעה:

מי אמר שAI יצטרך מנהל? מסתבר שהוא יוכל לנהל כמו כמה מנהלים ביחד ובפחות מהזמן.

צודק

רק לאור זאת - לא ברור המשפט הזה:

@eido כתב בבאג: בינה מלאכותית, או לשבור את הראש חצי שעה:

מה שנקרא, נחיה ונראה. אני לא מאמין שנגיע ליום שבו הAI יחליף (עם דגש על יחליף) את המתכנת האנושי. כנ"ל להרבה תפקידים.

[eido]

לשיטתך כאמרינן.
על הצד שהוא יתפתח בתחום התכנות, הוא גם יתפתח בתחום הניהול, אני לא רואה הבדל בין ה2 (לענין זה).