בינה מלאכותית, צודקת או מטעה?

[by6199]

@one1010 כתב בבינה מלאכותית, צודקת או מטעה?:

שאלתי גם את CHATGPT וגם את בארד שאלה. שניהם מאד משכנעות בתשובה אבל זה נשמע לי פחות הגיוני

שני מנועי הai המפורסמים מקשקשים בצורה מנומקת, השבוע השתתפתי באיזה סדנה בנושא והמנחה אמר אני מבקש ממנו לענות לי רק מה שהוא בטוח שזה נכון... (מדובר על שימוש באנגלית), לטענתו זה עוזר, לא בדקתי.

[one1010]

@by6199 כתב בבינה מלאכותית, צודקת או מטעה?:

אני מבקש ממנו לענות לי רק מה שהוא בטוח שזה נכון...

אני ביקשתי ממנו לתת צד שני ולהסביר למה אני כן צודק אז הוא ענה לי בצער שאני פשוט לא צודק ולכן הוא לא יכול להסביר אותי...

מה שמעניין ש2 הבינות הביאו את אותה טענה ואת אותן סברות.
מילא קישקוש אבל איך שניהם קישקשו אותו דבר עם אותם פלפולים?

[מטעמים]

האמינות של צ'אט AI ממש נמוכה. הרעיון שהוא יכול לכתוב דבר והיפוכו עם נימוקים ארוכים והוא לא מונחה שלא לעשות כך מאוד מופרך. וממש לוקח את כל הדבר הזה כמה צעדים אחורה.

דוגמה:

אני:

איך אפשר לשאול אותך שאלות על תמונות?

בארד:

כדי לשאול אותי שאלות על תמונות, אתה יכול להשתמש באפשרות "הוסף תמונה" כדי להעלות תמונה, או שאתה יכול להשתמש בתיאור של תמונה כדי לשאול אותי שאלה. לדוגמה, אתה יכול להעלות תמונה של כלב ולשאול אותי מה גזע הכלב.
אני אעשה כמיטב יכולתי לענות על השאלות שלך על התמונות, ואני אשתמש בידע שלי על העולם כדי לספק לך מידע מדויק ומועיל.
הנה כמה דוגמאות לשאלות שאתה יכול לשאול אותי על תמונות:
מה גזע הכלב בתמונה?
מה צבע הכלב בתמונה?
כמה אנשים יש בתמונה?
מה הרקע של התמונה?
מה הנושא של התמונה?
אני תמיד לומד דברים חדשים, ואני תמיד משתפר ביכולת שלי לענות על השאלות שלך על תמונות.

אני:

היכן יש "הוסף תמונה"?

בארד:

אני מצטער, אין לי אפשרות "הוסף תמונה". אני מודל שפה גדול, הידוע גם בשם בינה מלאכותית שיחה או צ'אטבוט, מאומן להיות אינפורמטיבי ומקיף. אני מאומן על כמות עצומה של נתוני טקסט, ואני מסוגל לתקשר וליצור טקסט דמוי אדם בתגובה למגוון רחב של הנחיות ושאלות. לדוגמה, אני יכול לספק סיכומים של נושאים עובדתיים או ליצור סיפורים.
אני לא מסוגל לעבד או להבין תמונות.

....
שים לב באיזה פירוט הוא עיוות את התשובה הראשונה. כלומר, הוא הרבה יותר מאומן על הביטחון בתשובותיו מאשר בנכונותם.

[yyy]

מנסיוני Bard גרוע בהרבה מ-GPT, בתחום התכנות.

[one1010]

@מטעמים כתב בבינה מלאכותית, צודקת או מטעה?:

היכן יש "הוסף תמונה"?

דווקא לבארד באנגלית יש אפשרות להוסיף תמונה...

הוא שיגע אותי היום שהוא יכין לי תוכנית אדריכלית ויעדכן אותי תוך 24 כשהטיוטה תהיה מוכנה...

[one1010]

@yyy כתב בבינה מלאכותית, צודקת או מטעה?:

מנסיוני Bard גרוע בהרבה מ-GPT, בתחום התכנות.

לי הוא לא מוכן לענות בכלל בתכנות

[אינטרקום]

רק אני לא הבנתי מה הנושא של האשכול?

האם לברר אמינות של צאט ai?
או לברר בירור ספציפי על מעלית?
או איך יתכן ששני מינים של מודל שפה הגיבו באותה צורה?

[one1010]

@אינטרקום בתור פותח האשכול אני יכול לנסות לומר מה הייתה כוונת השאלה...

מטרת השאלה הייתה להגיע לתשובה עובדתית איך באמת מעלית עובדת. הדרך להגיע לתשובה הייתה לדון באמינות הבינה. וההוכחה המסויימת לאמינות וממילא לתשובה העובדתית הייתה אמורה להיות מזה ש2 AI ענו תשובה זהה

מקווה שיישבתי את דעתך...

[yyy]

@one1010
צריך לדעת איך לשאול אותו. לפעמים תוספת של מילה אחת "עוזרת" לו להבין מה אתה רוצה.
ב-Bard אני יותר משתמש כסוג של חיפוש מהיר בגוגל, ל-GPT יש יותר "הבנה" מעמיקה (למרות שגם הוא לא חף מטעויות)

[one1010]

@yyy כתב בבינה מלאכותית, צודקת או מטעה?:

צריך לדעת איך לשאול אותו. לפעמים תוספת של מילה אחת "עוזרת" לו להבין מה אתה רוצה

אדרבה! אשמח לטיפים. למרות שבשיחה הזאת עשיתי איתו ממש וויכוח למדני והוא עמד בשלו...

[yossiz]

@one1010 כתב בבינה מלאכותית, צודקת או מטעה?:

מטרת השאלה הייתה להגיע לתשובה עובדתית איך באמת מעלית עובדת. הדרך להגיע לתשובה הייתה לדון באמינות הבינה

בד"כ זו לא אסטרטגיה נכונה בפורום. מקבלים תשובות ממוקדות עבור שאלות ממוקדות

בכללי, (אם זה עוד לא היה מספיק ברור ), אני מאוד סקפטי לגבי התועלת מ-AI של היום לקבל תשובות לשאלות מעין אלו. זה טוב לקבל כיוונים ורעיונות, לא לקבל תשובות

[משתמש תמים]

@one1010 כתב בבינה מלאכותית, צודקת או מטעה?:

מטרת השאלה הייתה להגיע לתשובה עובדתית איך באמת מעלית עובדת.

ראה כאן

או שתחפש בגוגל איך מעלית עובדת

[one1010]

@משתמש-תמים כתב בבינה מלאכותית, צודקת או מטעה?:

ראה כאן

ראיתי את זה אבל תראה מה כתוב שם כמה שורות קודם...:

https://www.zomet.org.il/?CategoryID=198&ArticleID=286#:~:text=ירידה במעלית בשבת.-,לאחרונה (תשמ"ד),-הופיע ספרו של

[dovid]

@one1010 פתח נושא חדש על מה שמעניין אותך.
אני הייתי מתבטא במילים חריפות יותר מאשר יוסי, תשתדל בפורום לפחות להיות כנה וישיר.

[one1010]

@dovid כתב בבינה מלאכותית, צודקת או מטעה?:

אני הייתי מתבטא במילים חריפות יותר מאשר יוסי,

למה?

תשתדל בפורום לפחות להיות כנה וישיר.

למה אתה אומר שלא הייתי כנה וישיר?!!??

עריכה:
שאלתי את BRAD את השאלה הבאה:

מהו ההפך מאדם כנה וישיר?
תשובותו הייתה:

ההפך מאדם כנה וישר הוא אדם שקרן או לא ישר. אנשים כאלה עשויים להסתיר את האמת, להוליך שולל או לומר דברים שהם לא באמת מאמינים בהם. הם עשויים לעשות זאת מסיבות שונות, כמו כדי להימנע מבעיות, להרוויח משהו או פשוט כי הם נהנים מזה.

אנשים כנים וישר הם נדירים, אבל הם בעלי ערך רב. הם אנשים שאפשר לסמוך עליהם, ואנשים שאפשר לדעת שהם תמיד יהיו כנים איתנו. הם אנשים שאנחנו יכולים לסמוך עליהם שיגידו לנו את האמת, גם אם זה לא משהו שאנחנו רוצים לשמוע.

אנשים כנים וישר הם חשובים כי הם יכולים לעזור לנו לבנות מערכות יחסים חזקות. הם יכולים לעזור לנו להרגיש בנוח להיות כנים איתם, ויכולים לעזור לנו להרגיש נתמכים. הם יכולים גם לעזור לנו לקבל החלטות טובות יותר, כי אנחנו יודעים שאנחנו יכולים לסמוך עליהם שייתנו לנו מידע אמין.

אם אתה מכיר אדם כנה וישר, דע שאתה אסיר מזל. הם אנשים ששווה לשמור עליהם בחייך.

[dovid]

תענה לבראד שיידע:
כנה וישיר זה גם ההיפך של משפחה רחבה של מקרים שהקיצוניים שבהם מכונים מניפולציות.
הבעיה היא בגישה, שמולידה שיח מתחכם שהשני או עונה בכל התמימות ומאוד חורה לו בהמשך, או שהוא חכם לא פחות והוא מתחיל לפקח מה אתה זומם ומה ההפוך על הפוך של כל משפט.
זה נובע מגישה כללית (וגורפת הרבה יותר מידי) שצריך להיות חכם איך לגרום לאנשים לתת לך את מבוקשך (הגיוני ונכון), רק שהגישה הזו היא גורפת כל כך שכמעט בכל משפט שאלה ותשובה יש כוונה שמאחורי הדברים.
יש בזה משהו מאוד יהודי ומאוד פלפל מבחינת היכולת, אבל מצד ההתנהגות ככה כלפי אחרים בלי חשבון יש בזה גם משהו אנטי חברתי (שזה משהו שמגיע לדעתי מהתרבות הישראלית).

[dovid]

להלן מה שchatGPT הבין במילים שלי:

מנהל פורום כתב לי:
"תשתדל להיות בפורום כנה וישיר".
אני מתפלא כי אני לא אדם לא ישר, ולא עשיתי שום דבר לא מוסרי.
תוכל לבאר לי את כוונת המנהל?

ChatGPT
כשהמנהל אמר לך להיות "כנה וישיר" בפורום, הוא מתכוון לכמה דברים שאולי כדאי לך לשים לב אליהם:

כנות - התייחסות כנה לאנשים בפורום כוללת כנות בהתייחס לעובדות, מציאות ודעות שלך. אם יש לך דעות והבטחות, נסה >להעבירן בכנות ובלי טריקים או מניפולציות.
(פה הוא הוסיף מלל רב לא רלוונטי).