שימוש יעיל ב AI
-
@אלי כתב בשימוש יעיל ב AI:
גוגל הוציאה בימים האחרונים את מודל Gemini 2.5 Pro Experimental 03-25 שיש הטוענים שהוא כרגע המודל הכי טוב בקידוד.
הדבר הכי משמעותי בו שהוא מקבל יותר ממיליון טוקנים שזה אומר שאפשר לנהל איתו שיחה ארוכה משמעותית והוא אוחז ראש בכל הפרטים.
-
@אלי כתב בשימוש יעיל ב AI:
שיש הטוענים שהוא כרגע המודל הכי טוב בקידוד
במדד Livebench, אחד המדדים המקובלים בתחום הוא מקבל ציון של 85% בקידוד, הגבוה ביותר בטבלה.
ב-Aider, מדד תכנות בעולם האמיתי (שמשמש בפועל במוצר הקידוד של החברה), הוא מקבל ציון של 73%. פער של 8% מהמודל claude 3.7 sonnet thinking , הבא אחריו במדד
-
@NH-LOCAL כתב בשימוש יעיל ב AI:
@אלי כתב בשימוש יעיל ב AI:
שיש הטוענים שהוא כרגע המודל הכי טוב בקידוד
במדד Livebench, אחד המדדים המקובלים בתחום הוא מקבל ציון של 85% בקידוד, הגבוה ביותר בטבלה.
ב-Aider, מדד תכנות בעולם האמיתי (שמשמש בפועל במוצר הקידוד של החברה), הוא מקבל ציון של 73%. פער של 8% מהמודל claude 3.7 sonnet thinking , הבא אחריו במדד
אני כרגע משתמש בו ולראשונה לא נתקל בהזיות, כל שאלה שאני שואל מקבלת מענה שבפועל עוזר לי.
אולי זה בגלל הכמות טוקנים שיש לו שנותנת לו להבין את התמונה הגדולה ולא כל פעם מחדש לנסות את אותה טעות או לנחש מה הבעיה...מה שכן ברגע שהוא מגיע לסכום גבוה של טוקנים הוא איטי ברמה חריגה שאפילו לכתוב טקסט בתיבת הצ'אט לא הולך בקלות- אני כותב בוורד ואז מדביק בתיבת הטקסט...
-
@one1010 כתב בשימוש יעיל ב AI:
מה שכן ברגע שהוא מגיע לסכום גבוה של טוקנים הוא איטי ברמה חריגה שאפילו לכתוב טקסט בתיבת הצ'אט לא הולך בקלות- אני כותב בוורד ואז מדביק בתיבת הטקסט...
יתכן שזו בעיית עומס על הראם, כי הכרטיסייה בדפדפן מכילה כמויות אדירות של טקסט
-
@NH-LOCAL כתב בשימוש יעיל ב AI:
@one1010 כתב בשימוש יעיל ב AI:
מה שכן ברגע שהוא מגיע לסכום גבוה של טוקנים הוא איטי ברמה חריגה שאפילו לכתוב טקסט בתיבת הצ'אט לא הולך בקלות- אני כותב בוורד ואז מדביק בתיבת הטקסט...
יתכן שזו בעיית עומס על הראם, כי הכרטיסייה בדפדפן מכילה כמויות אדירות של טקסט
ייתכן מאד!
השאלות:- למה זה לא תוקע את כל המחשב גם כשאני עוזב לרגע את הטאב?
- האם יש לזה פתרון? (אני לא רוצה להתחיל את הצ'אט מההתחלה כי זה ממש טוב עבורי שהוא זוכר את הכל)
- למה בעצם זה על הRAM שלי? למה זה לא רק בשרתים של גוגל?
עריכה: בדקתי עכשיו והRAM על איזור 90, אמנם גבוה אבל לא משהו שאמור להוביל לתקיעה. לפחות באתרים אחרים זה לא קורה, כי הוא עדיין לא מגיע ל100 אחוז
-
-
@NH-LOCAL כתב בשימוש יעיל ב AI:
@one1010 כתב בשימוש יעיל ב AI:
למה בעצם זה על הRAM שלי? למה זה לא רק בשרתים של גוגל?
כל אתר, אם הוא נטען על המחשב שלך הוא נמצא על הראם שלך. למעשה, בצורה בה AI Studio עובד, כל החומר נטען לדפדפן שלך, ורק לאחר מכן הוא נשמר באופן אוטומטי לדרייב
ואין לכך פתרון?
מוזר שגוגל נתנו אופציה למיליון טוקנים כשהם מבינים שברגע שאחוז נמוך מכך כבר יגרום לתקיעת האתר (אא"כ זה מיועד רק עבור כאלו שיש להם RAM ממש גבוה, בכל מקרה זה דרך קצת בעייתית לבנות ככה אתר, לא?!)אגב, בgemini זה גם עובד ככה?
אגב 2, טקסט לוקח כ"כ הרבה?
אגב 3, 90 אחוז עדיין אמור לתקוע את הדף? -
-
@NH-LOCAL כתב בשימוש יעיל ב AI:
הוספת זיכרון ראם. עבודה קלה ועלות מזערית ביחס לתמורה
הRAM אצלי מולחם...
גם זה נראה לי קצת מקרה קיצון...
אולי יש דרך להגדיר לווינדוס לצמצם בRAM במקומות אחרים כשאני משתמש בדף הזה?
(רוב הRAM שלי תפוס באופן קבוע גם כשאני לא משתמש בפועל בדברים כבדים- נראה לי באג או פונקציה ידועה בווינדוס 11...) -
@shraga כתב בשימוש יעיל ב AI:
ראיתי ברשת שמציעים להשתמש בדפדפן פיירפוקס במקום בכרום,
וכן לנסות בכרום לאפשר את Overlay Scrollbars ב chrome://flagsבתור פתרון לבעיה הספציפית הזו או באופן כללי? (קצת מצחיק שלא עדיף להשתמש בדפדפן של גוגל למוצר של גוגל...)
-
@shraga כתב בשימוש יעיל ב AI:
ראיתי ברשת שמציעים להשתמש בדפדפן פיירפוקס במקום בכרום,
וכן לנסות בכרום לאפשר את Overlay Scrollbars ב chrome://flagsיש סיכוי שבעצם מה שהוא עושה הוא לא טוען את כל הטוקנים וממילא המודל גם לא מתבסס על התוכן הקודם?
-
@NH-LOCAL כתב בשימוש יעיל ב AI:
@אלי כתב בשימוש יעיל ב AI:
שיש הטוענים שהוא כרגע המודל הכי טוב בקידוד
במדד Livebench, אחד המדדים המקובלים בתחום הוא מקבל ציון של 85% בקידוד, הגבוה ביותר בטבלה.
יש לציין שאחד המדדים החשובים זה מדד השפה ועבורינו כמובן זו הבנת העברית.
בזה נראה שמדד האתר הזה לגבי שפה לא יעיל בכלל, לדוגמא הוא מדרג את deepseek-r1 - שאם מבקשים ממנו לתרגם כמה משפטים מאנגלית לעברית הוא מתרגם בצורה ירודה מאוד - יותר מ gpt-4o-2024-08-06...
