האם עידן ה-AI הזול עומד להיגמר?

[pcinfogmach]

בשנתיים האחרונות שוק הבינה המלאכותית היה פתוח בצורה חסרת תקדים. מודלים חזקים, מחירים נמוכים וגישה מכובדת ליכולות של המודלים החזקים ביותר.

אבל לאחרונה מתחילה להסתמן מגמה אחרת. הגבלות שימוש גוברות, האטות, תמחור לפי קרדיטים והפרדה ברורה יותר בין משתמשים חינמיים למשתמשי פרימיום.

הסיבה פשוטה. העלויות העצומות, GPUים, חשמל, תשתיות ועומסי שימוש בקנה מידה עולמי הופכים את התחום למאתגר מאוד מכל הבחינות.

כנראה שהשלב הבא בשוק יהיה AI בסיסי ומהיר לכולם, לצד AI מתקדם באמת בתמחור גבוה יותר.

ימים יגידו לאן זה יתפתח, אבל נראה שעידן ה״הכול כמעט בחינם״ מתחיל להשתנות.

[dovid]

אתה גם מחסידי ה"חינם"? מה שהיה חינם נהיה פחות? או שהמודלים של החינם פשוט הרבה יותר טובים ויקרים לחלוקה חינם בלתי מוגבלת?
והאם אתה סבור העלות/תועלת של תשלום לAI התייקרה?

[NH.LOCAL]

@pcinfogmach אתה מעדיף לחזור לעידן GPT 3, עם עלויות API של 60 דולר למיליון טוקנים? (מקור)

לשם השוואה, ג'מיני 3.1 פרו עולה 2$ קלט/12$ פלט, זול פי כמה וכמה, עם פער אינטליגנציה ואיכות בלתי נתפס בכלל

הביקושים אמנם עולים ואיתם המחירים של מודלי ה-SOTA, אך העלות היחסית פר אינטליגנציה רק הולכת ויורדת בקצב מטורף

אם משווים למודלים ברמת אינטליגנציה דומה, כמו gemma 3 1B, Llama 3.2 3B, וכדומה, מסתבר שהעלות ירדה ביותר מפי 1000 בתוך פחות מ-4 שנים

בסופו של דבר, היעילות ווהתחרות שרק הולכת וגדלה מחד, וירידת עלויות התפעול מאידך (באמצעות יעילות ארכיקטורת המודלים וארכיקטורת המעבדים, כמו בלאקוואל או רובין) תוביל בהכרח לשימוש כמעט חופשי לכולם

[pcinfogmach]

@dovid כתב בהאם עידן ה-AI הזול עומד להיגמר?:

אתה גם מחסידי ה"חינם"?

אני לא מתכחש שהעולם לא עובד ככה. אבל כמפתח חובבני היה משהו נחמד בתקופה הזו שחלפה והלכה לה.

@NH.LOCAL
אתה בהחלט צודק שמודלים הכי פשוטים היום שויים פי כמה ממה שהיה פעם וכל זה במחיר אפסי לעומת מה שהיה
אבל זה גופא מה שבאתי לומר שהמגמה תהיה מודלים פשוטים ומשוכללים ביותר לכולם במחיר טוב ואולי אף בחינם. אבל מודלים שאפשר לעבוד איתם על פרוייקטים - כאן המשתמש הפשוט ימצא את עצמו מגיע לתקרה מדי מהר. ובמחירים שהוא לא יכול לעמוד בהם.

[mekev]

@pcinfogmach
לצערי טרם הספקתי לקרוא את הפוסט הראשוני שלך לפני שמחקת

בתור אחד שבעבר שילם על מודולים
ובאחד מהעדכוני מחירים נשבר לו, והפסיק את המנוי
ומאז משתמש בצורה חינמית, ודי נהנה (נושא בפני עצמו, ואכמ"ל)

מאוד מעניין לשמוע את התרשמותך
אשמח אם תוכל להחזיר את הפוסט לקדמותו

[י.פל.]

@pcinfogmach ראיתי את הפוסט שלך, אבל בהתחלה לא האמנתי שהוא יעורר ענייין...
מה קרה, על מה נזעקת?
קודקס הרחיבו בהרבה את המכסה החינמית.
קלוד העלו גם את כל המכסות, בעקבות העסקה עם אילון מאסק.
ג׳מיני ממשיך, בענק (למי שקורא לו ai), גם אם לך כמשתמש nf אין גישה לאנטיגרביטי...
groq וopen משהו (לא זוכר את השם) לא נעלמו.
kiro נותן אותו דבר, אבל הפסיקו שם לעדכן מודלים...
הדבר היחיד שהשתנה, שלא ניתן לעשות מנויים לקופיילוט.

אז מה אינו חינם, יותר מבעבר?

[מד]

פוסט זה נמחק!

[NH.LOCAL]

@pcinfogmach ניבא ולא ידע מה ניבא...

עלייה של פי 3 בעלויות ג'מיני 3.5 פלאש לעומת ג'מיני 3 פלאש, כמעט זהה לעלויות של ג'מיני 3.1 פרו