@יוסף-בן-שמעון כתב במודלי שפה בקוד פתוח - שימושים בתעשייה:
הסיבה צריכה להיות טובה, לדוגמה אבטחת מידע, כי עלויות זה בדרך כלל יותר יקר להחזיק חומרה מתאימה מאשר לפנות ל API קנייני
יש חברות שמריצים לך את המודל בקוד פתוח המחיר הרבה יותר נמוך מהמודלים הקניניים
למשל Kimi K2 עולה בopenrouter
$0.088/M input tokens
$0.088/M output tokens
יש גם חברות שנותים לך GPU כSaaS ואתה משלם לפי שניה\שעה של שימוש בלי שמידע יוצא החוצה