@dovid כתב בLLM (לא כבד מידי) שתומך בעברית + rag, מישהו מכיר?:
@eido כתב בLLM (לא כבד מידי) שתומך בעברית + rag, מישהו מכיר?:
לא צריך בקשות, זה cli
לא פיללתי שcli יותר טוב מבקשות.
יותר מהיר, לא? ככה לפחות נראה לי.
הבעיה עם API זה בעיקר המחיר, כי זה כולל המרה לטקסט, שאילתא והמרה חזרה לאודיו.
לולי האודיו המחיר ממש ממש נמוך, ואם להמרה מאודיו לטקסט וחזרה אתה רוצה AI מקומי, אז תדע שאפילו בשירות חיצוני זה רחוק מלהיות מושלם, אני ממש מתפלא אם יהיה משהו מקומי נורמלי.
נכון, אבל בגלל שזה כולל אודיו, אז זה משמועתי. וגם הדיבור של ג'ימני בלייב, ל אלטעמי.