התייעצות לגבי רכישה של מחשב | תשתית לשנים קדימה בעידן ai

[צבי-ש]

התחלתי לחשוב על מחשב חדש (macbook), ואני דיי אבוד בקטע הזה

עריכה: כיום יש לי מחשב נייד, (2022) MacBook Pro 13 m2, אחסון 512, 16 ראם

1 האם אני צריך לשדרג ללפחות 48 ראם, מעבד מפלצתי, ו1 טרה או 2 זיכרון כדי להתכונן לעידן של מודלים מקומיים רצים על המחשב שלי?
2 או שלהיפך, אני יכול להישאר עם אותו סגנון שיש לי, כי המודלים יעברו התכווצות, ויתאימו למחשבים חלשים יותר, וכן יהיה חיבורים ישירות לענן כמו היום שלא בהכרח מצריכים מחשבים הכי חזקים

הבעיה העיקרית שזה נע בין בערך המחשב כמעט הכי חלש של אפל בתצורת m5 שהוא טוב טיפה יותר ממה שיש לי כיום, ואז אני מסיים סיפור ב5 אלף בערך, לבין מחשבים של 12 וצפונה..

[dovid]

הקדמה: א. זוהי רק דעתי ב. אני לא מכיר mac ג. אני בהשקפה שהעתיד, בכל ולענייננו בAI, בענן/שירות. ולכן:
אחסון קח כמה שיותר שהתקציב מאפשר לך, כי המחירים של האחסון בינתיים רק עולים, ככה זה סוג של השקעה בחיסכון.
זיכרון כדאי 48, לי יש 64. זה לא כל כך הרבה גם בלי AI.
מעבד, לא משנה, שיהיה נורמלי.
מעבד גרפי - עדיפות (קטנה) שיהיה משהו טוב. זה גם טוב לAI וגם לעוד דברים בפיתוח והאקינג, מאמין שיהיה לך לתועלת.

[יעקב2]

@צבי-ש כתב:

התחלתי לחשוב על מחשב חדש (macbook), ואני דיי אבוד בקטע הזה

לא ברור אם נייד או נייח

1 האם אני צריך לשדרג ללפחות 48 ראם, מעבד מפלצתי, ו1 טרה או 2 זיכרון כדי להתכונן לעידן של מודלים מקומיים רצים על המחשב שלי?
2 או שלהיפך, אני יכול להישאר עם אותו סגנון שיש לי, כי המודלים יעברו התכווצות, ויתאימו למחשבים חלשים יותר, וכן יהיה חיבורים ישירות לענן כמו היום שלא בהכרח מצריכים מחשבים הכי חזקים

כמו ש @dovid אמר הכל הולך לענן, המודלים רק נהיים יותר ויותר מפלצתיים

הבעיה העיקרית שזה נע בין בערך המחשב כמעט הכי חלש של אפל בתצורת m5 שהוא טוב טיפה יותר ממה שיש לי כיום, ואז אני מסיים סיפור ב5 אלף בערך, לבין מחשבים של 12 וצפונה..

גם אני פחות מכיר אפל ודווקא המעבדים החדשים של אינטל יש להם פלוס לAI אבל שוב לדעתי הכל הולך לענן
מבחינת אחסון וראם איני יודע את העתיד המחירים כרגע מטורפים אבל לדעתי עוד שנתיים יתחילו לרדת חזרה מצד שני מי יודע...
דווקא בקטע של ראם ידוע שאפל יחסית מתונה
לא מספיק ברור מה השימושים שלך בשביל להבין כמה ראם ואחסון אתה צריך

[yossiz]

@dovid כתב:

כי המחירים של האחסון בינתיים רק עולים, ככה זה סוג של השקעה בחיסכון

התקווה הוא שההצע יתאים עצמו מחדש לביקוש בשנים הקרובות והמחירים ירדו שוב

(אגב, אני מרגיש עלוב מאוד עם ה-16GB שלי... ויש עוד אנשים שמסתובבים בינינו עם 8GB...)

[Mordechay]

@צבי-ש לענ"ד לא סביר שמודלים חזקים יוכלו לעבוד עם קצת ראם אבל בכל מקרה זה ממש לא דבר יעיל אין שום צורך במודלים מקומיים, הכל עובד בענן הרבה יותר טוב (באופן כללי אני חושב שהרבה יותר חכם לעבוד עם שרת חזק מאוד בבית ועם מחשב נייד הכי חלש שאפשר ואת הדברים הכבדים להריץ על השרת, נראה לי שזה האסטרטגיה שהכי הולכת היום, אבל שוב זה רק דעתי)

[י.פל.]

אני חושב שזה לא נכון, במחילה.
כיום, עם לא המון ram, אתה יכול להריץ מודלים שעוקפים בהרבה את gpt 3.5 המפורסם...
אממה, הוא לא שווה כלום בקוד. נכון.
אבל בעתיד הלא-רחוק, מודל שמשתווה לפייבל 5 יוכל לרוץ מקומית.
אלא מה? יהיו אז מודלים agi? בשבילך, לא תצטרך את זה למשימות קידוד נורמליות - תוכל להריץ הכל מקומית, בלי מגבלות תקציב...
בשביל משימות שיצטרכו agi, יהיה לך מנוי. בשביל מה שלא - תשתמש בענן.
נשארה רק תעלומה ״קטנה״ - מה יהיו המשימות הללו...

[שאלתיאל]

@yossiz ומה רע ב16?

[שאלתיאל]

@י.פל. ומתי אתה חושב שנגיע לAGI?

[צבי-ש]

@יעקב2 כתב:

לא ברור אם נייד או נייח

צודק, היה חסר פרטים, ערכתי והוספתי בפוסט הראשון, מחפש מחשב נייד

@יעקב2 כתב:

לא מספיק ברור מה השימושים שלך בשביל להבין כמה ראם ואחסון אתה צריך

תכנות בעידן ai.. הרבה סוכנים, הרבה פרויקטים במקביל בדוקר לבדיקות, וכרטיסיות בדפדפן

@י.פל. כתב:

נשארה רק תעלומה ״קטנה״ - מה יהיו המשימות הללו...

זה העניין.. אני מנסה כמה שיותר לחשוב אפילו לטווח קצר של למשל שנתיים, ואני כבר מאבד ראש,

אולי האשמה בי, שפתחתי את הפוסט מוקדם מידי לפני שהצדדים עצמם היו ברורים לי כל צורכם, ואני מבקש סליחה מכלל הציבור דכאן, אבל אני ניסתי לבדוק במשך כמה ימים עם עצמי וכל פעם באתי לתובנה אחרת וחוזר חלילה

זה ממש מבלבל, כבר נהיה קשה פתאום להגדיר מה צריך ממחשב בעידן של היום, שאי אפשר לעשות לו אאוטסורסינג לאיזה שרת פשוט עם הפרויקט וקלוד קוד מחובר, כי כבר אין לך תמיד את הצורך להריץ בעצמך דוקר לוקאלית ולראות כל שינוי, כל החלקים של כתיבת הקוד עברו ממך (חשוב לעבור על מה הוא שינה, אבל לא חייבים מחשב לכל דבר),
ואתה לא צריך לשנות ולראות בלייב מה שינת ואז להמשיך וכדומה, אלא זה סט הוראות שאתה נותן, חוזר אחרי שהוא מסיים ומאשר/ מגדיר שינויים בכמה דקות וממשיך הלאה,

אז כן, אפשר להשאיר את המחשב ער ושיתפקד כשרת בעצמו / לגשת לוקאלית לעצמו כשאתה ליידו,
אבל אני בטוח שיש דרכים יותר נכונות לעבוד כשהדברים בשרת ושחושבים עליהם ככאלו, שאין אותם בהכרח בmacos שנועד לעבוד ממנו ולא לתפקד כשרת

[י.פל.]

@שאלתיאל כתב:

ומתי אתה חושב שנגיע לAGI?

מה זה רלוונטי לנושא?
סם אלטמן טוען שGPT 6 הוא התחלת העידן. תאמין לו...

כשאני קורא את ההודעות הבאות שלך, לא ברור לי למה אתה צריך MAC בכלל - נראה שאתה צריך לינוקס...