איפה כדאי לשכור שרת חזק?

[אף אחד 3]

בזמן האחרון אני משתעשע עם מודלי בינה מלאכותית שונים ליצירת תמונות, טקסטים וכו'
הבעיה היא שהמחשב שלי חלש מידי והם עובדים ממש לאט אם בכלל
לכן, חשבתי לחפש שרת חזק ולשכור אותו כ pay as you go ובתקווה שזה לא יעלה לי יותר מידי (4 דולר לשעה זה המקסימום שלי)
השאלה מתחלקת כאן לשניים
א. עד כמה השרת אמור להיות חזק כדי להריץ את הנ"ל?
ב. איפה זול ונוח להקים כזה?
תודה

[יעקב2]

@אף-אחד-3 מה זה משתמש CPU או GPU ?

[אף אחד 3]

@יעקב2 בעיקר GPU

[יעקב2]

@אף-אחד-3 מאמין שזה לא יהיה זול אני לא התעסקתי מעולם עם GPU

[צדיק תמים]

@אף-אחד-3 אתה יכול כל פעם לפתוח בחברה אחרת ולחגוג על הקרדיט שהם נותנים לחשבון חדש, ואז למחוק את השרת
לדוגמה גוגל נותנים 300 דולר ל90 יום, דיגיטל אושן 200 ל60 יום (אבל יש מגבלה איזה מפרט אפשר לפתוח...), וכן הלאה

[EMN]

azure ml
שירות AZURE שמספק VMs שמיועדים עבור ML
אני לא זוכר את כל המחירים, רק זוכר ש nvidia tesla k80 עולה 0.9$ לשעה
תומך בחיבור ישיר ל vscode

[nigun]

@אף-אחד-3
כאן יש לך לפי שניה\דקה
https://replicate.com/pricing

[aaron]

יש לך גם את https://www.paperspace.com/pricing?tab=core-plans, חברת בת של דיגיטל אושן.

אבל בתור התחלה הייתי ממליץ לנסות פתרונות מבוססי jupyter notebook, למשל https://colab.google/notebooks/

[NH.LOCAL]

@aaron כתב באיפה כדאי לשכור שרת חזק?:

אבל בתור התחלה הייתי ממליץ לנסות פתרונות מבוססי jupyter notebook, למשל https://colab.google/notebooks/

גוגל קולאב חסום בנטפרי. אפשר גם להשתמש בפעולות גיטהאב, אבל המעבד שעליו הוא רץ, די חלש באופן יחסי

[אף אחד 3]

@NH-LOCAL כתב באיפה כדאי לשכור שרת חזק?:

אפשר גם להשתמש בפעולות גיטהאב

אם כבר הייתי משתמש ב huggingface

[שמואל4]

@אף-אחד-3 כתב באיפה כדאי לשכור שרת חזק?:

בזמן האחרון אני משתעשע עם מודלי בינה מלאכותית שונים ליצירת תמונות, טקסטים וכו'
הבעיה היא שהמחשב שלי חלש מידי והם עובדים ממש לאט אם בכלל
לכן, חשבתי לחפש שרת חזק ולשכור אותו כ pay as

למה לא לקנות מחשב טוב?
לא תגיע לביצועים טובים בשרתים, מה גם שזה כאב ראש גדול, כל הרעיונות שהוצעו פה לא מספקים לדעתי.

לעבור בין חברות בשביל הקרדיט - גרוע.
לפי שעה - ומה אם חודש אחד זה יעלה 500$.

גם לא נראה שיש דברים לפי שעה עם GPU עוצמתי. תשקיע על מחשב טוב מקומי ושלום.
הטענה שלך לא באמת דורשת סביבת ענן, אתה אומר מפורש שאתה משתמש בזה במחשב שלך במקומי וזה הצורך. לדעתי להתעסק בשרתים רק כי זה נשמע "שרת", זה טעות במקרה הזה.

[nigun]

@שמואל4 כתב באיפה כדאי לשכור שרת חזק?:

גם לא נראה שיש דברים לפי שעה עם GPU עוצמתי.

Nvidia 8x A40 לא נחשב מספיק?
כמה עולה מחשב עם מעבד כזה?

עריכה: בדקתי באמזון עולה GPU "פשוט" Nvidia T4 כ1200 דולר (לפני מיסים) לשכור את הGPU הזה עולה $0.00055 לשניה
כך יוצא שיצטרך להריץ את המעבד הזה בערך 600 שעות כדי שיהיה שווה לקנות אותו.
לקנות את הNvidia 8x A40 עולה 4000$ ועולה $0.00471 לשניה

[שמואל4]

@nigun כתב באיפה כדאי לשכור שרת חזק?:

בערך 600 שעות כדי שיהיה שווה לקנות אותו.

תקח בחשבון ש600 שעות זה פחות מחודש אחד, זה אומר שמי שרוצה לעשות משהוא עם מחשב חזק, ואני מתכוון באמת לעשות משהוא, צריך לקנות אחד כזה.
אני לא חושב שכל הרעיון הזה הגיוני.

[nigun]

@שמואל4 כתב באיפה כדאי לשכור שרת חזק?:

תקח בחשבון ש600 שעות זה פחות מחודש אחד, זה אומר שמי שרוצה לעשות משהוא עם מחשב חזק, ואני מתכוון באמת לעשות משהוא, צריך לקנות אחד כזה.

תלוי מה הוא רוצה לעשות, אם הוא רוצה לאמן מודל אז הוא צריך הרבה שעות הפעלה
אבל אם הוא רק רוצה לייצר תמונות/טקסט הוא לא מריץ את המודל 24/7 ויקח לו הרבה זמן להגיע ל600 שעות

[אף אחד 3]

@שמואל4 כתב באיפה כדאי לשכור שרת חזק?:

@אף-אחד-3 כתב באיפה כדאי לשכור שרת חזק?:

בזמן האחרון אני משתעשע עם מודלי בינה מלאכותית שונים ליצירת תמונות, טקסטים וכו'
הבעיה היא שהמחשב שלי חלש מידי והם עובדים ממש לאט אם בכלל
לכן, חשבתי לחפש שרת חזק ולשכור אותו כ pay as

למה לא לקנות מחשב טוב?
לא תגיע לביצועים טובים בשרתים, מה גם שזה כאב ראש גדול, כל הרעיונות שהוצעו פה לא מספקים לדעתי.

לעבור בין חברות בשביל הקרדיט - גרוע.
לפי שעה - ומה אם חודש אחד זה יעלה 500$.

גם לא נראה שיש דברים לפי שעה עם GPU עוצמתי. תשקיע על מחשב טוב מקומי ושלום.
הטענה שלך לא באמת דורשת סביבת ענן, אתה אומר מפורש שאתה משתמש בזה במחשב שלך במקומי וזה הצורך. לדעתי להתעסק בשרתים רק כי זה נשמע "שרת", זה טעות במקרה הזה.

כמו שכתבתי, אני רק משתעשע בדברים האלו ולא בצורה רצינית
אני לא מתכוון להשקיע בזה יותר מ 200 שקל ואם יש משהו שיעלה לי 4 דולר לשעה, זה יספיק לי ל 13 שעות שזה יספיק לי בדוחק

[nigun]

@אף-אחד-3
יש את הפלטפורמה הזאת שבה מתווכים בין שוכרים למשכירים לפי שעה
אם היה לי מידע סודי כנראה שלא הייתי סומך שהמידע לא ידלוף אבל אם אתה סתם רוצה לייצר תמונות נראה שאין הרבה מה להפסיד
https://cloud.vast.ai

[אף אחד 3]

@nigun נשמע מעניין, אבדוק.
אני כרגע נופש אז לא כל כך יצא לי לבדוק את כל מה ששלחו כאן אבל אבדוק בהזדמנות הקרובה