Load balance עם NGINX + PM2

[מנצפך]

@nigun
לא הובנתי נכון.

ה nginx רץ בתהליך אחד כרגיל.
הנושא הוא רק להריץ את התהליך Nodejs של השרת שלי כמה פעמים.
או להשתמש ב cluster mode (שבעצם pm2 אמור לדעת להפעיל אותו לבד, אם הגדרתי)

שרת, אין כוונתי למכונה, אלא לתהליך.

[dovid]

א. אכן כל התהליכים יכולים להאזין לאותו פורט (זה לא באמת, יש מסטר שכנראה הPM2 יוצר שמאזין וכולם תהליכי משנה שלו והם מקבלים לעבודה בקשות שהמסטר קיבל).
ב. לא צריך לשנות כלןם בNGINX, כי זה חלוקת עומסים ברמת האפליקציה
ג. בNGINX אני חושב שגם אתה יכול לעשות ריסטרט בלי לעצור באמצע בקשה, בתנאי שאתה סוגר את התהליך בkill עדין, אני לא בטוח בזה.

[nigun]

@dovid אמר בLoad balance עם NGINX + PM2:

בתנאי שאתה סוגר את התהליך בkill עדין, אני לא בטוח בזה.

kill עדין? מה זה?

[מנצפך]

@dovid אתה מתכוון ריסטרט לnginx עצמו? (כגון בשינוי הגדרות) או לתהליך ש nginx מנתב אליו?

[Men770]

טעינת ההגדרות מחדש נעשית כך:

sudo systemctl nginx reload

או בWindows:

./nginx reload

יחי המלך!

[מנצפך]

@men770
השאלה לא היתה איך טוענים מחדש, אלא לאיזה טעינה הוא התכוון.

בכל אופן, מה שכתבת עושה ריסטרט לnginx. ממש לא מומלץ בזמן ריצה.
בשביל לטעון מחדש משתמשים ב

 nginx -s reload

[dovid]

@מנצפך אני מתכוון לתהליך של נוד.

@nigun בkill יש כמה סוגים, יש בקשת סגירה בה נדמה לי הserver מטפל ומחכה לסגירת החיבורים ואז מודיע על סגירתו ואז הנוד משחרר את עצמו ונסגר, ויש את kill 9 שלא נותן ליישום בכלל זמן להתארגן, אני לא יודע פרטים מדוייקים.

@Men770 המילים יחי המלך הם לגיטמיים בחתימה ולא בהודעה עצמה, והם אכן כבר מופיעים בחתימה. מה הרעיון לכפול? אנא הימנע מכך.

[dovid]

@מנצפך הreload ש@Men770 עושה בדיוק את אותה פעולה, זה אותה פקודה בדרך מודרנית יותר (זה לא restart כמו שנראה במבט ראשון).

[nigun]

@dovid אמר בLoad balance עם NGINX + PM2:

@nigun בkill יש כמה סוגים, יש בקשת סגירה בה נדמה לי הserver מטפל ומחכה לסגירת החיבורים ואז מודיע על סגירתו ואז הנוד משחרר את עצמו ונסגר, ויש את kill 9 שלא נותן ליישום בכלל זמן להתארגן, אני לא יודע פרטים מדוייקים.

חיפשתי על זה קצת
יש הבדל בין פקודת kill שנועד לשלוח את כל סוגי הסיגנאלים לתהליך
לבין SIGKILL שזה הסיגנאל למערכת הפעלה להרוג את התהליך מבחוץ, ואם רוצים לשלוח את SIGKILL עם שורת הפקודה צריך לשלוח kill -9.
לחלופין אם רוצים לשלוח SIGINT צריך לשלוח kill -2 וכן הלאה, אפשר לראות כאן עוד אפשרויות.
מקור

[מנצפך]

לגבי Clusster ב PM2
אני לא מבין מה הדרך שהוא גורם לכל המופעים להאזין לכל הפורטים?
יש למישהו הסבר?
(עדיין לא הצלחתי להוכיח שבאמת כולם מאזינים וה Reload עובד כראוי)

[אהרן]

@מנצפך אמר בLoad balance עם NGINX + PM2:

אני לא מבין מה הדרך שהוא גורם לכל המופעים להאזין לכל הפורטים?

מה חסר לך בהסבר הזה?

@dovid אמר בLoad balance עם NGINX + PM2:

כולם תהליכי משנה שלו והם מקבלים לעבודה בקשות שהמסטר קיבל

התהליך המרכזי משמש רק כמרכזיה (אם כך מגדירים אותו, זו לא הגדרה בהגדרה פשוט מכניסים התניה בתחילת הקוד אם הוא הרצת המאסטר תעשה כך ואם משנה אז כך).

[מנצפך]

@אהרן
אבל התהליך צריך להאזין לאיזשהו פורט.
אני פשוט לא מכיר את התמיכה של nodejs ב cluster
אבל לא חשבתי שזה מאפשר לכולם לרוץ על אותו פורט.

אעשה עוד בדיקות

[אהרן]

למה אתה חושב ש:
@מנצפך אמר בLoad balance עם NGINX + PM2:

אבל התהליך צריך להאזין לאיזשהו פורט.

מחייב
@מנצפך אמר בLoad balance עם NGINX + PM2:

זה מאפשר לכולם לרוץ על אותו פורט.

זה מאזין לפורט שאתה מגדיר בהרצת האפליקציה, מה אכפת לך איך הוא מתקשר עם תהליכי המשנה?

[מנצפך]

בהמשך ל cluster- מי עושה את הloadbalance כשאני משתמש ב cluster של NodeJS?

כלומר, האם יש לי שליטה על החלוקה בין תהליכי המשנה?
כי הרצון שלי הוא שלא יהיה עומס של RAM ו CPU על אף תהליך.

[yossiz]

@מנצפך אמר בLoad balance עם NGINX + PM2:

עומס של RAM

לא עקבתי אחרי האשכול ואני לא מכיר פתרונות של חלוקת עומסים, רק הפליא אותי המשפט הזה. מה איכפת לך איך הראם מחולק בין התהליכים, בסוף אתה תצריך אותו כמות של ראם? ריבוי תהליכים רק תשתמש ביותר ראם עבור אותם פעולות, לכאורה?

[dovid]

@yossiz לא מדובר על עומס לגיטימי, אלא על עליה לא מוסברת שמתרחשת לפרקים. הוא מגדיר למשל שאם תהליך עובר כמות של RAM הוא מתבקש להיסגר. ובינתיים האפליקציה ממשיכה לעבוד עם התהליכים האחרים.

[מנצפך]

לסיכום:
בשביל PM2 צריך לעשות כך:
אין צורך לשנות את הקוד . יש רק להריץ את התהליך ב cluster mode.
בשביל לבצע reload ללא חשש של נפילה של בקשות חשובות באמצע (כגון ביצוע עיסקאות, או עדכונים במסד נתונים), יש להאזין ל SIGINT, ברגע שאני מקבל SIGINT, אני סוגר את השרת (את התהליך הנוכחי) לקבלת בקשות חדשות, (ע"י מתודת close), וממילא NodeJs יעביר את הבקשות לשרת השני.
חשוב להגדיר ל PM2 את הזמן לביצוע kill לאחר ה SIGINT, כי הזמן הדפולטיבי ייתכן שלא יספיק. (לכאורה אין בעיה לעשות KILL גם לאחר עשרות שניות).
במידה ואכן מבצעים עדכונים ל DB או שמבצעים שאילתות חשובות החוצה (כנ"ל), אולי כדאי להגדיר Flag גלובלי, שמראה מתי מחכים לתשובה, ולבצע timer כל עוד שהוא למעלה, ברגע שהוא למטה, אפשר לסגור את התהליך ב process.exit

אשמח לחוו"ד

[מנצפך]

בשביל לסגור את השרת מבלי לאבד בקשות קיימות, יש להשתמש פשוט ב:

  server.close(err => {
        console.log('Closed. ', err);
        process.exit(0);
    })

זה מחזיר callbcak ברגע שכל הבקשות הסתיימו והוחזרו. ובקשות חדשות לא מתקבלות ברגע שעושים close

[מנצפך]

אגב, השימוש ב cluster ב PM2 הוא שימושי מאוד לא דווקא כשרוצים scale. אלא בכלל בשביל zero time down.
כלומר, גם אם מריצים רק instance אחד, כשעושים reload אז PM2 יודע להרים מופע נוסף ורק אז לסגור את הישן.