פרטיות ב AI
-
שלום חברים.
אני מנסה לעשות לעצמי סדר בנושא הפרטיות וההרשאות שאנו/אני מעניק/ים לכלי ה AI.
רוב ככל המשתמשים בגימייל שולחים חופשי דרך המייל מידע אישי, מאגרים מידע של לקוחות (אקסלים הכוללים מידע ומספרי טלפון של לקוחות) קודי גישה ועוד.
ומסתמכים שאיכשהו גוגל לא תשתמש בזה וזה לא ידלוף.
כשאני משתמש בכלי AI כגון קלוד וקלוד קוד אני נוטה מטבעי להיות שמרן ואני לא מעלה לו מידע של לקוחות.
למשל רציתי לעבד איזה אקסל עם מספרי טלפון של לקוחות אז נתתי לי אקסל תבנית ללא המספרים והנחיתי אותו להכין לי גליון שהעתיק לשם את המספרים והנוסחה תעשה את שלה במחשב שלי.
אם הייתי מעלה לו את האקסל המלא הוא היה יכול לתת לי ישירות את הפלט הרצוי.
ניתן להעלות תמונה אישית ולבקש לכלי AI לשנות רקע וכדומה, אני מסתייג מזה, לא אוהב את הרעיון שתמונה שלי נמצאת שם, למרות שבדרייב יש לי חופשי..
וכן בקלוד קוד, אני נותן לו הרשאות גישה רק לקבצים ללא סיסמאות וכדומה (עד שAI התערב לנו בחיים לא עבדתי עם משתני סביבה אלא סיסמאות גישה כמו של היוזר mysql היו יכולים להיות מוקשחים בקוד), וכן אני לא נותן לו לגשת ל SSH ישירות לשרת אלא רק אני מעלה ומעדכן תהליכים בשרת וכו'.
החיים היו יכולים להיות קלים יותר אם אתן לו גישה בעיניים עצומות, אבל..
וכאן נשאלת לי השאלה מהו ה"אבל" הזה והאם זה נכון.
אחלק לשתיים.
יש חשש שהוא יעשה טעות, כשהוא ייגש לשרת ויעשה פעולה לא רצוייה זה מסוכן, יכול למחוק שורות וטבלאות וכדומה, אז אם אנחנו ברורים בהנחיות והוא מציג לי מראש בדיוק מה שיעשה לכאורה זה בסדר.
נותר בעיקר שאלת הפרטיות.
מרגיש לי הבדל בין גמייל וכדומה לAI וכדומה, כי גמייל משמש לאחסון קר כביכול, המידע שלי אמור להיות רק בשימוש שלי, אבל כלי AI מעבדים את המידע כדי להתייעל ולכן יהיה יותר שימוש במידע שלי וכן יש חשש של דליפה שאח"כ מנוי אחר ישאל איך לעשות כך וכך הוא יהיה השלמה אוטומטית של טוקן שהוא ראה בקוד שלי וכדומה.
ואציין שכבר גם עם גימייל אני מרגיש לו בנוח, כי אני נכנס לתיקייה בדרייב וגמיני מציג לי סיכום של תוכן הקבצים (של לקוחות) הקיים שם, הוי אומר שהוא מעבד את זה.
האם אני צודק או אני סתם פרנואיד פרייער שעובד קשה?
יש דרכים שניתן כן להעלות מידע אמיתי ללא הסתרת שמות ומספרים ולדעת שזה לא יוצא ממנו? שהמנהל של אנתרופיק לא יגשש לי בצ'אטים ולא יפרסם את התמונה שלי ולא ישפר את הכלים מהמידע שלי.
נושא כזה יכול לגרור דיונים אין סופיים, אבל אני לא מתכווין לזה אלא מידע מקצועי האם נכון להשתמש ללא חשש או שכן כדאי להסתייג.
תודה -
שלום חברים.
אני מנסה לעשות לעצמי סדר בנושא הפרטיות וההרשאות שאנו/אני מעניק/ים לכלי ה AI.
רוב ככל המשתמשים בגימייל שולחים חופשי דרך המייל מידע אישי, מאגרים מידע של לקוחות (אקסלים הכוללים מידע ומספרי טלפון של לקוחות) קודי גישה ועוד.
ומסתמכים שאיכשהו גוגל לא תשתמש בזה וזה לא ידלוף.
כשאני משתמש בכלי AI כגון קלוד וקלוד קוד אני נוטה מטבעי להיות שמרן ואני לא מעלה לו מידע של לקוחות.
למשל רציתי לעבד איזה אקסל עם מספרי טלפון של לקוחות אז נתתי לי אקסל תבנית ללא המספרים והנחיתי אותו להכין לי גליון שהעתיק לשם את המספרים והנוסחה תעשה את שלה במחשב שלי.
אם הייתי מעלה לו את האקסל המלא הוא היה יכול לתת לי ישירות את הפלט הרצוי.
ניתן להעלות תמונה אישית ולבקש לכלי AI לשנות רקע וכדומה, אני מסתייג מזה, לא אוהב את הרעיון שתמונה שלי נמצאת שם, למרות שבדרייב יש לי חופשי..
וכן בקלוד קוד, אני נותן לו הרשאות גישה רק לקבצים ללא סיסמאות וכדומה (עד שAI התערב לנו בחיים לא עבדתי עם משתני סביבה אלא סיסמאות גישה כמו של היוזר mysql היו יכולים להיות מוקשחים בקוד), וכן אני לא נותן לו לגשת ל SSH ישירות לשרת אלא רק אני מעלה ומעדכן תהליכים בשרת וכו'.
החיים היו יכולים להיות קלים יותר אם אתן לו גישה בעיניים עצומות, אבל..
וכאן נשאלת לי השאלה מהו ה"אבל" הזה והאם זה נכון.
אחלק לשתיים.
יש חשש שהוא יעשה טעות, כשהוא ייגש לשרת ויעשה פעולה לא רצוייה זה מסוכן, יכול למחוק שורות וטבלאות וכדומה, אז אם אנחנו ברורים בהנחיות והוא מציג לי מראש בדיוק מה שיעשה לכאורה זה בסדר.
נותר בעיקר שאלת הפרטיות.
מרגיש לי הבדל בין גמייל וכדומה לAI וכדומה, כי גמייל משמש לאחסון קר כביכול, המידע שלי אמור להיות רק בשימוש שלי, אבל כלי AI מעבדים את המידע כדי להתייעל ולכן יהיה יותר שימוש במידע שלי וכן יש חשש של דליפה שאח"כ מנוי אחר ישאל איך לעשות כך וכך הוא יהיה השלמה אוטומטית של טוקן שהוא ראה בקוד שלי וכדומה.
ואציין שכבר גם עם גימייל אני מרגיש לו בנוח, כי אני נכנס לתיקייה בדרייב וגמיני מציג לי סיכום של תוכן הקבצים (של לקוחות) הקיים שם, הוי אומר שהוא מעבד את זה.
האם אני צודק או אני סתם פרנואיד פרייער שעובד קשה?
יש דרכים שניתן כן להעלות מידע אמיתי ללא הסתרת שמות ומספרים ולדעת שזה לא יוצא ממנו? שהמנהל של אנתרופיק לא יגשש לי בצ'אטים ולא יפרסם את התמונה שלי ולא ישפר את הכלים מהמידע שלי.
נושא כזה יכול לגרור דיונים אין סופיים, אבל אני לא מתכווין לזה אלא מידע מקצועי האם נכון להשתמש ללא חשש או שכן כדאי להסתייג.
תודה@חוקר אתה משתמש במנויים בתשלום או חינמי? במנויים חינמיים בהחלט יש מה לחשוש לכאו' כיון שהמידע עלול לשמש לאימון (עיין במדיניות הפרטיות של ספקי הAI השונים)
במנוי בתשלום אני חושב שיש ספקים שעדיין מצהירים שהם יכולים להשתמש לאימון אלא אם כן משלמים על רמה גבוהה יותר מהתשלום הבסיסילמעשה את המידע המדוייק אילו חברות משתמשות לאימון ובאילו תוכניות אני לא זוכר כרגע מדוייק, אבל עיקר מה שאני בא לכתוב זה שלדעתי כל עוד לא משתמשים בנתונים לאימון אין חילוק בין שמירה של המידע בדרייב לבין שימוש בAI, אם משתמשים לאימון כמובן שזה כבר בהחלט בעייתי
-
שלום חברים.
אני מנסה לעשות לעצמי סדר בנושא הפרטיות וההרשאות שאנו/אני מעניק/ים לכלי ה AI.
רוב ככל המשתמשים בגימייל שולחים חופשי דרך המייל מידע אישי, מאגרים מידע של לקוחות (אקסלים הכוללים מידע ומספרי טלפון של לקוחות) קודי גישה ועוד.
ומסתמכים שאיכשהו גוגל לא תשתמש בזה וזה לא ידלוף.
כשאני משתמש בכלי AI כגון קלוד וקלוד קוד אני נוטה מטבעי להיות שמרן ואני לא מעלה לו מידע של לקוחות.
למשל רציתי לעבד איזה אקסל עם מספרי טלפון של לקוחות אז נתתי לי אקסל תבנית ללא המספרים והנחיתי אותו להכין לי גליון שהעתיק לשם את המספרים והנוסחה תעשה את שלה במחשב שלי.
אם הייתי מעלה לו את האקסל המלא הוא היה יכול לתת לי ישירות את הפלט הרצוי.
ניתן להעלות תמונה אישית ולבקש לכלי AI לשנות רקע וכדומה, אני מסתייג מזה, לא אוהב את הרעיון שתמונה שלי נמצאת שם, למרות שבדרייב יש לי חופשי..
וכן בקלוד קוד, אני נותן לו הרשאות גישה רק לקבצים ללא סיסמאות וכדומה (עד שAI התערב לנו בחיים לא עבדתי עם משתני סביבה אלא סיסמאות גישה כמו של היוזר mysql היו יכולים להיות מוקשחים בקוד), וכן אני לא נותן לו לגשת ל SSH ישירות לשרת אלא רק אני מעלה ומעדכן תהליכים בשרת וכו'.
החיים היו יכולים להיות קלים יותר אם אתן לו גישה בעיניים עצומות, אבל..
וכאן נשאלת לי השאלה מהו ה"אבל" הזה והאם זה נכון.
אחלק לשתיים.
יש חשש שהוא יעשה טעות, כשהוא ייגש לשרת ויעשה פעולה לא רצוייה זה מסוכן, יכול למחוק שורות וטבלאות וכדומה, אז אם אנחנו ברורים בהנחיות והוא מציג לי מראש בדיוק מה שיעשה לכאורה זה בסדר.
נותר בעיקר שאלת הפרטיות.
מרגיש לי הבדל בין גמייל וכדומה לAI וכדומה, כי גמייל משמש לאחסון קר כביכול, המידע שלי אמור להיות רק בשימוש שלי, אבל כלי AI מעבדים את המידע כדי להתייעל ולכן יהיה יותר שימוש במידע שלי וכן יש חשש של דליפה שאח"כ מנוי אחר ישאל איך לעשות כך וכך הוא יהיה השלמה אוטומטית של טוקן שהוא ראה בקוד שלי וכדומה.
ואציין שכבר גם עם גימייל אני מרגיש לו בנוח, כי אני נכנס לתיקייה בדרייב וגמיני מציג לי סיכום של תוכן הקבצים (של לקוחות) הקיים שם, הוי אומר שהוא מעבד את זה.
האם אני צודק או אני סתם פרנואיד פרייער שעובד קשה?
יש דרכים שניתן כן להעלות מידע אמיתי ללא הסתרת שמות ומספרים ולדעת שזה לא יוצא ממנו? שהמנהל של אנתרופיק לא יגשש לי בצ'אטים ולא יפרסם את התמונה שלי ולא ישפר את הכלים מהמידע שלי.
נושא כזה יכול לגרור דיונים אין סופיים, אבל אני לא מתכווין לזה אלא מידע מקצועי האם נכון להשתמש ללא חשש או שכן כדאי להסתייג.
תודה@חוקר אתה לא פרנואיד בכלל, אבל הנושא פה הוא לא "האם ייתכן" אלא מה עומד על כף מאזניים.
החשש הגדול הוא דליפת נתונים (על ידי פריצה או עקיפת מדיניות או כשל התנהגות), או ניצול נתונים לרעה. אין חשש של דליפה אקראית למשתמש אחר.
נניח האקסל הזה ידלוף. מה הכי גרוע שיכול להיות? וזה הרי סיכוי קלוש מאוד.
זה מה שאמור להנחות מישהו שפועלת שכלית וגם מטבעו לא ריזיקלי. וזה אומר שרוב הדברים אין מניעה לשתף, אבל לא לתת גישה סתם ולהכל.
אני, שאני לוקח סיכונים מטבעי ובטעות הרבה פעמים פירמטתי מידע, משתמש בfull, בלי שום גדר או מניעה. -
@חוקר אתה לא פרנואיד בכלל, אבל הנושא פה הוא לא "האם ייתכן" אלא מה עומד על כף מאזניים.
החשש הגדול הוא דליפת נתונים (על ידי פריצה או עקיפת מדיניות או כשל התנהגות), או ניצול נתונים לרעה. אין חשש של דליפה אקראית למשתמש אחר.
נניח האקסל הזה ידלוף. מה הכי גרוע שיכול להיות? וזה הרי סיכוי קלוש מאוד.
זה מה שאמור להנחות מישהו שפועלת שכלית וגם מטבעו לא ריזיקלי. וזה אומר שרוב הדברים אין מניעה לשתף, אבל לא לתת גישה סתם ולהכל.
אני, שאני לוקח סיכונים מטבעי ובטעות הרבה פעמים פירמטתי מידע, משתמש בfull, בלי שום גדר או מניעה.החשש הגדול הוא דליפת נתונים
אני לא מהדור שזוכר איך המייל נכנס לחיים, ולא יודע איך הסתכלו וחששו ממנו בהתחלה.
שמעתי פעם באיזה כנס מישהו דברים על מושגים בעבודה ואבטחה ונתן דוגמא שיש מקומות עבודה שאינם מאפשרים לעבוד עם גימייל אלא רק עם שרת מיילים עצמאי מחשש לזליגת המידע..בא נגיד כששלחתי טוקן במייל החששות הן שמא יפרצו לי למייל ושמא יפרצו לגוגל אך החשש שגוגל עצמו יעשו שימוש בזה היה רחוק ולא עלה כמעט במחשבה, כי למה להם לסכן את החברה על כך.
לעומת זאת ב AI מלבד החששות הנ"ל נוסף חשש שמא יעבדו את המידע, ושמא הוא יזלוג למשתמשים אחרים (והיו דברים מעולם חוקרים שונים שהצליחו (או כמעט) לגרום להשלמות קוד אולי בקופילוט או בכלי אחר, לא זוכר, שיחזיר דוגמת טוקן ממשתמש אחר) אך יתרה מזאת, לכלי AI ישנה עצמאות וזכרון, יכול להיות שבהקשר מסויים שאגיד לו לבדוק איך עובד כך וכך בחברת כך וכך הוא יכול פתאום לבדוק לבד עם פרטי הגישה האמיתיים שלי.
וגם חברות שהם חדשות בתחום, מי אומר שאנתרופיק זה אנשים אמינים שלא יחליטו לחפש פעם בצאטים ובקבצים הם יש שם קודים של ארנקים דיגיטליים וכו'.אתה משתמש במנויים בתשלום או חינמי?
יש לי בכולם מנוי בתשלום וכן השבתתי את "Help improve our AI models" שלא יאמן את המודל על המידע שלי.
מה שכן לאחר כתיבת הפוסט שאלתי את קלוד וGPT והם ציינו שיש מוצרים שמוגדרים מראש לא לשמור מידע של הלוקח יותר מהעיבוד עצמו, "Zero Data Retention" אפס נתונים נשמרים.
אבל עדיין זה משנה רק אחרי שאני ירגיש בטוח לסמוך עליהם לפחות באותה רמת אימון שיש לי בגימייל.. -
החשש הגדול הוא דליפת נתונים
אני לא מהדור שזוכר איך המייל נכנס לחיים, ולא יודע איך הסתכלו וחששו ממנו בהתחלה.
שמעתי פעם באיזה כנס מישהו דברים על מושגים בעבודה ואבטחה ונתן דוגמא שיש מקומות עבודה שאינם מאפשרים לעבוד עם גימייל אלא רק עם שרת מיילים עצמאי מחשש לזליגת המידע..בא נגיד כששלחתי טוקן במייל החששות הן שמא יפרצו לי למייל ושמא יפרצו לגוגל אך החשש שגוגל עצמו יעשו שימוש בזה היה רחוק ולא עלה כמעט במחשבה, כי למה להם לסכן את החברה על כך.
לעומת זאת ב AI מלבד החששות הנ"ל נוסף חשש שמא יעבדו את המידע, ושמא הוא יזלוג למשתמשים אחרים (והיו דברים מעולם חוקרים שונים שהצליחו (או כמעט) לגרום להשלמות קוד אולי בקופילוט או בכלי אחר, לא זוכר, שיחזיר דוגמת טוקן ממשתמש אחר) אך יתרה מזאת, לכלי AI ישנה עצמאות וזכרון, יכול להיות שבהקשר מסויים שאגיד לו לבדוק איך עובד כך וכך בחברת כך וכך הוא יכול פתאום לבדוק לבד עם פרטי הגישה האמיתיים שלי.
וגם חברות שהם חדשות בתחום, מי אומר שאנתרופיק זה אנשים אמינים שלא יחליטו לחפש פעם בצאטים ובקבצים הם יש שם קודים של ארנקים דיגיטליים וכו'.אתה משתמש במנויים בתשלום או חינמי?
יש לי בכולם מנוי בתשלום וכן השבתתי את "Help improve our AI models" שלא יאמן את המודל על המידע שלי.
מה שכן לאחר כתיבת הפוסט שאלתי את קלוד וGPT והם ציינו שיש מוצרים שמוגדרים מראש לא לשמור מידע של הלוקח יותר מהעיבוד עצמו, "Zero Data Retention" אפס נתונים נשמרים.
אבל עדיין זה משנה רק אחרי שאני ירגיש בטוח לסמוך עליהם לפחות באותה רמת אימון שיש לי בגימייל..לעומת זאת ב AI מלבד החששות הנ"ל נוסף חשש שמא יעבדו את המידע, ושמא הוא יזלוג למשתמשים אחרים (והיו דברים מעולם חוקרים שונים שהצליחו (או כמעט) לגרום להשלמות קוד אולי בקופילוט או בכלי אחר, לא זוכר, שיחזיר דוגמת טוקן ממשתמש אחר)
טוקנים ופרטי גישה זה כמעט בלתי אפשרי לכאו' כי הם אמורים לעבור ניקוי לפני שהנתונים ישמשו לאימון.
החשש אם ישנו הוא יותר דברים שהם חלק מהדאטה עצמו ולא פרטים צדדיים בטח לא אם הם נראים בפועל כמו פרטי אשראי או טוקני גישה -
@חוקר לא שזה קשור, אבל אנתרופיק במובנים מסויימים הרבה יותר גדולים מגוגל, הם עם הכנסה של חצי אבל רק מתחום הAI, וגם צמיחה הזויה. חוץ מזה אנתרופיק נותנת שירות למדינות, כמו לצבא ארה"ב. דוקא לא מי שייקח טוקן שלי כדי לקחת לי מפייפאל כמה שקלים. האם היא תנצל מידע שלי לצרכים שלה? יכול להיות. בינתיים בשוטף, שווה לי.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות