מודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?
-
@one1010 אני חושש שהפנייה למקורות מודייקים זה לא מהצדדים החזקים של AI
בדומה למה שהצעת, אפשר לאמן אותו שהוא רק יכוון לאיזה נושאים השאלה קשורה, כמו לאיזה מלאכת שבת וכדומה
אבל אי אפשר לסמוך על הגבלה מלאכותית על ידי אימון כמו שרואים היום עם צ'אטGPT שזה משחק חתול ועכבר תמידי מול אנשים שמנסים לפרוץ את המחסומים שהעמידו לפני ה-AI
משהו שאפשר להנות מיד היום מ-AI כזה הוא בתחום ה-OCR של ספרים תורניים, ה-AI יכול לעזור מאוד לבחור את התו הנכון מתוך כמה אפשרויות, בדיוק כמו שבן אדם יודע לפענח תו לא ברור לפי ההקשר, נדמה שלי שמודל כזה יעלה מאוד את הדיוק של OCR בספרים תורניים
-
@בראשית-ברכות כתב במודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?:
אני חושש שהפנייה למקורות מודייקים זה לא מהצדדים החזקים של AI
למה לא? היום כשיש לך שאלה תכנותית אתה שואל, הוא 'מבין' את השאלה ועונה תשובה.
כך גם בהלכתי, הוא 'יבין' את השאלה, יבין את התשובה אבל במקום לומר ת התשובה הוא יביא מקור שמדבר על זה -
@one1010 כתב במודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?:
@בראשית-ברכות כתב במודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?:
אני חושש שהפנייה למקורות מודייקים זה לא מהצדדים החזקים של AI
למה לא? היום כשיש לך שאלה תכנותית אתה שואל, הוא 'מבין' את השאלה ועונה תשובה.
כך גם בהלכתי, הוא 'יבין' את השאלה, יבין את התשובה אבל במקום לומר ת התשובה הוא יביא מקור שמדבר על זהלא זו הדרך שבה מודלי שפה עובדים
-
-
@אף-אחד-3 כתב במודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?:
@one1010 מניין לך?
הוא לא יודע מאיפה לקוח כל משקל מה גם שמשקל הוא משוקלל מכלל המקורות שהוזנו אליו וא"כ אין לו דרך להצביע על מקור מסויים כי כל טוקן שהוזן אליו השפיע על זהאני חושש שזה יחרוג מהשרשור המקורי.
נוכל להתווכח על זה בשרשור ה'הוא' -
@צדיק-תמים כתב במודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?:
@Y-Excel-Access יש את https://kosher.chat שהוא באמת נקי עד כמה שבדקתי, מצד שני הרבה פחות איכותי
שאלות תורניות זה משהו אחר לחלוטין, שכנראה שאם זה אפשרי היחידים שיכולים לעשות אותו זה אוצר החכמה שמחזיקים בים טקסטים תורניים (אולי יש עוד מאגרים תורניים עם כמויות גדולות מספיק, אני לא מצוי בשוק המאגרים התורניים הממוחשבים), ולא הכמות המזערית (יחסית) של טקסטים שפתוחים לציבור כמו ויקיטקסט וספריאתודה, ממש מעניין לראות אם זה יוכל להתפתח.
משום מה עדיין חסום לי תחת 'תרבות חיצונית', כנראה נט פרי פשוט לא בדקו או שהם עדיין לא סומכים על זה שזה מספיק טוב.
-
@Y-Excel-Access
ניסיתי עכשיו לשאול שאלה שנויה במחלוקת, והוא סיים בכך שצריך לשאול רב מוסמך
עריכה: שאלתי אותו עוד שאלות עד שלבסוף הוא אמר שלא כולם מדליקים נרות חנוכה בגלל שזה רק מנהג שלא התקבל על כולם. (הוא ערבב "מנהגים" ומצוות דרבנן בלי למצמץ)
-
@בראשית-ברכות כתב במודל שפה חרדי - האם אפשר ליצור GPT עם ראש תורני?:
משהו שאפשר להנות מיד היום מ-AI כזה הוא בתחום ה-OCR של ספרים תורניים, ה-AI יכול לעזור מאוד לבחור את התו הנכון מתוך כמה אפשרויות, בדיוק כמו שבן אדם יודע לפענח תו לא ברור לפי ההקשר, נדמה שלי שמודל כזה יעלה מאוד את הדיוק של OCR בספרים תורניים
יש כבר מודל קיים של דיקטה שעושה בדיוק את הדבר הזה
@Y-Excel-Access בכל מקרה - אין ספק שהפתרון הטוב ביותר ליצור דבר שכזה, הוא באמצעות כוונון עדין של מודל שפה על נתונים מגורדים מאוצר החכמה.
הבעיה היא שמודל השפה הטוב ביותר בקוד פתוח כיום, LLAMA 2 70B, עדיין גרוע מאוד בכתיבה בעברית (וכנראה גם בהבנה של בקשות בעברית)
