@lina.tech.flat: ⁨ ‏RAG - Retrieval-Augmented Generation
זה מנגנון שנותן למודל, למשל גיפיטי5, גישה לידע חיצוני בזמן אמת.
המודל עצמו אומן עד תאריך מסוים, ואין לו ידע מעבר לזה. בראג אנחנו מחברים אותו למקורות נוספים - מסמכים פנימיים, מאגרי ידע, אפילו חיפוש בגוגל - כדי שיוכל “לשלוף” קטעי מידע רלוונטיים ולהכניס אותם לפרומפט לפני שהוא מייצר תשובה. איך זה עובד בפועל? 1. לוקחים את המסמכים שרוצים שהמודל יכיר. 2. חותכים אותם לקטעים קטנים (chunks). 3. ממירים כל קטע לייצוג מתמטי של טקסט (embedding) 4. שומרים את זה ב־vector database 5. כשמשתמש שואל שאלה, עושים חיפוש סמנטי במאגר, שולפים את הקטעים הכי רלוונטיים. 6. מכניסים אותם לפרומפט ביחד עם השאלה. 7. המודל מייצר תשובה מבוססת על הקונטקסט הזה. ‏Fine-tuning 
זה לא לשלוף מידע מבחוץ, אלא לאמן מחדש את המודל עצמו על דוגמאות חדשות.
למשל: אם רוצים שהמודל יענה בסגנון של חברה מסוימת, או שידע להתמודד טוב עם שאלות מאוד ייחודיות, אפשר לתת לו דוגמאות (שאלה תשובה) ולכוונן אותו.
במילים אחרות - המודל משנה את המשקולות הפנימיות שלו ולא רק מוסיף קונטקסט זמני. ‏-RAG מתאים כשיש הרבה מידע דינמי או מתעדכן (מסמכים, חדשות, חוקים משתנים). לא נוגעים במודל עצמו, אלא מזינים לו ידע מבחוץ. ‏-Fine-tuning מתאים כשצריך התנהגות קבועה ואחידה (סגנון כתיבה, מענה בפורמט מסוים, שפה ייחודית לארגון.)   השילוב שלהם  RAFT יש גם גישה שמשלבת: קודם עושים ראג כדי להביא את הקטעים הרלוונטיים, ואז עושים פיינ-טיונינג לזוגות של שאלה מקורית + מסמכים שנשלפו, תשובה אידיאלית
כך המודל לומד לא רק להביא קטעים, אלא גם לנסח תשובות יותר מדויקות ו”לתפור” את המידע כמו שצריך.⁩

lina.tech.flat

Open In TikTok:

Region: IL

Sunday 24 August 2025 08:44:26 GMT