מ-RAG להפקה: לקחים בקנה מידה

אסטרטגיית החתכים חשובה יותר מבחירת הדגם

ההחלטה היחידה בעלת המינוף הגבוה ביותר בצנרת RAG היא האופן שבו אתה מחלק את מסמכי המקור שלך. נתחים סמנטיים חופפים עם שימור מטא נתונים עולים באופן עקבי על חלונות אסימון בגודל קבוע, במיוחד בקורפוסים הטרוגניים.

אחזור היברידי מנצח חיפוש וקטור טהור

שילוב של חיפוש מילות מפתח BM25 עם שליפה וקטורית צפופה ומדרוג מחדש של מקודדים צולבים מייצר זכירה טובה משמעותית מכל שיטת שליפה בודדת. אנו רואים שיפורים של עשרה עד עשרים אחוזים ברמת דיוק התשובות בגישה ההיברידית הזו בכל פריסה.

ניטור איכות השליפה

בייצור, איכות האחזור גולשת כאשר מסמכי המקור מתעדכנים. אנו מפעילים חבילות הערכה אוטומטיות מדי לילה המשוות תוצאות אחזור מול ערכות בדיקה שנקבעו ומתריעות כאשר היזכרות יורדת מתחת לסף המקובל.