מה מערכת RAG עושה בפועל?
יצירה מועשרת באחזור שולפת קטעים רלוונטיים ממאגרים פרטיים ומזינה אותם למודל שפה, כדי שהתשובות יישארו מעוגנות במסמכים שלכם. מדריך הארכיטקטורה של Microsoft ל-RAG מדגיש דיוק אחזור, אריזת הקשר מהודקת ואכיפה מחמירה של הרשאות כעדיפויות הנדסיות מרכזיות.
בדקו את סוגי השאלות היעד ואת איכות המסמכים לפני תמחור האחסון. מאמרי תמיכה נקיים ב-Markdown דורשים חלק זעיר מעבודת הפענוח שנדרשת לקובצי PDF סרוקים עם הרשאות SharePoint משתנות.
אילו עלויות RAG שייכות לתקציב?
מפרידים בין הנדסת קליטה ראשונית לבין מחשוב שאילתות חוזר, משימות סנכרון ואחריות תחזוקת תוכן. תמחרו שעות הנדסה ועריכה פנימיות ממש לצד חשבוניות ספקים, ותעדו דמי מינימום קבועים של הפלטפורמה לצד חיובים לפי שימוש.
בחרו להלן את השורות החלות על ארכיטקטורת החיפוש שבחרתם.
| תחום עלות | מה למדוד | החלטת תקציב |
|---|---|---|
| קליטה ועיבוד | פענוח מסמכים, ניקוי, חלוקה למקטעים (Chunking) ואינדוקס ראשוני | תמחרו הקמה מול קבצים מייצגים מורכבים |
| אחזור ויצירה | נפח שאילתות, גודל הקשר נשלף, דירוג מחדש וקריאות LLM | השליכו מתמהיל השאילתות שנצפה |
| הרשאות | סנכרון SSO/ספריית משתמשים ובדיקות דליפת גישה | מנו אחראי אבטחה לפני ההשקה |
| עדכונים | קבצים ששונו, רשומות מחוקות ואינדוקס מחדש | שריינו שעות הנדסה חודשיות קבועות |
| הערכה | סט בדיקות זהב, שעות בקרה אנושיות והרצות רגרסיה | תקצבו בדיקות אחרי עריכות מודל או סכימה |
למה עדכוני מידע והרשאות משפיעים על עלות RAG?
חיפוש ארגוני קורס במהירות אם עובדים מקבלים נהלים שפג תוקפם או רשומות מוגבלות שאין להם סיווג לראות. שמירה על סנכרון של עריכות מצטברות, מחיקות מסמכים ושלילת הרשאות דורשת עבודת תחזוקת אינדקס מתמשכת.
Microsoft מתעדת אינדוקס מצטבר לצד דפוסי ACL ברמת המסמך עבור Azure AI Search—אמתו תמיד את ירושת ההרשאות מקצה לקצה מול ספק הזהויות האמיתי שלכם במקום לסמוך על הצהרות ברירת המחדל של המחבר.
החליטו מראש מי מנטר עבודות סנכרון כושלות, מכריע בין גרסאות נהלים סותרות ומאמת הסרה מיידית כשקבצים סודיים עוברים תיקייה. התהליכים הללו מכתיבים את היקף כוח האדם לתמיכה חודשית.
איך מודדים תשובת RAG מועילה?
תשובה נחשבת מועילה כשהיא פותרת את משימת העובד, מצטטת בדיוק קובצי מקור מורשים ודורשת אימות ידני מינימלי. העריכו את כיסוי האחזור בנפרד מיצירת התשובה כדי שצוותים יזהו מיד אם פספוסים נובעים מדירוג החיפוש או מסינתזת המודל.
בכל שאלת בדיקה תעדו קטעי מקור צפויים, מקטעים שנשלפו, נאמנות לעובדות והשלמת המשימה. כללו שאלות ללא תשובה, גרסאות מדיניות כמעט זהות ומשתמשים בדרגות הרשאה מתנגשות.
תעדו מראש את סט בדיקות הזהב ואת רף המעבר—ציונים גבוהים על מדריכי משאבי אנוש מסודרים מתקשים כמעט תמיד לעבור אוטומטית לספרי תפעול הנדסיים מורכבים.
מה מראה חישוב עלויות RAG להמחשה?
קשרו תשובות איכותיות ישירות לזמן החיפוש שהושב. נניח 800 שאילתות חודשיות שחוסכות חמש דקות כל אחת לאחר בדיקת ציטוטים, ומפנות 66.7 שעות. לפי $36 לשעה ו-60% ניצול קיבולת, הערך החודשי מסתכם ב-$1,440.
עם $250 לטוקני אחזור ויצירה, $150 לאירוח וקטורי ו-$400 לעדכוני תוכן ובדיקות QA, העלויות החוזרות מצטברות ל-$800 בחודש—ומשאירות $640 נטו. הקמה של $3,840 מחזירה את עצמה בשישה חודשים על בסיס קיבולת עם 28.6% ROI ממודל לשנה הראשונה.
דיוק תשובות נמוך יותר או אימות מקורות כבד יותר עלולים לכווץ במהירות את המרווח החודשי הזה או להפוך אותו לשלילי.
מתי כדאי לצמצם או לדחות פרויקט RAG?
דחו השקת RAG מלאה אם לתיקיות המקור אין בעל אחריות מחויב, אי אפשר לבדוק הרשאות גישה בצורה אמינה או שתדירות השאילתות נמוכה מכדי להחזיר את תקורת התחזוקה. צמצום ההיקף למאגר נקי ועתיר נפח אחד הופך כל פיילוט לקריא בהרבה.
השוו תמיד RAG לפתרונות פשוטים יותר תחילה: סידור מבנה תיקיות, כיוונון חיפוש מילות מפתח או תחזוקת דף שאלות נפוצות ערוך. לאחר הבדיקה, הזינו ל-AI Saves זמן נטו שנחסך והוצאות תפעול מלאות למחשבון.
שאלות נפוצות
האם מספר המסמכים מספיק לאומדן עלות RAG?
לא—טבלאות סרוקות, צפיפות מקטעים, תחלופת עריכה יומית, מורכבות ACL, נפח שאילתות ובדיקת QA מכתיבים את העלות הרבה יותר מספירת קבצים גולמית. הריצו קליטה על קבצים מורכבים מייצגים תחילה.
האם RAG מעלים תשובות שגויות?
לא. החיפוש עלול לשלוף פסקאות מיושנות ומודלי שפה עדיין עלולים לפרש לא נכון סייגים בתוך מקטעים תקינים, ולכן ציטוטים לחיצים ואימות משתמש נשארים חיוניים.
האם עלויות embeddings הן חד-פעמיות או חוזרות?
יצירת וקטורים ראשונית לארכיון שייכת להקמה חד-פעמית; הטמעה של עריכות מסמכים יומיות שייכת להוצאות תפעול חודשיות, בעוד שהחלפת מודל embedding יוצרת פרויקט אינדוקס מחדש תקופתי.