מבוא
מודלים לשוניים גדולים יכולים לענות על שאלות, לסכם תוכן ולייצר טקסט. אבל הם יודעים רק את מה שלמדו במהלך האימונים. שאל על מוצרי החברה שלך, הזמנות לקוחות או רכיבים תואמים, והמודל לא נותן תשובה מועילה. Retreeval Augmented Generation (RAG) פותר את הבעיה הזו בכך שהוא נותן למודל גישה לנתונים שלך בזמן השאילתה. במקום לקוות שהמודל מכיר את קטלוג המוצרים שלך, אתה שולף את המוצרים הרלוונטיים מהמאגר שלך וכולל אותם בהנחיה. המודל מייצר תגובה המבוססת על מידע ממשי ועכשווי.
RAG שומר את עיבוד הבינה המלאכותית בתוך שכבת מסד הנתונים, שם הנתונים שלך כבר נמצאים. גישה זו מונעת העברת נתונים בין מערכות ומאפשרת להשתמש Transact-SQL כדי לשלוט בהקשר שהמודל מקבל. התוצאה היא אפליקציה שיכולה לענות על שאלות ספציפיות באמצעות מידע אמיתי, up-to-תאריך מהטבלאות שלך.
דמיינו צוות קמעונאי שבונה אפליקציית תמיכה ללקוחות על בסיס נתונים של מוצר. לקוח שואל "אילו כפפות מתאימות הכי טוב לרכיבה במזג אוויר קר?" האפליקציה צריכה לחפש בקטלוג המוצרים, למצוא אביזרים תואמים וליצור תגובה מועילה באמצעות מודל שפה גדול. תהליך העבודה הזה הוא RAG בפעולה: שלף נתונים רלוונטיים, מחזק את ההנחיה עם הנתונים האלה, ויוצר תגובה מבוססת על הקרקע. על ידי בניית זרימת עבודה זו ב-SQL, הצוות שומר על שלב השחזור קרוב לנתונים ומונע מבניית שירות שליפה נפרד.
לאחר השלמת מודול זה, תוכל:
- זהה מתי RAG היא הגישה הנכונה ליישום שלך.
- המור תוצאות שאילתת SQL ל-JSON לעיבוד מודל שפה גדול (LLM).
- בנה פרומפטים שמשלבים הוראות עם הקשר מסד נתונים.
- התקשר לנקודות קצה של LLM מ-SQL.
- נתח תשובות ל-LLM והחזר תשובות לבקשה שלך.