Az Azure OpenAI szolgáltatással rendelkező kiterjesztett generációs (RAG) lekérésének ismertetése
A RAG és az Azure OpenAI lehetővé teszi a fejlesztők számára, hogy olyan támogatott AI-csevegési modelleket használjanak, amelyek adott információforrásokra hivatkozhatnak a válasz alapjaként. Ezen információk hozzáadása lehetővé teszi, hogy a modell a megadott adatokra és az előre betanított ismeretekre is hivatkozzon, hogy hatékonyabb válaszokat nyújtson.
Az Azure OpenAI az előre betanított modellek saját adatforrásokhoz való csatlakoztatásával teszi lehetővé a RAG használatát. Az Azure OpenAI az adatokon az Azure AI Search keresési képességét használja a releváns adattömbök hozzáadásához a parancssorhoz. Miután az adatok AI Search-indexbe kerülnek, az Azure OpenAI az adatokon az alábbi lépéseket hajtja végre:
- Felhasználói kérés fogadása.
- Határozza meg a kérdés releváns tartalmát és szándékát.
- A keresési index lekérdezése ezzel a tartalommal és szándékkal.
- A keresési eredmények adattömbjének beszúrása az Azure OpenAI-parancssorba a rendszerüzenettel és a felhasználói kéréssel együtt.
- Küldjön teljes kérést az Azure OpenAI-nak.
- Válasz és adathivatkozás (ha van ilyen) visszaadása a felhasználónak.
Alapértelmezés szerint az Azure OpenAI az adatokon ösztönzi, de nem követeli meg, hogy a modell csak az adatok használatával válaszoljon. Ez a beállítás nem jelölhető ki az adatok összekapcsolásakor, ami azt eredményezheti, hogy a modell az előre betanított tudását használja az adatokon.
Finomhangolás és RAG
A finomhangolás egy olyan technika, amellyel egyéni modellt hozhat létre egy meglévő alapmodell betanításával, például gpt-35-turbo további betanítási adatok adatkészletével. A finomhangolás jobb minőségű kéréseket eredményezhet, mint a gyors tervezés önmagában, testre szabhatja a modellt olyan példákon, amelyek nagyobbak, mint amennyi elfér egy kérdésben, és lehetővé teszi a felhasználó számára, hogy kevesebb példát adjon ugyanahhoz a kiváló minőségű válaszhoz. A finomhangolási folyamat azonban költséges és időigényes, és csak olyan használati esetekhez használható, ahol szükséges.
A RAG és az Azure OpenAI az adatokon továbbra is az állapot nélküli API használatával csatlakozik a modellhez, ami megszünteti az egyéni modellek betanításának követelményét az adatokkal, és leegyszerűsíti az AI-modellel való interakciót. Az AI Search először megkeresi azokat a hasznos információkat, amelyek megválaszolják a kérést, ezt a kéréshez alapadatokként adja hozzá, és az Azure OpenAI ezen információk alapján nyitja meg a választ.