Transparensanteckning: Azure AI-sökning

Viktigt

Översättningar som inte är engelska tillhandahålls endast för enkelhetens skull. Se versionenEN-US av det här dokumentet för den slutgiltiga versionen.

Vad är en transparensanteckning?

Ett AI-system omfattar inte bara tekniken, utan även de personer som ska använda den, de personer som påverkas av den och miljön där den distribueras. Att skapa ett system som passar för det avsedda ändamålet kräver en förståelse för hur tekniken fungerar, vilka dess funktioner och begränsningar är och hur man uppnår bästa prestanda. Microsoft transparensanteckningar är avsedda att hjälpa dig att förstå hur vår AI-teknik fungerar, vilka val systemägare kan göra som påverkar systemets prestanda och beteende samt vikten av att tänka på hela systemet, inklusive tekniken, människorna och miljön. Du kan använda Transparensanteckningar när du utvecklar eller distribuerar ditt eget system eller delar dem med de personer som kommer att använda eller påverkas av systemet.

Microsoft transparensanteckningar är en del av en bredare satsning på Microsoft för att omsätta våra AI-principer i praktiken. Mer information finns i Microsoft AI-principerna.

Grunderna i Azure AI-sökning

Introduktion

Azure AI-sökning ger utvecklare verktyg, API:er och SDK:er för att skapa en omfattande sökupplevelse över privat, heterogent innehåll i webb-, mobil- och företagsprogram. Sökningen är grundläggande för alla program som visar data för användarna. Vanliga scenarier är katalog- eller dokumentsökning, onlinebutiker eller datautforskning över upphovsrättsskyddad innehåll.

Sökbara data kan vara i form av text eller vektorer och matas in as-is från en datakälla eller berikas med hjälp av AI för att förbättra den övergripande sökupplevelsen. Utvecklare kan konvertera data int till numeriska representationer (kallas vektorer) genom att välja att anropa externa maskininlärningsmodeller (kallas inbäddningsmodeller). Indexerare kan också inkludera kunskapsuppsättningar som stöder en kraftfull uppsättning databerikning via flera Azure Language i Foundry Tools funktioner, till exempel Named Entity Recognition (NER) och identifiering av personligt identifierbar information och Azure Vision i Foundry Tools funktioner, inklusive optical character recognition (OCR) och image analysis.

Se följande flikar för mer information om hur Azure AI-sökning förbättrar sökupplevelsen med hjälp av Foundry Tools eller andra AI-system för att bättre förstå avsikten, semantiken och den underförstådda strukturen för en kunds innehåll.

AI-berikande

AI-berikning är tillämpningen av maskininlärningsmodeller från Foundry Tools över innehåll som inte är lätt att söka i sin råa form. Genom berikning används analys och slutsatsdragning för att skapa sökbart innehåll och en struktur där ingen tidigare fanns.

AI-berikning är ett valfritt tillägg för Azure AI-sökning indexeringspipeline som ansluter till Foundry Tools i samma region som en kunds söktjänst. En berikningspipeline har samma kärnkomponenter som en typisk indexerare (indexerare, datakälla, index), plus en kunskapsuppsättning som anger stegen för atomisk berikning. En kunskapsuppsättning kan sammanställas med hjälp av inbyggda kunskaper baserat på API:erna för Foundry Tools, till exempel Vision och Language, eller anpassade färdigheter som kör extern kod som du tillhandahåller.

Vektorsökning

Vektorsökning är en metod för informationshämtning där dokument och frågor representeras i ett index som vektorer i stället för oformaterad text. I vektorsökning genererar maskininlärningsmodeller som hanteras externt från Azure AI-sökning vektorrepresentationer av källindata, som kan vara text, bilder, ljud- eller videoinnehåll. Den här matematiska och normaliserade representationen av innehåll, som kallas vektorinbäddningar, ger en gemensam grund för sökscenarier.

När allt är en vektor kan en fråga hitta en matchning i vektorutrymmet, även om det associerade ursprungliga innehållet har en annan medietyp, till exempel bilder jämfört med text eller språk än frågan. Sökmotorn söker igenom indexet och letar efter vektorinnehåll som är mest likt, dvs. närmast vektorn i frågan. Matchning på en matematisk vektorrepresentation i stället för nyckelord gör det mycket mer sannolikt att hitta matchningar som delar semantisk betydelse men är textmässigt distinkta, till exempel "bil" och "auto". Detta ger en mer detaljerad introduktion till vektorinbäddningar och hur likhetsalgoritmen fungerar.

Viktiga termer

Term	Definition
Vektorbäddningar	Ett mycket optimerat sätt att representera data som återspeglar mening och förståelse som extraherats av en maskininlärningsmodell från bilder, ljud, video eller text. Innehållet konverteras till vektorbäddningar både vid indexering och frågetid. Vektorsökning innebär att du tar inbäddningar som tillhandahålls i en fråga och letar efter de mest liknande inbäddningarna i indexet. Resultaten sorteras sedan vanligtvis efter graden av likhet.
Inbäddningsutrymme	Alla vektorer i corpus för ett enda fält upptar samma inbäddningsutrymme där liknande objekt ligger nära varandra, och olika objekt ligger längre ifrån varandra. Högre dimensionalitet i inbäddningsutrymmet kan innehålla mer information i en enda vektor och avsevärt förbättra sökupplevelsen, men till en betydande kostnad för indexlagringsstorlek och högre frågesvarstid.

Semantisk klassificerare

Semantisk rankning använder kontexten eller den semantiska innebörden av en fråga för att beräkna en ny relevanspoäng som höjer upp resultat som är semantiskt närmast avsikten för den ursprungliga frågan längst upp. Den första resultatuppsättningen kan komma från en nyckelordssökning med BM25-rangordning , vektorsökning eller en hybridsökning som innehåller båda. Den skapar och returnerar även "undertexter" genom att extrahera ordagranna innehåll som finns i resultatet och "highlights" för att uppmärksamma viktigt innehåll i resultatet. Den kan också returnera ett "svar" om frågan har en frågas egenskaper ("vad är fryspunkten för vatten") och resultatet innehåller text som har ett svars egenskaper ("vatten fryser vid 0°C eller 32°F").

Viktiga termer

Term	Definition
Semantisk klassificerare	Använder kontexten och den semantiska innebörden av en fråga för att förbättra sökrelevansen genom att använda språkförstålning för att rangordna sökresultaten på nytt.
Semantiska bildtexter och markeringar	Extraherar meningar och fraser från ett dokument som bäst sammanfattar innehållet, med markeringar över viktiga passager för enkel genomsökning. Bildtexter som sammanfattar ett resultat är användbara när enskilda innehållsfält är för kompakta för resultatsidan. Markerad text höjer de mest relevanta termerna och fraserna så att användarna snabbt kan avgöra varför en matchning ansågs relevant.
Semantiska svar	Tillhandahåller en valfri och ytterligare understruktur som returneras från en semantisk fråga. Det ger ett direkt svar på en fråga som ser ut som en fråga. Det kräver att ett dokument har text med egenskaperna för ett svar.

Omskrivning av frågor

Omskrivning av frågor skapar syntetiska frågor, som är frågor som skapas på konstgjord väg eller genereras från faktiska kundindata för att förbättra återkallandet (fraktionen av relevanta dokument som hämtats från det totala antalet tillgängliga dokument) för BM25-rangordning, vektorsökning eller en hybridsökning. Den ursprungliga frågan kombineras med syntetiska frågor för att ge optimal återkallelse från sökmotorn.

GenAI Prompt-funktion

GenAI Prompt-färdigheten är en del av Azure AI-sökning katalog med färdigheter, vilket gör det möjligt för kunder att förbättra sina sökindex med AI-genererat innehåll baserat på deras data. Genom att använda kundens organisations egna data och inställningar hjälper den här färdigheten till att skapa skräddarsydda sammanfattningar, svar eller insikter som överensstämmer med deras specifika behov.

Det innebär att när slutanvändaren söker i kundernas innehåll via AI Search kan det AI-genererade innehållet ge mer informativa och sammanhangsmedvetna resultat, vilket gör det enklare för användarna att hitta den information de letar efter.

Viktiga termer

Term	Definition
Färdigheter	En Azure AI-sökning-skill är en modulär bearbetningskomponent i Azure AI-sökning-berikningspipeline. Dessa kunskaper tillämpar AI-drivna transformeringar på råinnehåll, till exempel text, bilder eller dokument, under indexering, vilket möjliggör extrahering av strukturerad, sökbar information från ostrukturerade data.
Snabb	Texten som du skickar till tjänsten i API-anropet. Den här texten matas sedan in i modellen. Man kan till exempel ange följande fråga: Konvertera frågorna till ett kommando: F: Fråga Constance om vi behöver lite bröd A: send-msg find constance Behöver vi lite bröd? F: Skicka ett meddelande till Greg för att ta reda på om saker är redo för onsdag. S: Skicka meddelande find greg redo för onsdag?
Sökindex	I Azure AI-sökning är ett index den datastruktur som innehåller ditt sökbara innehåll, definierar hur det lagras och styr hur tjänsten tolkar det när du kör en fråga.

Agentisk sökning

Agentisk hämtning är en parallell frågebearbetningsarkitektur som använder en stor språkmodell för konversation (LLM) som "frågeplanering". LLM omvandlar en användares konversationshistorik till en eller flera fokuserade underfrågor efter behov. Dessa underfrågor körs samtidigt på ditt Azure AI-sökning index, och tjänsten sammanfogar de främsta resultaten och returnerar:

• En enda innehållssträng som innehåller de mest relevanta avsnitten (grunddata).
• En referensmatris (valfritt) som exponerar fullständiga källdokument eller segment.
• En aktivitetsmatris som visar varje åtgärd, antal token och svarstid för kostnadsspårning och felsökning.

Viktiga termer

Term	Definition
Agentbaserad hämtning	Detta avser en AI-agent som planerar och kör en sekvens med steg för att hämta information från jordningskällor. Detta omfattar aktiviteter som att fråga och förfina sökningar för att få den mest relevanta informationen för frågan.
Jordningsdata	Uppsättning dokument/information som returneras av Agentic Retrieval. Fungerar som den faktiska grunden som en extern LLM kan citera eller omvandla till ett svar på naturligt språk, vilket säkerställer spårbarhet och minskar risken för hallucinationer.
Frågeplanering	Delar upp konversationshistorik i underfrågor för att hitta de mest relevanta grunddata för den underliggande sökfrågan.
Underfråga	En enda fråga som genereras av en LLM. Underfrågor baseras på användarfrågor, chatthistorik och parametrar för begäran. Underfrågorna riktar in sig på dina indexerade dokument (oformaterad text och vektorer) i Azure AI-sökning.

Kapacitet

AI-berikande

Systembeteende

Flera inbyggda färdigheter för AI-berikning i Azure AI-sökning drar nytta av Foundry Tools. Mer information om hur du väljer att använda en färdighet finns i Transparensanteckningar för varje inbyggd färdighet som är länkad nedan:

• Extrahering av nyckelfras: Språk – Extrahering av nyckelfras
• Språkidentifiering: Språk – Språkidentifiering
• Entitetslänkningsfärdighet: Språk – Entitetslänkning
• Entitetsigenkänningsfärdighet: Språk – Namngiven entitetsigenkänning (NER)
• PII-identifieringsfärdighet: Språk – PII-identifiering
• Attitydfärdighet: Språk – Attitydanalys
• Kunskap om bildanalys: Vision – bildanalys
• OCR-kompetens: Vision – OCR
• Kunskaper om dokumentlayout: Dokumentinformation

Se dokumentationen för varje färdighet för att lära dig mer om deras respektive funktioner, begränsningar, prestanda, utvärderingar och metoder för integrering och ansvarsfull användning. Observera att användning av dessa kunskaper i kombination kan leda till sammansatta effekter (till exempel fel som introduceras när du använder OCR kommer att genomföras när du använder extrahering av nyckelfraser).

Användningsfall

Exempel på användningsfall

Eftersom Azure AI-sökning är en fulltextsökningslösning är syftet med AI-berikning att förbättra sökverktyget för ostrukturerat innehåll. Här följer några exempel på scenarier för berikning av innehåll som stöds av de inbyggda färdigheterna:

• Översättning och språkidentifiering möjliggör flerspråkig sökning.
• Entitetsigenkänning extraherar personer , platser och andra entiteter från stora textsegment.
• Extrahering av nyckelfraser identifierar och matar sedan ut viktiga termer.
• OCR identifierar tryckt och handskriven text i binära filer.
• Bildanalys beskriver bildinnehåll och matar ut beskrivningarna som sökbara textfält.
• Integrerad vektorisering är en förhandsversionsfunktion som anropar modellen Azure OpenAI-inbäddningar för att vektorisera data och lagra inbäddningar i Azure AI-sökning för likhetssökning.

Vektorsökning

Systembeteende

I vektorsökning söker sökmotorn efter vektorer i inbäddningsutrymmet i indexet för att hitta dem som är nära frågevektorn. Den här tekniken kallas för närmaste grannsökning. Detta hjälper också till att kvantifiera graden av likhet, eller avstånd, mellan objekt. En hög grad av vektorlikhet indikerar att de ursprungliga data också var liknande. De två vektorsökningsalgoritmerna som stöds av Azure AI-sökning har olika metoder för det här problemet och byter ut olika egenskaper som svarstid, dataflöde, återkallande och minne.

För att hitta den sanna uppsättningen "k" närmaste grannar måste du jämföra indatavektorn fullständigt med alla vektorer i datamängden. Varje vektorlikhetsberäkning är relativt snabb, men det är beräkningsmässigt dyrt och långsamt att utföra dessa uttömmande jämförelser mellan stora datauppsättningar på grund av det stora antalet jämförelser som krävs. Ju högre dimensionalitet varje vektor är, desto mer komplex och långsammare blir beräkningarna på varje vektor.

För att hantera den här utmaningen används metoder för sökning med ungefärlig närmaste granne (ANN) för att kompromissa mellan precisionsgrad och hastighet. Dessa metoder kan effektivt hitta en liten uppsättning kandidatvektorer som mest sannolikt liknar frågevektorn, vilket minskar det totala antalet vektorjämförelser. Azure AI-sökning använder HNSW-algoritmen (Hierarchical Navigable Small World) för att organisera högdimensionella datapunkter i en probabilistisk hierarkisk grafstruktur som möjliggör snabb likhetssökning samtidigt som en justerbar kompromiss mellan söknoggrannhet och beräkningskostnad tillåts.

Azure AI-sökning stöder också flera likhetsmått för att fastställa närmaste granne och poäng för varje vektorresultat Dessa inkluderar cosinus, "Euclidean" (även kallat "l2 norm") och "dot product". Cosine beräknar vinkeln mellan två vektorer. Euclidean beräknar euklidiska avståndet mellan två vektorer, vilket är l2-normen för skillnaden mellan de två vektorerna. Dot-produkten påverkas av båda vektorernas storlek och vinkeln mellan dem. För normaliserade inbäddningsutrymmen motsvarar skalärprodukten cosinuslikheten men är mer effektiv.

Användningsfall

Exempel på användningsfall

Det finns många scenarier där vektorsökning är användbart, och de begränsas endast av funktionerna i modellen som används för att generera vektorinbäddningar. Här följer några allmänna användningsfall där vektorsökning kan användas:

• Semantic search: Extrahera semantisk förståelse från text med hjälp av en modell, som att använda modeller som Azure OpenAI Service inbäddningsmodeller.
• Sök mellan olika datatyper (multimodal): Koda innehåll som kommer från bilder, text, ljud och video, eller en blandning, och gör en enda sökning över dem alla.
• Flerspråkig sökning: Använd en flerspråkig inbäddningsmodell för att representera dokumentet på flera språk för att hitta resultat på språk som stöds.
• Hybridsökning: Vektorsökning implementeras på fältnivå, vilket innebär att du kan skapa frågor som innehåller vektorfält och sökbara textfält. Frågorna körs parallellt och resultaten sammanfogas till ett enda svar. Hybridsökresultat med semantisk rangordning har visats ge bästa kvalitativa resultat.
• Filtrerad vektorsökning: En fråga kan innehålla en vektorfråga och ett filteruttryck. Filter som tillämpas på andra datatyper är användbara för att inkludera eller exkluderas dokument baserat på andra kriterier.
• Vektordatabas: Det här rena vektorlagret är för långtidsminne eller en extern kunskapsbas för stora språkmodeller (LLM). Använd till exempel Azure AI-sökning som ett vektorindex i Azure Machine Learning promptflöde för RAG-program (Retrieval Augmented Generation).

Överväganden när du väljer ett användningsfall

Det kan finnas överväganden och problem som är kopplade till den specifika modell som du väljer att generera vektorinbäddningar. Varje modell kan ha sina egna problem med bias och rättvisa och bör utvärderas innan den används i ditt program. Azure AI-sökning tillhandahåller inga modeller för att vektorisera innehåll som en del av tjänsten. Se Azure OpenAI Service Transparency Note för exempel på dessa överväganden. Andra modeller från tredje part eller OSS har egna överväganden att granska.

Semantisk klassificerare

Systembeteende

Att rangordna resultaten av den första skiktets hämtning är en mycket resurskrävande process. För att slutföra rankarens bearbetning inom den förväntade svarstiden för en frågeåtgärd skickas endast de 50 främsta resultaten från hämtningsmotorn till den semantiska rankern som indata. Om det är för långt skickas de 50 resultaten först till ett sammanfattningssteg som extraherar det mest relevanta innehållet från varje resultat innan du kör den semantiska rankningen.

I sammanfattningssteget genomgår det hämtade dokumentet först en förberedelseprocess som sammanfogar de olika dokumentinmatningarna till en enda lång sträng. Om strängen är för lång utförs en trimningsövning, med särskild betoning på att behålla innehåll som finns i fält som lagts till i den semantiska konfigurationen. När strängarna har förberetts skickas de genom maskinläsningsförståelse- och språkrepresentationsmodeller för att avgöra vilka meningar och fraser som ger den bästa sammanfattningen i förhållande till frågan. I den här fasen extraheras innehåll från strängen som skickas vidare till den semantiska rangordningsfasen och du kan också ange en semantisk bildtext eller ett semantiskt svar.

Det sista steget, semantisk rangordning, avgör relevansen av innehållet som extraherades i föregående steg för användarens fråga och utdata en semantisk rangordningspoäng från 4 (mycket relevant) till 0 (irrelevant). Det här steget baseras på frågetexten och den sammanfattade texten och omfattar mer komplexa beräkningar än hämtningsskiktets.

Användningsfall

Exempel på användningsfall

Semantisk rankning kan användas i flera scenarier. Systemets avsedda användningsfall omfattar:

• Retrieval Augmented Generation (RAG): Med semantisk rankning kan du basera svar från dina generativa AI-applikationer på relevanta sökresultat som uppfyller det tröskelvärde för relevanspoäng som du definierar. Till exempel använder Azure OpenAI Service på dina data Azure AI-sökning för att utöka Azure OpenAI-modeller med dina data. Du kan använda semantisk ranker i den här tjänsten för att förbättra relevansen för den information som matas till Azure OpenAI-modellen.
• Innehållssökning: Med semantisk rankning kan du söka efter relevant innehåll i dina data genom att analysera text och metadata. Sök till exempel på läs. microsoft.com webbplats använder semantisk ranker för att förbättra sökrelevansen för programutvecklare som söker efter Microsoft teknisk dokumentation.
• E-handelssökning: Semantisk ranker gör det möjligt för e-handelsföretag att förbättra sin sökupplevelse genom att tillhandahålla relevanta produktresultat baserat på semantisk relevans. Till exempel använder onlineåterförsäljare semantisk ranker för att optimera sin e-handelsupplevelse genom att tillhandahålla relevanta sökresultat för sina onlinekunder.
• QnA: Azure AI-sökning gör det möjligt för organisationer att tillhandahålla en konversationsupplevelse för sina användare genom att svara på frågor baserat på den information som är tillgänglig i deras databaser. En tillverkare kan till exempel använda semantisk ranker för att utöka information som är tillgänglig för en chattrobot. Tekniker kan använda den här chattroboten för att ställa frågor och hämta mycket relevanta interna dokument relaterade till deras frågor och omedelbara svar i de hämtade dokumenten.

Överväganden när du väljer ett användningsfall

Vi uppmuntrar kunderna att använda semantisk ranker i sina innovativa lösningar eller program. Här är dock några saker att tänka på när du väljer ett användningsfall:

• Känslig information : Maskininlärningsmodellerna som möjliggör semantisk rankning bearbetar data som hämtas i en sökfråga, inklusive känslig information som personuppgifter och ekonomisk information. Överväg eventuella sekretess- och säkerhetskonsekvenser innan du implementerar semantisk ranker för sådana användningsfall.
• Bias och rättvisa : Semantisk ranker drivs av djupinlärningsmodeller. Dessa djupinlärningsmodeller tränades med hjälp av offentligt innehåll. Kunddata poängsätts av semantiska rankermodeller. Utvärdera utdata från semantisk rankare när du väljer användningsfall, särskilt för användningsfall som har konsekvenser för rättvisa och jämlikhet, till exempel anställning och rekrytering.
• Regelefterlevnad: Vissa branscher, till exempel hälso- och sjukvård och ekonomi, är strikt reglerade och kan ha begränsningar för användningen av AI och maskininlärning. Innan du använder semantisk ranker i sådana branscher ska du se till att lösningen uppfyller relevanta regler och riktlinjer.

Omskrivning av frågor

Systembeteende

Den ursprungliga frågan skickas till en fine-tuned Small Language Model (SLM) värdhanterad av Azure AI-sökning. Den här modellen har tränats med offentligt innehåll. SLM omvandlar den ursprungliga frågan till en uppsättning syntetiska frågor. Dessa syntetiska frågor ligger semantiskt nära avsikten med den ursprungliga frågan, men innehåller en annan uppsättning termer för att förbättra återkallandet från sökmotorn.

De syntetiska frågorna kombineras sedan med den ursprungliga frågan och skickas till sökmotorn. När BM25-rangordningen utförs kombineras viktiga termer från de syntetiska frågorna med den ursprungliga frågan. När den utför vektorsökning sammanfogas den ursprungliga frågan med de syntetiska frågorna före inbäddningssteget för vektorer .

Användningsfall

Exempel på användningsfall

Frågeomskrivning kan användas i flera scenarier. Omskrivning av frågor kräver användning av semantisk ranker.

• Chattinteraktion med dina data: Med frågeomskrivning kan du skicka svar från dina generativa AI-program i relevanta sökresultat som uppfyller tröskelvärdet för relevanspoäng som du definierar. Till exempel använder Azure OpenAI Service På dina data Azure AI-sökning för att utöka Azure OpenAI-modeller med dina data. Du kan använda frågeskrivning i den här tjänsten för att förbättra relevansen för resultatet av den information som matas till Azure OpenAI-modellen.
• Conversational Questions and Answers (QnA): Azure AI-sökning gör det möjligt för organisationer att tillhandahålla en konversationsupplevelse för sina användare genom att svara på frågor baserat på den information som finns i deras databaser. En tillverkare kan till exempel använda semantisk ranker för att utöka information som är tillgänglig för en chattrobot. Tekniker kan använda den här chattroboten för att ställa frågor och hämta mycket relevanta interna dokument relaterade till deras frågor och omedelbara svar i de hämtade dokumenten.

Överväganden när du väljer ett användningsfall

Vi uppmuntrar kunderna att använda frågeskrivning i sina innovativa lösningar eller program. Här är dock några saker att tänka på när du väljer ett användningsfall:

• Känslig information och PII: Den finjusterade SLM–som möjliggör omskrivning av frågor – bearbetar sökfrågan, som kan innehålla känslig information. Överväg eventuella sekretess- och säkerhetskonsekvenser innan du implementerar frågeskrivning för sådana användningsfall.
• Redigera personlig information för att minska omedveten bias. Under ett företags granskningsprocess kan de till exempel vilja blockera en kandidats namn, adress eller telefonnummer för att minska omedvetet kön eller andra fördomar under sökningen.
• Juridiska och regelmässiga överväganden. Organisationer måste utvärdera potentiella specifika juridiska och regelmässiga skyldigheter när de använder AI-sökning, vilket kanske inte är lämpligt för användning i alla branscher eller scenarion. Begränsningarna kan variera beroende på regionala eller lokala regelkrav. Dessutom är AI Search inte utformat för och får inte användas på sätt som är förbjudna i tillämpliga användningsvillkor och relevanta uppförandekoder.

GenAI Prompt-funktion

Med GenAI Prompt-färdigheten kan kunder skicka sitt dokumentinnehåll, som finns i deras datakällor och anpassade uppmaningar till en språkmodell som de äger, som finns på Microsoft Foundry. Språkmodellen bearbetar indata och returnerar berikat innehåll, som sedan matas in i sökindexet tillsammans med det ursprungliga dokumentinnehållet. Den här processen möjliggör förhöjda sökindex med AI-genererade sammanfattningar, bildtexter och entitetsextrahering, bland annat baserat på kunddefinierade kriterier.

Följande exempel visar hur GenAI Prompt-färdigheten fungerar.

Sammanfattning av nollskottsbiljett

Mål: Låt supportagenter skumma e-posttrådar på flera sidor på några sekunder.

Så här fungerar det:

• Under indexering delas varje lång biljettkonversation in i logiska segment (inledande begäran, uppföljningsfrågor, diagnostikloggar osv.).
• För varje segment instrueras språkmodellen att "sammanfatta det här avsnittet i tre skarpa meningar".
• De resulterande abstrakten ersätter den råa texten under hämtningen så att agenter – och nedströms RAG-pipelines – endast ser den destillerade essensen.

Varför det hjälper: Koncisa sammanfattningar på segmentnivå minskar snabbstorleken, påskyndar genereringen av svar och hjälper agenter att fokusera på kundens kärnproblem.

Extrahering av entiteter med få exempel

Mål: Supportfrågor som "Visa mig alla biljetter där Product X kraschade med fel 500."

Så här fungerar det

• Den fullständiga biljetttexten skickas till funktionen tillsammans med ett bearbetat exempel som visar det önskade utdataformatet (en lista över viktiga entiteter som produktnamn, felkod, operativsystem och allvarlighetsgrad).
• Modellen extraherar varje förekomst av 〈produkt, error_code, plattform, allvarlighetsgrad.
• Den här strukturerade listan lagras med dokumentet, vilket möjliggör omedelbara filter som till exempel innehåller alla krascher med hög allvarlighetsgrad på iOS.

Varför det hjälper: Förberäknade entiteter omvandlar freeform-kundmeddelanden till filterbara data, vilket gör att supporten kan leda punktmönster och prioritera korrigeringar utan manuell parsning.

Klassificering av biljettroutning med ett skott

Mål: Dirigera varje biljett automatiskt till rätt kö.

Så här fungerar det:

• Varje biljett analyseras med en uppmaning som visar fem supportkategorier – fakturering, tekniskt problem, kontoåtkomst, funktionsbegäran och allmän feedback – plus ett referensexempel ("Exempelbegäran → fakturering").
• Modellen tilldelar exakt en etikett, baserat på de fem supportkategorierna ovan, till varje biljett som anländer till AI Search-systemet som indata.
• Supportsystemet använder etiketten för att skicka faktureringsfrågor till finansiella specialister, tekniska problem till ingenjörer och så vidare.

Varför det hjälper: Snabb, konsekvent etikettering minskar felriktade biljetter, förkortar lösningstiden och förbättrar kundnöjdheten.

Förslag på tankegångsupplösning

Mål: Ge supportagenter det bästa nästa steget för att lösa problemet.

Så här fungerar det

• Hela biljetten – eller det senaste kundmeddelandet – skickas till språkmodellen.
• Användarmeddelandet instruerar modellen efter systemprompten: "Tänk steg för steg internt, men mata bara ut den rekommenderade nästa åtgärden."
• Den returnerade vägledningen kan vara: "Be kunden att rensa cacheminnet och installera om version 3.2.1."
• Agenter kan kopiera förslaget direkt eller förfina det innan de svarar.

Varför det hjälper: Agenter får en åtgärdsrekommendering utan modellens privata resonemangskedja, vilket sparar tid samtidigt som felsökningsstegen hålls kortfattade och relevanta. I vissa fall översvämmas inte supportagenten av onödig information.

Användningsfall

Exempel på användningsfall

GenAI Prompt-färdigheten förbättrar databerikningen inom Azure AI-sökning, vilket hjälper till med svarsrelevans för att anpassa sig till användarens avsikter och förväntningar. Genom att integrera AI-genererat innehåll i sökindex möjliggör den här färdigheten mer exakta och sammanhangsberoende lämpliga sökresultat. Viktiga program är:

• Generera kortfattade sammanfattningar av långa dokument för att underlätta snabbare informationshämtning: En advokatbyrå bearbetar omfattande kontrakt och använder GenAI Prompt-färdigheten för att skapa korta sammanfattningar som belyser viktiga klausuler, vilket gör det lättare för advokater att granska viktig information utan att läsa hela dokument.
• Skapa textbeskrivningar för bilder för att förbättra sökbarheten och tillgängligheten: Ett medieföretag hanterar ett stort bibliotek med bilder. Genom att använda GenAI Prompt-färdigheten genererar de beskrivande bildtexter för varje bild, vilket möjliggör effektiv sökning och organisation i deras digitala tillgångshanteringssystem.
• Identifiera och extrahera specifika entiteter eller fakta från dokument baserat på anpassade kriterier: En forskningsinstitution analyserar vetenskapliga artiklar för att extrahera omnämnanden av kemiska föreningar och deras egenskaper. GenAI Prompt-färdigheten automatiserar den här extraheringen och fyller en strukturerad databas där forskare snabbt kan komma åt relevanta data.
• Klassificera dokument i definierade kategorier för bättre organisation och hämtning: Ett försäkringsbolag får flera typer av dokument dagligen. Med hjälp av GenAI Prompt-färdigheten klassificerar de automatiskt dessa dokument i kategorier som anspråk, principuppdateringar och kundfeedback. Detta effektiviserar dokumenthanteringsprocessen och gör det enklare att hitta specifika dokument när det behövs.

Även om det här är vanliga program är kunskapen flexibel, så att kunderna kan definiera uppmaningar som är skräddarsydda för deras unika krav.

Överväganden när du väljer ett användningsfall

Det är viktigt att observera att distributioner av innehåll, frågor och språkmodeller helt och hållet är kundhanterade resurser. Foundry stöder innehållssäkerhetsfilter för modelldistributioner och kunderna ansvarar för att konfigurera dessa filter efter behov. Utöver de konfigurationer som är tillgängliga i Foundry tillämpar Azure AI-sökning inte ytterligare innehållssäkerhetsfilter inom GenAI Prompt-färdigheten.

När du implementerar GenAI Prompt-färdigheten bör du tänka på följande:

• Implementera processer för mänsklig granskning av AI-genererat innehåll, särskilt när du tillämpar snabbtransformeringar som kan påverka informationens tillförlitlighet. Använd verktyget Azure AI-sökning debug sessions för att testa frågor i exempeldokument före distribution i full skala.
• Undvik scenarier där användning eller missbruk av systemet kan leda till betydande fysiska eller psykiska skador på en individ. Till exempel har scenarier som diagnostiserar patienter eller förskriver mediciner potential att orsaka betydande skada. Att införliva meningsfull mänsklig granskning och tillsyn i scenariot kan bidra till att minska risken för skadliga resultat.
• Överväg noggrant alla generativa användningsfall. Scenarier för innehållsgenerering kan vara mer benägna att generera oavsiktliga utdata och dessa scenarier kräver noggranna överväganden och åtgärder.
• Juridiska och regelmässiga överväganden. Organisationer måste utvärdera potentiella specifika juridiska och regelmässiga skyldigheter när de använder AI-sökning, vilket kanske inte är lämpligt för användning i alla branscher eller scenarion. Begränsningarna kan variera beroende på regionala eller lokala regelkrav. Dessutom är AI Search inte utformat för och får inte användas på sätt som är förbjudna i tillämpliga användningsvillkor och relevanta uppförandekoder.

Agentisk sökning

Systembeteende

Den ursprungliga konversations- eller sökfrågan skickas till en kunds ägda Azure OpenAI-modell för att köra frågeplaneringsstegen. Frågeplanering delar upp konversationen i en serie optimerade underfrågor som återspeglar användarens underliggande avsikt med korrigerad stavning och expanderade synonymer. Azure AI-sökning bearbetar sedan alla underfrågor samtidigt i hela sökhämtningssystemet. Underfrågor bearbetas först av en hybridkombination av nyckelordssökning och vektorsökning. Nyckelordssökning hittar dokumenten i sökindexet med liknande nyckelord som underfrågorna. Vektorsökning hittar dokument i sökindexet som kan ha olika nyckelord, men som liknar underliggande betydelse för underfrågorna. Resultatet av den här hybridsökningen rangordnas sedan om av semantisk ranker för att hitta dokumenten med den bästa matchningen mot underfrågans avsikt. Tjänsten sammanfogar och tar sedan bort dubbletter från de rankade resultaten och tillämpar svarsgränser som den maximala utdatalängden innan du skickar tillbaka det slutliga svaret.

Användningsfall

Exempel på användningsfall

• Grunddata för anpassade chattrobotar. Länka chattroboten till företagets officiella HR-policyer och personalhandbok så att när någon frågar"Hur många semesterdagar får jag?" hämtar chattroboten svaret direkt från dessa dokument i stället för att gissa.
• Utrusta företagskunskapsassistenter för att respektera användarkontext, filter och chatthistorik. När en anställd till exempel frågar om målen för en viss period använder assistenten sin roll, de aktuella filtren (till exempel region: USA) och den pågående konversationen (till exempel det sista ämnet var "Q2 pipeline") för att generera ett personligt svar.
• Hantera komplexa informationssökande uppgifter där en enda nyckelordsfråga har låg träffsäkerhet. Sådana uppgifter kan omfatta felsökningsguider, medicinsk litteraturforskning eller produktjämförelser. Om en tekniker till exempel bara söker efter "enhetsfel" och får allmänna resultat kan en agentisk retriever ta hänsyn till hela konversationshistoriken som kan innehålla enhetsmodell, programvaruversion, underhållshistorik och nätverksstatus för att visa exakta, relevanta artiklar.
• Se till att du får fullständig insyn i vad som hämtades, varför och till vilken kostnad. När du till exempel sammanfattar regeldokument och tidigare granskningsresultat är det viktigt att känna till de exakta källorna (till exempel "SEC-arkivering från Q2 2023"), urvalsmotiveringen (till exempel "matchade nyckelord: riskupplysning, derivat" och tillhörande kostnader (till exempel tokenanvändning).

Överväganden när du väljer ett användningsfall

• Svarstid: Om du lägger till ett andra LLM-anrop för frågeplanering förlängs oundvikligen begärans tur och retur-tid. Även med snabba modeller bör du mäta den extra fördröjningen under trafiktoppar och kontrollera att den övergripande upplevelsen fortfarande är acceptabel för dina användare. När svarstiden är kritisk kan du överväga att cachelagra vanliga frågor eller använda mindre, snabbare planeringsmodeller.
• Kostnad: Avgifter ackumuleras på två dimensioner – OpenAI-modelltoken och sökrankningstoken. Frågeplaneringsanropet faktureras av Azure OpenAI för både indata- och utdatatoken, medan varje underfråga faktureras av Azure AI-sökning för de token som den måste rangordna. Rankingpolletter är kostnadsfria i den första fasen av den offentliga förhandsvisningen. Beräkna både modell- och rangordningstokennummer för din arbetsbelastning i förväg.
• Känsliga indata: Hela konversationshistoriken vidarebefordras till planerarmodellen, vilket innebär att alla personligt identifierbara eller affärskänsliga data lämnar din omedelbara förtroendegräns. Ta bort, maskera eller redigera sådana data innan du anropar LLM och dokumentera den begränsningen i din dataskyddsstatus.
• Region- och förhandsgranskningsgränser: Agentisk hämtning är endast tillgänglig i regioner där semantisk ranker är tillgänglig. En enskild agent kan peka på bara ett sökindex. Bekräfta att regionen som är värd för dina data och din modell stöder agentisk hämtning och planera separata agenter om du behöver sträcka dig över flera index eller geografiska områden.
• Efterlevnad: Bekräfta att användning av en LLM-driven frågeplanering uppfyller sektorspecifika eller regionala krav (till exempel datahemvist, sekretess eller automatiserade beslutsregler inom hälso- och sjukvård eller ekonomi). Se till att det finns tillräcklig mänsklig tillsyn och kontroll. Överväg att inkludera kontroller som hjälper utvecklare att verifiera, granska och/eller godkänna åtgärder i tid, vilket kan innefatta granskning av planerade uppgifter eller anrop till externa datakällor.
• Juridiska och regelmässiga överväganden: Användare måste utvärdera potentiella specifika juridiska och regelmässiga skyldigheter när de använder foundry-verktyg och lösningar, vilket kanske inte är lämpligt för användning i alla branscher eller scenarion. Dessutom är Foundry Tools eller lösningar inte utformade för och får inte användas på sätt som är förbjudna i tillämpliga användningsvillkor och relevanta uppförandekoder.

Begränsningar

AI-berikande

AI-berikning i Azure AI-sökning använder indexerarens och datakällans funktioner i tjänsten för att anropa Foundry Tools för att utföra innehållsberikningen. Begränsningar för indexerare och datakällor som används i den här processen gäller. Mer information om dessa relaterade begränsningar finns i dokumentationen för indexerare och datakällor . Begränsningarna för varje Foundry-verktyg som används av AI-berikningspipelinen i Azure AI-sökning kommer också att tillämpas. Mer information om dessa begränsningar finns i transparensanteckningarna för varje tjänst .

Vektorsökning

Tekniska begränsningar, driftfaktorer och intervall

Alla vektorer som laddas upp till Azure AI-sökning måste genereras externt från tjänsten med hjälp av valfri modell. Det är ditt ansvar att beakta de tekniska begränsningarna och driftsfaktorerna för varje modell och om de inbäddningar som skapas är optimerade eller till och med lämpliga för ditt användningsfall. Detta omfattar både slutsatsdragningar av betydelse som extraherats från innehåll och dimensionaliteten i vektorinbäddningsutrymmet.

Vektoriseringsmodellen skapar ett inbäddningsutrymme som definierar den resulterande slutanvändarsökningen i ett program. Det kan finnas nackdelar med en modell som negativt påverkar både funktioner och prestanda om en modell inte överensstämmer väl med ett önskat användningsfall eller om de inbäddningar som genereras är dåligt optimerade.

Även om många begränsningar för vektorsökning härrör från den modell som används för att generera inbäddningar, finns det några ytterligare alternativ som du bör överväga vid frågetillfället. Du kan välja mellan två algoritmer för att fastställa relevansen för vektorsökningsresultat: Uttömmande k-närmaste grannar (KNN) eller hierarkisk navigerbar liten värld. Exhaustiv k-närmaste grannar (KNN) utför en brute-force-sökning av hela vektorutrymmet för att hitta matchningar som mest liknar frågepunkten genom att beräkna avstånden mellan alla par av datapunkter och hitta exakt k närmaste grannar till en frågepunkt. Även om algoritmen är mer exakt kan den vara långsam. Om låg svarstid är det primära målet bör du överväga att använda HNSW-algoritmen (Hierarchical Navigable Small World). HNSW utför en effektiv ungefärlig sökning efter närmaste granne (ANN) i högdimensionella inbäddningsutrymmen. Mer information om de här alternativen finns i dokumentationen för vektorsökning .

Metodtips för att förbättra systemprestanda

• Ägna tid åt att A/B testar ditt program med de olika innehålls- och frågetyper som du förväntar dig att ditt program ska stödja. Ta reda på vilken frågeupplevelse som passar bäst för dina behov.
• Ägna tid åt att testa dina modeller med ett komplett utbud av indatainnehåll för att förstå hur det fungerar i många situationer. Det här innehållet kan innehålla potentiellt känsliga indata för att förstå om det finns någon bias i modellen. Översikten Azure OpenAI Responsible AI innehåller vägledning för hur du använder AI på ett ansvarsfullt sätt.
• Överväg att lägga till Azure AI Innehållsäkerhet i programarkitekturen. Den innehåller ett API för att identifiera skadlig användargenererad och AI-genererad text eller bilder i program och tjänster.

Utvärdera och integrera vektorsökning för din användning

Utför dina egna utvärderingar av de lösningar som du planerar att implementera med hjälp av vektorsökning för att säkerställa optimala prestanda. Följ en utvärderingsprocess som: (1) använder vissa interna intressenter för att utvärdera resultat, (2) använder A/B-experiment för att distribuera vektorsökning till användare, (3) innehåller nyckelprestandaindikatorer (KPI:er) och måttövervakning när tjänsten distribueras i upplevelser för första gången, och (4) testar och justerar semantisk rankerkonfiguration och/eller indexdefinition, inklusive omgivande upplevelser som placering av användargränssnitt eller affärsprocesser.

Microsoft har noggrant utvärderat vektorsökning både när det gäller svarstid och träffsäkerhet och relevans genom att använda olika datauppsättningar för att mäta hastigheten, skalbarheten och noggrannheten för de resultat som returneras. Det primära fokuset för utvärderingsarbetet bör ligga på att välja lämplig modell för ditt specifika användningsfall, förstå modellens begränsningar och fördomar och noggrant testa sökupplevelsen för slutpunkt till slutpunkt-vektor.

Semantisk klassificerare

Tekniska begränsningar, driftfaktorer och intervall

Det kan finnas fall där semantiska resultat, bildtexter och svar kanske inte verkar vara korrekta. De modeller som används av semantisk ranker tränas på olika datakällor (inklusive open-source och val från Bing corpus). Semantisk rankning stöder ett brett spektrum av språk och försök att matcha användarfrågor med innehåll från sökresultaten. Semantisk ranker är också en premiumfunktion till en extra kostnad som bör beaktas när du beräknar den totala kostnaden för din end-to-end-lösning.

Semantisk ranker är mest sannolikt att förbättra relevansen för innehåll som är semantiskt rikt, till exempel artiklar och beskrivningar. Den söker efter kontext och samband mellan termer och höjer matchningar som är mer meningsfulla med tanke på frågan. Språkförståelse "hittar" sammanfattningar eller bildtexter och svar inom ditt innehåll, men till skillnad från generativa modeller som Azure OpenAI Service-modellerna GPT-3.5 eller GPT-4, skapar den inte dessa. Endast ordagrann text från källdokument ingår i svaret, som sedan kan återges på en sökresultatsida för en mer produktiv sökupplevelse.

Toppmoderna, förtränade modeller används för sammanfattning och rangordning. För att upprätthålla den snabba prestanda som användarna förväntar sig av sökning tillämpas semantisk sammanfattning och rangordning på bara de 50 bästa resultaten, enligt standardbedömningsalgoritmen. Indata härleds från innehållet i sökresultatet. Det går inte att nå tillbaka till sökindexet för att komma åt andra fält i sökdokumentet som inte returnerades i frågesvaret. Indata omfattas av en tokenlängd på 8 960. Dessa gränser är nödvändiga för att upprätthålla svarstider på millisekunder.

Standardbedömningsalgoritmen kommer från Bing och Microsoft Research och integreras i Azure AI-sökning infrastruktur som en tilläggsfunktion. Modellerna används internt, exponeras inte för utvecklaren och kan inte konfigureras. Mer information om forsknings- och AI-investeringar som stöder semantisk rankning finns i How AI från Bing driver Azure AI-sökning (Microsoft Research Blog).

Semantisk ranker erbjuder också svar, bildtexter och markeringar i svaret. Om modellen till exempel klassificerar en fråga som en fråga och är 70% säker på svaret returnerar modellen ett semantiskt svar. Dessutom ger semantiska bildtexter det mest relevanta innehållet i resultaten och ger ett kort kodfragment som markerar de mest relevanta orden eller fraserna i kodfragmentet.

Semantiska rankningsresultat baseras på data i det underliggande sökindexet och modellerna ger relevansrankning, svar och undertexter baserat på den information som hämtats från indexet. Innan du använder semantisk ranker i en produktionsmiljö är det viktigt att göra ytterligare testning och se till att datamängden är korrekt och lämplig för det avsedda användningsfallet. Mer information och exempel på hur du utvärderar semantisk rankning finns i innehållet och bilagan här.

Systemprestanda

I många AI-system definieras prestanda ofta i förhållande till noggrannhet – det vill: hur ofta AI-systemet erbjuder rätt förutsägelse eller utdata. Med storskaliga naturliga språkmodeller kan två olika användare titta på samma utdata och ha olika åsikter om hur användbart eller relevant det är, vilket innebär att prestanda för dessa system måste definieras mer flexibelt. Här anser vi i stort sett att prestanda innebär att programmet fungerar som du och dina användare förväntar dig, inklusive att inte generera skadliga utdata.

Semantisk ranker tränades på offentligt innehåll. Därför varierar den semantiska relevansen beroende på dokumenten i indexet och de frågor som utfärdas mot det. Det är viktigt att använda din egen bedömning och forskning när du använder det här innehållet för beslutsfattande.

Metodtips för att förbättra systemprestanda

• Ägna tid åt att A/B testar ditt program med olika frågetyper, till exempel nyckelord kontra hybrid plus semantisk rankning. Ta reda på vilken frågeupplevelse som passar bäst för dina behov.
• Använd en rimlig ansträngning för att konfigurera din semantiska konfiguration i enlighet med funktionsdokumentationen.
• Lita inte på de semantiska svaren om du inte har förtroende för att informationen i sökindexet är korrekt.
• Lita inte alltid på semantiska bildtexter eftersom de extraheras från kundinnehåll via en serie modeller som förutsäger de mest relevanta svaren i ett kort kodavsnitt.

Utvärdering av semantisk rankare

Utvärderingsmetoder

Semantic ranker utvärderades genom intern testning, inklusive automatiserad och mänsklig bedömning av flera datauppsättningar samt feedback från interna kunder. Testning inkluderar bedömning och rangordning av dokument som relevanta eller inte relevanta, samt rangordna dokument i prioritetsordning efter relevans. På samma sätt rangordnades även funktionerna för undertexter och svar via intern testning.

Utvärderingsresultat

Vi strävar efter att leverera alla regressionsfria modelluppdateringar (den uppdaterade modellen bör bara förbättra den aktuella produktionsmodellen). Varje kandidat jämförs direkt med den aktuella produktionsmodellen med hjälp av mått som är lämpliga för funktionen som utvärderas (till exempel Normaliserad rabatterad kumulativ vinst för rangordning och precision/träffsäkerhet för svar). Semantiska rankermodeller tränas, finjusteras och utvärderas med hjälp av ett brett utbud av träningsdata som är representativa för dokument som har olika egenskaper (språk, längd, formatering, format och toner) för att stödja den bredaste matrisen med sökscenarier. Våra tränings- och testdata hämtas från:

Dokumentkällor:

• Akademiska riktmärken och branschriktmärken
• Kunddata (endast testning, som utförs med kundbehörighet)
• Syntetiska data

Frågekällor:

• Benchmark-frågeuppsättningar
• Kundspecifika frågeuppsättningar (endast testning, som utförs med kundbehörighet)
• Syntetiska frågeuppsättningar
• Frågeuppsättningar som genereras av människor

Källor till etiketter för bedömning av fråge- och dokumentpar:

• Referensetiketter för akademiska och industriella jämförelser
• Kundetiketter (endast testning, som utförs med kundbehörighet)
• Syntetiska dataetiketter
• Etiketter som är gjorda av människor

Utvärdera och integrera semantisk rankerare för din användning

Prestandan för semantisk ranker varierar beroende på den verkliga användningen och villkoren för hur människor använder den. Kvaliteten på den relevans som tillhandahålls via djupinlärningsmodellerna som driver semantiska rankningsfunktioner är direkt korrelerad med datakvaliteten för ditt sökindex. Modellerna har till exempel för närvarande tokenbegränsningar som endast beaktar de 8 960 främsta tokenerna för semantiska svar. Om det semantiska svaret på en sökfråga hittas mot slutet av ett långt dokument (utöver gränsen på 8 960 token) kommer svaret därför inte att anges. Samma regel gäller för undertexter. Semantisk konfiguration visar också relevanta sökfält i prioritetsordning. Du kan ändra ordning på fälten i den här listan för att skräddarsy relevansen så att den passar dina behov bättre.

För att säkerställa optimala prestanda i sina scenarier bör kunderna göra sina egna utvärderingar av de lösningar som de implementerar med hjälp av semantisk ranker. Kunder bör vanligtvis följa en utvärderingsprocess som: (1) använder vissa interna intressenter för att utvärdera resultat, (2) använder A/B-experiment för att distribuera semantisk rankning till användare, (3) innehåller KPI:er och måttövervakning när tjänsten distribueras i upplevelser för första gången, och (4) testar och justerar semantisk rankerkonfiguration och/eller indexdefinition, inklusive omgivande upplevelser som placering av användargränssnitt eller affärsprocesser.

Om du utvecklar ett program i en domän eller bransch med höga insatser, till exempel hälso- och sjukvård, personal, utbildning eller det juridiska området, utvärderar du hur väl programmet fungerar i ditt scenario, implementerar stark mänsklig tillsyn, utvärderar hur väl användarna förstår programmets begränsningar och följer alla relevanta lagar. Överväg andra åtgärder baserat på ditt scenario.

Omskrivning av frågor

Tekniska begränsningar, driftfaktorer och intervall

Det kan finnas fall där syntetiska frågor är felaktiga, har för många begränsningar eller är för dyra. Omskrivning av frågor stöder ett brett spektrum av språk och försöker skriva om användarfrågor för att maximera återkallelsen. Det är nödvändigt att ange frågespråket som input. Frågeomskrivning är en del av Semantic Ranker (Azure AI-sökning funktion för att förbättra sökrelevansen), vilket är en premiumfunktion med en extra kostnad. Detta bör beaktas när du projicerar de totala kostnaderna för din lösning från slutpunkt till slutpunkt. Frågeomskrivning kan bara användas om du har semantisk ranker aktiverat.

Innan du använder frågeskrivning i en produktionsmiljö (liveversion av ditt program) är det viktigt att göra ytterligare testning och se till att de syntetiska frågorna är lämpliga för det avsedda användningsfallet. Mer information och exempel på hur du utvärderar omskrivning av frågor finns i innehållet och bilagan här.

Systemprestanda

Med storskaliga naturliga språkmodeller kan två olika användare titta på samma utdata och ha olika åsikter om hur användbart eller relevant det är, vilket innebär att prestanda för dessa system måste definieras mer flexibelt. Här anser vi i stort sett att prestanda innebär att programmet fungerar som du och dina användare förväntar dig, inklusive att inte generera skadliga utdata.

Prestandan för frågeomskrivning varierar beroende på den verkliga användningen och de villkor som användarna använder den i. Kvaliteten på syntetiska frågor som tillhandahålls av frågeomskrivningsmodellen är direkt korrelerad med den ursprungliga sökfrågan.

För att säkerställa optimala prestanda i sina scenarier bör kunderna utföra sina egna utvärderingar av de lösningar som de implementerar med hjälp av frågeomskrivning. Kunder bör vanligtvis följa en utvärderingsprocess som:

1. använder vissa interna intressenter för att utvärdera resultat,
2. använder A/B-testning för att införa omskrivning av frågor till användare och
3. innehåller KPI:er och måttövervakning när tjänsten distribueras i upplevelser för första gången

Metodtips för att förbättra systemprestanda

• Slutför A/B-testning för ditt program med olika frågetyper (fulltext, vektor, hybrid eller annan typ av frågor). Ta reda på vilken frågeupplevelse som passar bäst för dina behov.
• Anta inte alltid att varje syntetisk fråga som genereras av frågeomskrivningen återspeglar den ursprungliga frågans exakta avsikt. Syntetiska frågor genereras av en finjusterad SLM, som genererar frågor som semantiskt liknar avsikten med den ursprungliga frågan men kanske inte matchar den exakta avsikten.

Utvärdering av frågeomskrivning

Utvärderingsmetoder

Frågeomskrivning utvärderades genom intern testning, inklusive automatiserad och mänsklig bedömning av flera datauppsättningar samt feedback från interna kunder. Testningen omfattade utvärdering av relevansen av resultat av semantisk rangordning kombinerat med frågeomskrivning jämfört med relevansen av resultat med endast semantisk rangordning.

Utvärderingsresultat

Varje kandidatmodell jämförs direkt med den för närvarande distribuerade modellen med hjälp av mått som är lämpliga för den funktion som utvärderas. Modeller för frågeomskrivning finjusteras och utvärderas med hjälp av en mängd offentliga data som är representativa för frågor som har olika egenskaper (språk, längd, formatering, formatmallar och toner) för att stödja den bredaste matrisen med sökscenarier. Våra tränings- och testdata hämtas från:

Dokumentkällor:

• Akademiska riktmärken och branschriktmärken
• Kunddata (endast testning, som utförs med kundbehörighet)

Frågekällor:

• Benchmark-frågeuppsättningar
• Kundspecifika frågeuppsättningar (endast testning, som utförs med kundbehörighet)
• Syntetiska frågeuppsättningar
• Frågeuppsättningar som genereras av människor

Källor till etiketter för bedömning av fråge- och dokumentpar:

• Referensetiketter för akademiska och industriella jämförelser
• Kundetiketter (endast testning, som utförs med kundbehörighet)
• Syntetiska dataetiketter
• Etiketter som är gjorda av människor

Utvärdera och integrera omskrivning av frågor för ditt bruk

När frågeomskrivning har tränats på offentligt innehåll varierar de syntetiska frågorna baserat på de frågor som utfärdas till den. Därför är det viktigt att använda din egen bedömning och forskning när du använder det här innehållet för beslutsfattande.

GenAI Prompt-funktion

Tekniska begränsningar, driftfaktorer och intervall

Även om GenAI Prompt-kunskaper erbjuder kraftfulla funktioner är det viktigt att känna igen vissa begränsningar:

• Kunskapen förlitar sig på kundkonfigurerade innehållsfilter i Foundry. Azure AI-sökning tillhandahåller inte ytterligare säkerhetsmekanismer för innehåll för den här kompetensen.
• Kvaliteten på AI-genererat innehåll beror på hur effektiva prompterna och den underliggande språkmodellen är. Noggrann testning krävs för att säkerställa att utdata uppfyller de önskade standarderna.
• Bearbetning av stora mängder data med komplexa frågor kan kräva betydande beräkningsresurser och kan orsaka svarstid. Planera och allokera resurser klokt för att inte bara upprätthålla prestanda och kostnadseffektivitet, utan också för att förhindra eventuella fördröjningar i databehandlingen.

Systemprestanda

Metodtips för att förbättra systemprestanda

Så här optimerar du prestandan för GenAI Prompt-färdigheten:

• Använd Azure AI-sökning debug sessionsverktyg för att testa prompter på exempeldokument, vilket säkerställer att AI-genererat innehåll överensstämmer med förväntningarna före fullständig distribution.
• Skapa tydliga och detaljerade uppmaningar för att vägleda språkmodellen effektivt, vilket minskar sannolikheten för irrelevanta eller felaktiga utdata.
• Övervaka systemets prestanda och skala resurser efter behov för att hantera beräkningskraven för AI-bearbetning.
• Uppmuntra mänsklig tillsyn av utdata före publicering eller spridning. Med generativ AI finns det potential att generera innehåll som kan vara stötande eller irrelevant för den aktuella uppgiften.

Utvärdering av GenAI Prompt-kompetens

Utvärdera och integrera GenAI Prompt-kunskaper för din användning

Om du vill maximera fördelarna med GenAI Prompt-färdigheten i din specifika kontext bör du överväga följande steg:

• Fastställ de särskilda målen för berikning, till exempel att generera kortfattade sammanfattningar, identifiera viktiga enheter eller skapa beskrivande metadata, för att anpassa tillämpningen av färdigheter till dina affärsbehov.
• Börja med en delmängd av dina data för att utvärdera kompetensens prestanda och göra nödvändiga justeringar. Den här metoden möjliggör kontrollerade experimentering och förfining före fullskalig distribution.
• Upprätta mekanismer för att övervaka kvaliteten och effekten av det AI-genererade innehållet. Be slutanvändarna om feedback för att identifiera förbättringsområden och för att säkerställa att berikade data uppfyller användarnas förväntningar.

Agentisk sökning

Tekniska begränsningar, driftfaktorer och intervall

Det kan finnas fall där de LLM-genererade underfrågorna är irrelevanta, alltför restriktiva eller ökar tokenkostnaderna. Agentisk hämtning stöder alla språk som hanteras av GPT-4o-familjen, men kvaliteten på den genererade frågeplanen beror fortfarande på tydligheten i användarens indata. Eftersom agentisk hämtning förlitar sig på semantisk ranker för varje underfråga måste du ha semantisk ranker aktiverat i indexet. Semantisk ranker är en premium, tokenbaserad funktion; Även om rangordningsavgifter undantas under den första fasen av den offentliga förhandsversionen, kommer de att tillämpas senare och bör beaktas i den totala ägandekostnaden.

Innan du flyttar agentisk hämtning till en produktionsmiljö utför du ytterligare testning för att bekräfta att underfrågorna och de returnerade avsnitten är lämpliga för det avsedda användningsfallet, att svarstid och kostnad uppfyller dina servicenivåmål och att grunddata inte exponerar känsligt eller icke-kompatibelt innehåll.

Systemprestanda

Precis som med alla storskaliga språkmodellsystem kan olika användare nå olika bedömningar om användbarheten eller relevansen hos de returnerade passagerna, så prestanda måste definieras flexibelt. För agentisk hämtning anser vi att bra prestanda innebär att programmet från slutpunkt till slutpunkt levererar det innehåll som användarna förväntar sig – utan oacceptabla svarstider, kostnader eller skadliga utdata.

Hur effektiv agentisk hämtning är beror på många verkliga faktorer:

• Längd på fråga/chatthistorik
• Antal LLM-genererade underfrågor
• Indexstorlek och schema (nyckelord, vektor, hybrid)
• Val av planeringsmodell (GPT-4o jämfört med GPT-4o-mini)
• Konfiguration och poängtrösklar för semantisk sökning

Metodtips för att förbättra systemprestanda

• Sammanfatta eller trimma äldre chattsvängar för att hålla tokenanvändningen låg.
• Justera rankningströskeln så att endast mycket relevanta passager returneras
• Använd filter där det är möjligt

Utvärdering av agentbaserad återhämtning

Agentisk hämtning har utvärderats genom intern testning, inklusive automatiserad och mänsklig bedömning av flera datauppsättningar. Testning inkluderade utvärdering av relevansen av resultaten av agentisk hämtning jämfört med resultat med endast semantisk rangordning.

Utvärderingsmetoder

Varje kandidatkonfiguration för agentisk återhämtning, definierad av dess planner-prompt, modellvariant, antal underfrågor och rangordningströsklar, utvärderas direkt mot produktionsbaslinjen. Vi tillämpar en uppsättning relevans-, säkerhets-, svarstids- och kostnadsmått som valts specifikt för hämtningsscenarier med flera frågor. För att säkerställa tillförlitlighet i verkliga användningsfall utförs justering och testning på en bred blandning av offentliga och kundgodkända datauppsättningar som varierar i språk, frågelängd, formatering, formatering och konversationston. Testmaterialet kommer från:

Dokumentkällor:

• Akademiska riktmärken och branschriktmärken
• Kunddata (endast testning, som utförs med kundbehörighet)
• Frågekällor:
• Benchmark-frågeuppsättningar
• Kundspecifika frågeuppsättningar (endast testning, som utförs med kundbehörighet)
• Syntetiska frågeuppsättningar
• Frågeuppsättningar som genereras av människor

Källor till etiketter för bedömning av fråge- och dokumentpar:

• Referensetiketter för akademiska och industriella jämförelser
• Kundetiketter (endast testning, som utförs med kundbehörighet)
• Syntetiska dataetiketter
• Etiketter som är gjorda av människor

Utvärdera och integrera agentbaserad hämtning för ditt bruk

Eftersom agentic-retrieval planner till stor del tränas på offentliga data varierar kvaliteten och relevansen för dess genererade underfrågor med din domän och de specifika användarfrågorna. Tänk på följande steg för att maximera fördelarna med agentisk hämtning i din specifika kontext:

• Verifiera utdata innan du använder det för att driva affärskritiska beslut: Granska ett urval av genererade underfrågor manuellt och returnerade dokument för att bekräfta att de överensstämmer med domänterminologi, noggrannhet och efterlevnadskrav.
• Ange domänspecifik information till planeraren. Ange synonymkartor och fullständig konversationshistorik så att LLM kan parafrasera och dela upp frågor på ett språk som matchar ditt innehåll, vilket förbättrar träffsäkerhet och precision.
• Implementera reserv- eller skyddsmekanismslogik: Om planeraren ger låg konfidens eller underfrågor utanför omfånget dirigerar du begäran till en enklare nyckelords- eller vektorsökning eller visar en klargörande uppmaning till användaren, vilket förhindrar att otillförlitliga svar sprids nedströms.

Läs mer om ansvarsfull AI

• Microsoft AI-principer
• Microsoft ansvarsfulla AI-resurser
• Microsoft Azure Utbildningskurser om ansvarsfull AI

Läs mer om Azure AI-sökning

• Introduction till Azure AI-sökning
• Funktionsbeskrivningar
• AI-berikningsbegrepp
• Retrieval Augmented Generation (RAG) i Azure AI-sökning