Wykrywanie uziemienia
Interfejs API wykrywania naziemności wykrywa, czy odpowiedzi tekstowe dużych modeli językowych (LLM) są uziemione w materiałach źródłowych dostarczanych przez użytkowników. Bezpodstawność odnosi się do wystąpień, w których LLMs tworzą informacje, które nie są faktyczne lub niedokładne z tego, co było obecne w materiałach źródłowych.
Kluczowe terminy
- Pobieranie rozszerzonej generacji (RAG): RAG to technika rozszerzania wiedzy LLM o inne dane. LlMs mogą wnioskować o szeroko zakrojonych tematach, ale ich wiedza jest ograniczona do danych publicznych, które były dostępne w czasie ich trenowania. Jeśli chcesz utworzyć aplikacje sztucznej inteligencji, które mogą wnioskować o prywatnych danych lub danych wprowadzonych po dacie odcięcia modelu, musisz podać model z określonymi informacjami. Proces wprowadzania odpowiednich informacji i wstawiania ich do monitu modelu jest znany jako Pobieranie rozszerzonej generacji (RAG). Aby uzyskać więcej informacji, zobacz Pobieranie rozszerzonej generacji (RAG).
- Groundedness i Ungroundedness w LLMs: Odnosi się to do zakresu, w jakim dane wyjściowe modelu są oparte na dostarczonych informacjach lub odzwierciedlają wiarygodne źródła dokładnie. Uziemiona odpowiedź ściśle przestrzega podanych informacji, unikając spekulacji lub produkcji. W pomiarach uziemienia informacje źródłowe mają kluczowe znaczenie i służą jako źródło uziemienia.
Opcje wykrywania naziemności
Dostępne są następujące opcje wykrywania naziemności w ramach bezpieczeństwa zawartości sztucznej inteligencji platformy Azure:
- Wybór domeny: użytkownicy mogą wybrać ustanowioną domenę, aby zapewnić bardziej dostosowane wykrywanie, które jest zgodne z konkretnymi potrzebami ich pola. Bieżące dostępne domeny to
MEDICALiGENERIC. - Specyfikacja zadania: Ta funkcja pozwala wybrać zadanie, które wykonujesz, takie jak pytania i odpowiedzi oraz podsumowanie, z regulowanymi ustawieniami zgodnie z typem zadania.
- Szybkość a możliwość interpretacji: istnieją dwa tryby, które różnią się szybkością z możliwościami interpretacji wyników.
- Tryb bez rozumowania: oferuje możliwość szybkiego wykrywania; łatwe osadzanie w aplikacjach online.
- Tryb rozumowania: oferuje szczegółowe wyjaśnienia dotyczące wykrytych nieprzystawionych segmentów; lepiej zrozumieć i zaradcze.
Przypadki użycia
Wykrywanie uziemienia obsługuje zadania podsumowania oparte na tekście i pytań i odpowiedzi, aby upewnić się, że wygenerowane podsumowania lub odpowiedzi są dokładne i niezawodne. Oto kilka przykładów każdego przypadku użycia:
Zadania podsumowania:
- Podsumowanie medyczne: W kontekście artykułów medycznych wykrywania uziemienia można użyć w celu zapewnienia, że podsumowanie nie zawiera sfałszowanych lub wprowadzających w błąd informacji, gwarantując, że czytelnicy uzyskają dokładne i wiarygodne informacje medyczne.
- Podsumowanie w dokumencie akademickim: Gdy model generuje podsumowania artykułów naukowych lub artykułów naukowych, funkcja może pomóc zapewnić, że podsumowana zawartość dokładnie reprezentuje kluczowe ustalenia i wkład bez wprowadzania fałszywych oświadczeń.
Zadania usługi QnA:
- Czatboty pomocy technicznej klienta: W pomocy technicznej klienta funkcja może służyć do weryfikowania odpowiedzi dostarczonych przez czatbotów sztucznej inteligencji, zapewniając, że klienci otrzymują dokładne i wiarygodne informacje podczas zadawania pytań dotyczących produktów lub usług.
- Medical QnA: W przypadku medycznej QnA funkcja pomaga zweryfikować dokładność odpowiedzi medycznych i porad dostarczonych przez systemy sztucznej inteligencji dla pracowników służby zdrowia i pacjentów, zmniejszając ryzyko błędów medycznych.
- Edukacja pytań i odpowiedzi: W ustawieniach edukacyjnych funkcja może być stosowana do zadań QnA w celu potwierdzenia, że odpowiedzi na pytania akademickie lub zapytania przygotowania testowego są rzeczywiście dokładne, wspierając proces uczenia się.
Korekta uziemienia
Interfejs API wykrywania naziemności zawiera funkcję poprawek, która automatycznie poprawia wszelkie wykryte niezaziemnianie w tekście na podstawie podanych źródeł uziemienia. Po włączeniu funkcji korekty odpowiedź zawiera corrected Text pole przedstawiające poprawiony tekst wyrównany do źródeł uziemienia.
Przypadki użycia
Poniżej przedstawiono kilka typowych scenariuszy ilustrujących, jak i kiedy zastosować te funkcje w celu uzyskania najlepszych wyników.
Podsumowanie w kontekstach medycznych
Podsumowujesz dokumenty medyczne i ważne jest, aby nazwiska pacjentów w podsumowaniach były dokładne i zgodne z podanymi źródłami uziemienia.
Przykładowe żądanie interfejsu API:
{
"domain": "Medical",
"task": "Summarization",
"text": "The patient name is Kevin.",
"groundingSources": [
"The patient name is Jane."
],
}
Oczekiwany wynik:
Funkcja poprawek wykrywa, że Kevin jest nieprzystawiona, ponieważ powoduje konflikt ze źródłem Janeuziemienia . Interfejs API zwraca poprawiony tekst: "The patient name is Jane."
Zadanie pytań i odpowiedzi (QnA) przy użyciu danych pomocy technicznej klienta
Wdrażasz system pytań i pytań i pytań dla czatbota pomocy technicznej klienta. Ważne jest, aby odpowiedzi podane przez sztuczną inteligencję były zgodne z najnowszymi i dokładnymi dostępnymi informacjami.
Przykładowe żądanie interfejsu API:
{
"domain": "Generic",
"task": "QnA",
"qna": {
"query": "What is the current interest rate?"
},
"text": "The interest rate is 5%.",
"groundingSources": [
"As of July 2024, the interest rate is 4.5%."
],
}
Oczekiwany wynik:
Interfejs API wykrywa, że 5% nie ma pierwszego planu, ponieważ nie jest zgodny z podanym źródłem 4.5%uziemienia . Odpowiedź zawiera tekst poprawki: "The interest rate is 4.5%."
Tworzenie zawartości z danymi historycznymi
Tworzysz zawartość, która obejmuje dane historyczne lub zdarzenia, gdzie dokładność ma kluczowe znaczenie dla utrzymania wiarygodności i uniknięcia dezinformacji.
Przykładowe żądanie interfejsu API:
{
"domain": "Generic",
"task": "Summarization",
"text": "The Battle of Hastings occurred in 1065.",
"groundingSources": [
"The Battle of Hastings occurred in 1066."
],
}
Oczekiwany wynik:
Interfejs API wykrywa datę 1065 bez planu i poprawia ją na 1066 podstawie źródła uziemienia. Odpowiedź zawiera poprawiony tekst: "The Battle of Hastings occurred in 1066."
Podsumowanie dokumentacji wewnętrznej
Podsumowujesz dokumenty wewnętrzne, w których nazwy produktów, numery wersji lub inne konkretne punkty danych muszą pozostać spójne.
Przykładowe żądanie interfejsu API:
{
"domain": "Generic",
"task": "Summarization",
"text": "Our latest product is SuperWidget v2.1.",
"groundingSources": [
"Our latest product is SuperWidget v2.2."
],
}
Oczekiwany wynik:
Funkcja korekty identyfikuje SuperWidget v2.1 się jako nieprzystawiony i aktualizuje ją SuperWidget v2.2 w odpowiedzi. Odpowiedź zwraca poprawiony tekst: "Our latest product is SuperWidget v2.2."
Najlepsze rozwiązania
Przestrzegaj następujących najlepszych rozwiązań podczas konfigurowania systemów RAG, aby uzyskać najlepszą wydajność z interfejsu API wykrywania uziemienia:
- W przypadku obsługi nazw produktów lub numerów wersji użyj źródeł uziemień bezpośrednio z wewnętrznych informacji o wersji lub oficjalnej dokumentacji produktu, aby zapewnić dokładność.
- W przypadku zawartości historycznej należy odwoływać się do źródeł uziemienia z zaufanymi bazami danych akademickich lub historycznych, aby zapewnić najwyższy poziom dokładności.
- W dynamicznym środowisku, na przykład finanse, zawsze używaj najnowszych i niezawodnych źródeł uziemów, aby zapewnić, że system sztucznej inteligencji zapewnia dokładne i aktualne informacje.
- Zawsze upewnij się, że źródła uziemienia są dokładne i aktualne, szczególnie w wrażliwych dziedzinach, takich jak opieka zdrowotna. Minimalizuje to ryzyko błędów w procesie podsumowania.
Ograniczenia
Dostępność języków
Obecnie interfejs API wykrywania naziemności obsługuje zawartość języka angielskiego. Chociaż nasz interfejs API nie ogranicza przesyłania zawartości innej niż angielska, nie możemy zagwarantować tego samego poziomu jakości i dokładności w analizie innej zawartości językowej. Zalecamy, aby użytkownicy przesyłali zawartość głównie w języku angielskim, aby zapewnić najbardziej niezawodne i dokładne wyniki z interfejsu API.
Ograniczenia długości tekstu
Zobacz Wymagania dotyczące danych wejściowych, aby uzyskać informacje o maksymalnych ograniczeniach długości tekstu.
Dostępność w regionach
Aby korzystać z tego interfejsu API, należy utworzyć zasób Bezpieczeństwa zawartości usługi Azure AI w obsługiwanych regionach. Zobacz Dostępność regionów.
Ograniczenia szybkości
Zobacz Współczynniki zapytań.
Jeśli potrzebujesz wyższej stawki, skontaktuj się z nami, aby go poprosić.
Następne kroki
Postępuj zgodnie z przewodnikiem Szybki start, aby rozpocząć korzystanie z bezpieczeństwa zawartości sztucznej inteligencji platformy Azure w celu wykrycia podstaw.