Wykrywanie uziemienia

Interfejs API wykrywania naziemności wykrywa, czy odpowiedzi tekstowe dużych modeli językowych (LLM) są uziemione w materiałach źródłowych dostarczanych przez użytkowników. Bezpodstawność odnosi się do wystąpień, w których LLMs tworzą informacje, które nie są faktyczne lub niedokładne z tego, co było obecne w materiałach źródłowych.

Kluczowe terminy

• Pobieranie rozszerzonej generacji (RAG): RAG to technika rozszerzania wiedzy LLM o inne dane. LlMs mogą wnioskować o szeroko zakrojonych tematach, ale ich wiedza jest ograniczona do danych publicznych, które były dostępne w czasie ich trenowania. Jeśli chcesz utworzyć aplikacje sztucznej inteligencji, które mogą wnioskować o prywatnych danych lub danych wprowadzonych po dacie odcięcia modelu, musisz podać model z określonymi informacjami. Proces wprowadzania odpowiednich informacji i wstawiania ich do monitu modelu jest znany jako Pobieranie rozszerzonej generacji (RAG). Aby uzyskać więcej informacji, zobacz Pobieranie rozszerzonej generacji (RAG).

• Groundedness i Ungroundedness w LLMs: Odnosi się to do zakresu, w jakim dane wyjściowe modelu są oparte na dostarczonych informacjach lub odzwierciedlają wiarygodne źródła dokładnie. Uziemiona odpowiedź ściśle przestrzega podanych informacji, unikając spekulacji lub produkcji. W pomiarach uziemienia informacje źródłowe mają kluczowe znaczenie i służą jako źródło uziemienia.

Funkcje wykrywania naziemności

• Wybór domeny: użytkownicy mogą wybrać ustanowioną domenę, aby zapewnić bardziej dostosowane wykrywanie, które jest zgodne z konkretnymi potrzebami ich pola. Obecnie dostępne domeny to MEDICAL i GENERIC.
• Specyfikacja zadania: Ta funkcja pozwala wybrać zadanie, które wykonujesz, takie jak pytania i odpowiedzi oraz podsumowanie, z regulowanymi ustawieniami zgodnie z typem zadania.
• Szybkość a możliwość interpretacji: istnieją dwa tryby, które różnią się szybkością z możliwościami interpretacji wyników.
  • Tryb bez rozumowania: oferuje możliwość szybkiego wykrywania; łatwe osadzanie w aplikacjach online.
  • Tryb rozumowania: oferuje szczegółowe wyjaśnienia dotyczące wykrytych nieprzystawionych segmentów; lepiej zrozumieć i zaradcze.

Przypadki użycia

Wykrywanie uziemienia obsługuje zadania podsumowania oparte na tekście i pytań i odpowiedzi, aby upewnić się, że wygenerowane podsumowania lub odpowiedzi są dokładne i niezawodne. Oto kilka przykładów każdego przypadku użycia:

Zadania podsumowania:

• Podsumowanie medyczne: W kontekście artykułów medycznych wykrywania uziemienia można użyć w celu zapewnienia, że podsumowanie nie zawiera sfałszowanych lub wprowadzających w błąd informacji, gwarantując, że czytelnicy uzyskają dokładne i wiarygodne informacje medyczne.
• Podsumowanie w dokumencie akademickim: Gdy model generuje podsumowania artykułów naukowych lub artykułów naukowych, funkcja może pomóc zapewnić, że podsumowana zawartość dokładnie reprezentuje kluczowe ustalenia i wkład bez wprowadzania fałszywych oświadczeń.

Zadania usługi QnA:

• Czatboty pomocy technicznej klienta: W pomocy technicznej klienta funkcja może służyć do weryfikowania odpowiedzi dostarczonych przez czatbotów sztucznej inteligencji, zapewniając, że klienci otrzymują dokładne i wiarygodne informacje podczas zadawania pytań dotyczących produktów lub usług.
• Medical QnA: W przypadku medycznej QnA funkcja pomaga zweryfikować dokładność odpowiedzi medycznych i porad dostarczonych przez systemy sztucznej inteligencji dla pracowników służby zdrowia i pacjentów, zmniejszając ryzyko błędów medycznych.
• Edukacja pytań i odpowiedzi: W ustawieniach edukacyjnych funkcja może być stosowana do zadań QnA w celu potwierdzenia, że odpowiedzi na pytania akademickie lub zapytania przygotowania testowego są rzeczywiście dokładne, wspierając proces uczenia się.

Ograniczenia

Dostępność języków

Obecnie interfejs API wykrywania naziemności obsługuje zawartość języka angielskiego. Chociaż nasz interfejs API nie ogranicza przesyłania zawartości innej niż angielska, nie możemy zagwarantować tego samego poziomu jakości i dokładności w analizie innej zawartości językowej. Zalecamy, aby użytkownicy przesyłali zawartość głównie w języku angielskim, aby zapewnić najbardziej niezawodne i dokładne wyniki z interfejsu API.

Ograniczenia długości tekstu

Zobacz Wymagania dotyczące danych wejściowych, aby uzyskać informacje o maksymalnych ograniczeniach długości tekstu.

Regiony

Aby korzystać z tego interfejsu API, należy utworzyć zasób Bezpieczeństwa zawartości usługi Azure AI w obsługiwanych regionach. Zobacz Dostępność regionów.

Ograniczenia modułu TPS

Zobacz Współczynniki zapytań.

Jeśli potrzebujesz wyższej stawki, skontaktuj się z nami, aby go poprosić.

Następne kroki

Postępuj zgodnie z przewodnikiem Szybki start, aby rozpocząć korzystanie z bezpieczeństwa zawartości sztucznej inteligencji platformy Azure w celu wykrycia podstaw.

Przewodnik Szybki start dotyczący wykrywania naziemności