Monituj techniki inżynieryjne

Te techniki nie są zalecane w przypadku modeli rozumowania, takich jak modele gpt-5 i o-series.

Budowa tekstów może być trudna. W praktyce monit pomaga modelowi ukończyć żądane zadanie, ale jest to bardziej sztuka niż nauka, często wymagając doświadczenia i intuicji, aby stworzyć udany monit. Celem tego artykułu jest pomoc w rozpoczęciu pracy z tym procesem szkoleniowym. Podejmuje próbę przechwycenia ogólnych pojęć i wzorców, które mają zastosowanie do wszystkich modeli GPT. Jednak ważne jest, aby zrozumieć, że każdy model zachowuje się inaczej, więc uczenie może nie mieć równego zastosowania do wszystkich modeli.

Podstawy

W tej sekcji omówiono podstawowe pojęcia i elementy monitów GPT.

Polecenia tekstowe to sposób, w jaki użytkownicy wchodzą w interakcję z modelami GPT. Podobnie jak we wszystkich modelach językowych generowania, modele GPT próbują utworzyć kolejną serię słów, które najprawdopodobniej będą zgodne z poprzednim tekstem. To tak, jakbyśmy mówili , co jest pierwszą rzeczą, która przychodzi do twojego umysłu, kiedy mówię <prompt>? W poniższych przykładach pokazano to zachowanie. Biorąc pod uwagę pierwsze słowa znanej zawartości, model jest w stanie dokładnie kontynuować tekst.

Podpowiedź	Ukończenie
Cztery wyniki i siedem lat temu	ojcowie ustanowili na tym kontynencie nowy naród, zrodzony w wolności i oddany zasadzie, że wszyscy ludzie są stworzeni równi. […]
"Zadzwoń do mnie Ishmael."	Kilka lat temu — nieważne jak długo dokładnie — mając niewiele lub w ogóle nie mając pieniędzy w mojej kieszeni, i nic szczególnego, co interesowałoby mnie na lądzie, pomyślałem, że popłynę trochę i zobaczę wodnistą część świata.

Podczas opracowywania bardziej złożonych monitów warto pamiętać o tym podstawowym zachowaniu. Niezależnie od podanego polecenia, model odpowiada po prostu na to, co uznaje za najbardziej prawdopodobne, biorąc pod uwagę dane szkoleniowe i cele szkoleniowe. Jeśli zadajesz pytanie w wierszu polecenia, model nie śledzi oddzielnej ścieżki kodu "Q&A", ale raczej wydaje się odpowiadać na pytanie, ponieważ odpowiedź jest najbardziej prawdopodobnym rodzajem odpowiedzi dla danego pytania jako danych wejściowych.

Monituj składniki

W przypadku korzystania z API uzupełniania, gdy nie ma różnicy między różnymi częściami monitu, może być nadal przydatne dla nauki i dyskusji, aby zidentyfikować podstawowe elementy monitu. API Uzupełniania Czatu zawiera różne sekcje monitu, które są wysyłane do API w postaci tablicy słowników z przypisanymi rolami: system, użytkownik i asystent. Te wskazówki koncentrują się bardziej ogólnie na tym, jak myśleć o tworzeniu wywołań, zamiast na dostarczaniu szczegółowych wskazówek specyficznych dla jednego API wobec innego.

Ważne jest również, aby zrozumieć, że choć mogą istnieć inne poprawne sposoby rozbicia promptów, celem tego podziału jest zapewnienie stosunkowo prostego sposobu myślenia o konstrukcji promptu. W przypadku API Uzupełniania wszystkie składniki są opcjonalne, ale co najmniej jeden musi być obecny, a większość podpowiedzi zawiera więcej niż jeden składnik. Między składnikami może znajdować się szary obszar. Kolejność przedstawiona poniżej w przybliżeniu odpowiada sposobie, w jaki często każdy składnik jest używany, od większości do najmniejszych.

Instrukcje

Instrukcje są prawdopodobnie najczęściej używanym składnikiem monitu. Instrukcje są po prostu następujące: instrukcje dotyczące modelu na temat tego, co należy zrobić. Chociaż jest to proste w koncepcji, mogą być złożone w praktyce. W poniższej tabeli przedstawiono to, przedstawiając zarówno proste, jak i bardziej złożone instrukcje w dwóch różnych formach.

Typ instrukcji	Podpowiedź	Ukończenie
Proste instrukcje	Napisz wprowadzenie do tygodniowego biuletynu.	Witamy w naszym cotygodniowym biuletynie. W tym tygodniu skupiamy się na produktywności. Podzielimy się wskazówkami i wskazówkami dotyczącymi tego, jak być produktywnym we wszystkich obszarach twojego życia. Mamy nadzieję, że cieszysz się i podziel się ze znajomymi!
Złożone instrukcje	Napisz wprowadzenie do tygodniowego biuletynu dla mojej firmy o nazwie Contoso. Należy wspomnieć o wielkim spotkaniu wszystkich pracowników, które odbyło się w zeszłym tygodniu, i podziękować zespołowi za całą ciężką pracę w ciągu ostatnich kilku trudnych miesięcy.	Witamy w cotygodniowym biuletynie firmy Contoso! Mieliśmy wspaniałe spotkanie całego zespołu w zeszłym tygodniu i chcę podziękować zespołowi za całą ich ciężką pracę w ciągu trudnych ostatnich kilku miesięcy. Nie możemy się doczekać jasnej przyszłości i jestem przekonany, że dzięki poświęceniu oraz oddaniu naszego zespołu osiągniemy wspaniałe rzeczy. Dziękuję za to, że jest częścią naszego zespołu i czekam na współpracę z tobą wszystkim w najbliższych tygodniach i miesiącach. Z poważaniem, [Twoje imię].
Instrukcje złożone	Napisz wprowadzenie do cotygodniowego biuletynu, w tym następujące: — Moja firma nosi nazwę contoso - Radochne powitanie - Podziękowanie zespołowi za ciężką pracę w ciągu kilku trudnych miesięcy - Pozytywne perspektywy na nadchodzący kwartał - Podpisane przez Zespół Liderów Strategicznych (SLT)	Witaj, zespół firmy Contoso! Chciałem chwilę podziękować za całą ciężką pracę w ciągu ostatnich kilku miesięcy. To było trudne kilka miesięcy, ale wszyscy zebraliśmy się i wykonaliśmy niesamowitą pracę. Jestem z was naprawdę dumny. Patrząc do następnego kwartału, czuję się naprawdę pozytywny. Myślę, że osiągniemy kilka wspaniałych rzeczy. Dzięki ponownie, starszy zespół kierowniczy.

Zawartość podstawowa

Zawartość podstawowa odnosi się do pewnego rodzaju tekstu przetwarzanego lub przekształcanego przez model. Zawartość podstawowa jest zwykle używana w połączeniu z instrukcjami. Prostym przykładem jest tłumaczenie języka. W poniższym przykładzie tekst w języku angielskim będzie traktowany jako podstawowa zawartość, podczas gdy "Translate to French:" jest instrukcją.

Podpowiedź	Ukończenie
Czy możesz mi powiedzieć, jak dostać się do muzeum? Tłumaczenie na język francuski:	Pouvez-vous s'il vous plaît me dire comment aller au musée?

Zawartość podstawowa może być również znacznie dłuższa. W poniższym przykładzie podstawowa zawartość jest sekcją wprowadzającą z wpisu w Wikipedii na temat złożoności czasu, która jest prawie 300 wyrazów długa. Ta zawartość jest skracana w naszej tabeli w celu ułatwienia wyświetlania.

Podpowiedź	Ukończenie
W nauce komputerowej złożoność czasowa to złożoność obliczeniowa, która opisuje czas potrzebny na uruchomienie algorytmu. Złożoność czasu jest często szacowana przez [...] Podsumuj poprzedni tekst w kilku zdaniach:	Złożoność czasowa to miara czasu uruchomienia algorytmu. Zwykle jest wyrażona jako funkcja rozmiaru danych wejściowych. Najczęstszą miarą jest złożoność czasu najgorszego przypadku, czyli maksymalny czas wymagany dla danych wejściowych danego rozmiaru.
W nauce komputerowej złożoność czasowa to złożoność obliczeniowa, która opisuje czas potrzebny na uruchomienie algorytmu. Złożoność czasu jest często szacowana przez [...] TL;DR (za długo; nie czytałem)	Złożoność czasowa algorytmu to czas potrzebny na uruchomienie algorytmu. Złożoność czasu jest często szacowana przez zliczanie liczby operacji podstawowych wykonywanych przez algorytm, co oznacza, że każda operacja podstawowa zajmuje stałą ilość czasu do wykonania. Złożoność czasu jest zwykle wyrażana jako funkcja rozmiaru danych wejściowych.

Modele GPT mogą również obsługiwać zawartość podstawową, która jest ustrukturyzowana. W poniższym przykładzie TSV dotyczący piw w Belgii (skrócony do wyświetlania w tym artykule) jest przekazywany do modelu jako część zapytania. Jest w stanie prawidłowo interpretować zawartość i odpowiadać na pytania dotyczące danych.

Podpowiedź	Ukończenie
Belgian Beer Brands Beer name Beer style color ABV Brewery "Chimay Gold: ""Doree""" trappist pale ale gold 4.80% Chimay Brewery (official trappist) "Chimay Blue: ""Grande Reserve""" trappist dark ale dark 9.00% […] Jak wiele piw jest mniejszych niż 6% ABV, odwołując się do powyższej tabeli?	W tabeli znajduje się 10 piw, które są mniejsze niż 6% ABV.

Przykłady

Skuteczne monity często opierają się na metodach uczenia typu "jednorazowego" lub "niewielkiej ilości przykładowych". Odnosi się to do dołączenia jednego lub kilku przykładów żądanego zachowania modelu, zazwyczaj przez dołączenie par wejściowych i wyjściowych. Nie jest to nauka w tym sensie, że model jest trwale zmieniony, ale raczej, że przykłady lepiej warunkują, aby model lepiej odpowiadał zgodnie z potrzebami tylko dla bieżącego wnioskowania. Używanie monitów bez przykładów jest czasami określane jako nauka "zero-shot". Należy pamiętać, że w przypadku API uzupełniania czatu, przykłady uczenia z małą liczbą danych są zazwyczaj dodawane do kolekcji wiadomości w postaci przykładowych interakcji użytkownika/asystenta po początkowym komunikacie systemowym.

Typ nauki	Podpowiedź	Ukończenie
Zero-shot (bez przykładów)	Nagłówek: Trener pewny kontuzji nie wykolei Warriors Temat:	Trener jest przekonany, że kontuzja nie wykolei sezonu Warriors. Zespół nadal koncentruje się na swoich celach i że będzie nadal ciężko pracować, aby je osiągnąć.
Kilka strzałów	Nagłówek: Correa z Minnesoty Twins zamierza skorzystać z klauzuli odstąpienia, spróbuje sił na rynku wolnych agentów Temat: Baseball Katar: Mistrzostwa Świata będą mieć strefy trzeźwiejące Temat: Piłka nożna Nagłówek: Yates: Fantasy football intel na 6. tydzień Temat: Piłka nożna Nagłówek: Trener pewny kontuzji nie wykolei Warriors Temat:	Koszykówka

Powyższy przykład ilustruje użyteczność uczenia się z małą ilością danych. Bez przykładów, model wydaje się zgadywać pożądane zachowanie, podczas gdy przykłady czysto pokazują modelowi sposób działania. Pokazuje to również moc modelu — potrafi on wywnioskować kategorię etykiety, której się poszukuje, nawet bez etykiety "koszykówka" w przykładach.

Sygnał

Wskazówki działają jako impuls dla wyników modelu, pomagając nakierować go na pożądane rezultaty. Często jest to prefiks, na którym model może się opierać. W poniższym przykładzie przedstawiono wskazówek kierujących historię w celu uwzględnienia kluczowych elementów. Wskazówki są często używane wraz z instrukcjami, ale nie zawsze. W poniższych przykładach model jest używany do podsumowania długiej wiadomości e-mail z ogłoszeniem. Wskazówka jest używana w jednym przypadku, aby pomóc skupić dane wyjściowe modelu i zasugerować określony format danych wyjściowych (punktów punktowych) w drugim.

W kontekście instrukcji dotyczących interfejsu API uzupełniania czatu, przyjmują one formę komunikatu systemowego, a przykłady z niewielką ilością danych są wskazywane przez udostępnienie serii przykładowych interakcji użytkownika i asystenta, aby ułatwić przygotowanie modelu.

Liczba wskazówek	Podpowiedź	Ukończenie
0	Przeglądy wydajności są podstawowym składnikiem naszego podejścia do wydajności i rozwoju w firmie Contoso. […] Podsumuj powyższą wiadomość e-mail:	Niniejszy e-mail ma na celu poinformowanie pracowników o najnowszych zmianach w procesie oceny wyników, które są częścią podejścia firmy Contoso do wydajności i rozwoju. Zmiany obejmują ulepszoną strukturę, ulepszone doświadczenie użytkownika w narzędziu i skoncentrowane sugestie. Ponadto istnieje teraz opcjonalna sekcja Początki rozmów, w której pracownicy mogą oznaczać tematy, o których chcą rozmawiać ze swoimi kierownikami.
1	Przeglądy wydajności są podstawowym składnikiem naszego podejścia do wydajności i rozwoju w firmie Contoso. […] Podsumuj powyższą wiadomość e-mail: Najważniejszy wniosek z wiadomości to	firma Contoso poprawia proces oceny wyników, czyniąc go bardziej skoncentrowanym na kluczowych priorytetach, oczekiwaniach i ich wpływie. Ponadto uaktualniają doświadczenie użytkownika w narzędziu, oferując porady, zasoby i wskazówki. Na koniec dodają wskazówki dotyczące aktywowania podstawowych priorytetów dla całej firmy.
2	Przeglądy wydajności są podstawowym składnikiem naszego podejścia do wydajności i rozwoju w firmie Contoso. […] Podsumuj powyższą wiadomość e-mail: Kluczowe kwestie: •	Firma Contoso wprowadza zmiany w procesie oceny okresowej w oparciu o opinie pracowników. • Zmiany obejmują nowy nacisk na podstawowe priorytety, oczekiwania i wpływ; uaktualnione środowisko użytkownika; oraz nowe wskazówki dotyczące podstawowych priorytetów dla całej firmy. • Przeglądy wydajności to czas, aby zastanowić się nad wcześniejszymi wynikami i uczeniem się, a także planować przyszłe priorytety i możliwości rozwoju. • Pracownicy i menedżerowie powinni pisać komentarze przed spotkaniem przeglądu wydajności. • W ciągu roku powinny istnieć co najmniej dwa przeglądy wydajności. • Czas inwestycji w każdy przegląd powinien pozostać taki sam.

Zawartość pomocnicza

Zawartość pomocnicza to informacje, które model może wykorzystać do wpływania na dane wyjściowe w jakiś sposób. Różni się ona od zawartości podstawowej w tym, że nie jest głównym celem zadania, ale zazwyczaj jest używana wraz z zawartością podstawową. Typowe przykłady obejmują informacje kontekstowe, takie jak bieżąca data, nazwa użytkownika, preferencje użytkownika itd. W poniższym przykładzie użyto zawartości pomocniczej, aby ułatwić organizowanie zestawu planowanych warsztatów dla użytkownika. Bez wsparcia (ważnych tematów) model po prostu wymienia warsztaty (skrócone do wyświetlania), po otrzymaniu moich ważnych tematów model jest w stanie dokładnie zgrupować spotkania.

Zawartość pomocnicza	Podpowiedź	Ukończenie
Bez	Lista warsztatów: Opis tytułu Planowanie rozpoczęcia warsztatów Proszę dołącz do nas, aby rozpocząć nasze warsztaty! Posłuchaj naszych liderów na temat priorytetów i szkoleń między grupami w nadchodzącym roku. Zaproszenie na to wydarzenie zostało już wysłane do wszystkich w [...] Podsumuj powyższe warsztaty pogrupowane według tematu:	Lista warsztatów: Planowanie rozpoczęcia warsztatów -Podsumowanie warsztatów planistycznych - Core MeetUp — Perspektywy oparte na klientach -Wpływ i kluczowe obszary fokusu -Najlepsze rozwiązania -Przyspieszanie wdrażania aplikacji [...]
Z	Lista warsztatów: Opis tytułu Planowanie rozpoczęcia warsztatów Proszę dołącz do nas, aby rozpocząć nasze warsztaty! Posłuchaj naszych liderów na temat priorytetów i szkoleń między grupami w nadchodzącym roku. Zaproszenie na to wydarzenie zostało już wysłane do wszystkich w [...] Moje ważne tematy: inżynieria promptów, wyszukiwanie, modele GPT Podsumuj powyższe warsztaty pogrupowane według moich ważnych tematów:	1. Monituj inżynierię: - Nowe porady dotyczące inżynierii monitów - Sztuka inżynierii monitowej 2. Wyszukiwanie: -Wprowadzenie do wyszukiwania wektorowego z osadzaniem 3. Modele GPT: - Wprowadzenie do GPT-4 - Dogłębna analiza GPT-35-Turbo.

Wskazówki specyficzne dla scenariusza

Techniki w tej sekcji nauczą Cię strategii zwiększania dokładności i uziemienia odpowiedzi generowanych za pomocą modelu dużego języka (LLM). Należy jednak pamiętać, że nawet w przypadku efektywnego używania inżynierii monitu konieczne jest zweryfikowanie odpowiedzi generowanych przez modele. Tylko dlatego, że starannie spreparowany monit działał dobrze dla konkretnego scenariusza, niekoniecznie oznacza, że uogólnia się bardziej szeroko do niektórych przypadków użycia. Zrozumienie ograniczeń usługi LLMs jest równie ważne, jak zrozumienie sposobu wykorzystania ich mocnych stron.

Ten przewodnik nie zagłębia się w mechanikę za strukturą komunikatów na potrzeby uzupełniania czatów. Jeśli nie znasz programowego korzystania z modeli uzupełniania czatów, zalecamy zapoznanie się z naszym przewodnikiem z instrukcjami dotyczącymi interfejsu API uzupełniania czatów.

Uwaga / Notatka

Wszystkie przykłady w tej sekcji przewodnika zostały przetestowane pod kątem podstawowego modelu GPT-4 w języku angielskim. Niektóre techniki mogą generować różne wyniki z nowszymi modelami, takimi jak gpt-4o i gpt 4.5. Jeśli czytasz zlokalizowaną wersję tego artykułu w innym języku, odpowiedzi te reprezentują zlokalizowane tłumaczenie wyników w języku angielskim. Aby dowiedzieć się więcej na temat potencjalnych ograniczeń w zależności od języka używanego do monitowania modelu, zapoznaj się z naszą notatką dotyczącą przejrzystości odpowiedzialnej sztucznej inteligencji.

Uczenie na podstawie niewielu przykładów

Typowym sposobem dostosowywania modeli językowych do nowych zadań jest użycie uczenia kilkukrotnego. W przypadku uczenia przy ograniczonej liczbie przykładów zestaw przykładów szkoleniowych jest dostarczany jako część zapytania, aby zapewnić dodatkowy kontekst dla modelu.

W przypadku korzystania z API uzupełniania w czatach, seria komunikatów między użytkownikiem i asystentem (napisana w nowym formacie monitu) może służyć jako przykłady uczenia się na podstawie niewielkiej liczby przykładów. Te przykłady mogą służyć do tworzenia podstaw modelu, aby reagować w określony sposób, emulować określone zachowania i inicjować odpowiedzi na typowe pytania.

Komunikat systemowy

Przykłady kilku strzałów

Asystent to inteligentny czatbot, który pomaga użytkownikom odpowiedzieć na pytania związane z opodatkowaniem. Instrukcje - Odpowiadanie tylko na pytania związane z podatkami. - Jeśli nie masz pewności co do odpowiedzi, możesz powiedzieć "Nie wiem" lub "Nie jestem pewien" i polecam użytkownikom przejść do witryny internetowej IRS, aby uzyskać więcej informacji.

Użytkownik — "Kiedy muszę złożyć podatki?" Asystent - "W 2023 r. musisz złożyć podatki do 18 kwietnia. Data przypada po zwykłym terminie 15 kwietnia, ponieważ 15 kwietnia spada w sobotę w 2023 roku. Aby uzyskać więcej informacji, zobacz https://www.irs.gov/filing/individuals/when-to-file " Użytkownik — "Jak mogę sprawdzić stan zwrotu podatku?" Asystent — "Możesz sprawdzić stan zwrotu podatku, odwiedzając stronę https://www.irs.gov/refunds "

W powyższej tabeli opisano podstawową strukturę monitów, ale aby uzyskać szczegółowe wyjaśnienie dokładnego formatu monitu, należy zapoznać się z przewodnikiem ukończenia czatu.

Scenariusze niezwiązane z czatem

Interfejs API uzupełniania czatu jest zoptymalizowany pod kątem pracy z konwersacjami wieloeściowymi, ale może być również używany w scenariuszach niezwiązanych z czatem. Na przykład w przypadku scenariusza analizy nastrojów można użyć następującej wskazówki:

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem zaprojektowanym do analizowania tonacji na podstawie danych mowy. Użytkownicy wkleją ciąg tekstu i odpowiesz oceną odpowiedzi osoby mówiącej. Szybkość w skali od 1 do 10 (10 jest najwyższa). Wyjaśnij, dlaczego ta ocena została podana.	witam dziękuję za telefon contoso apteki, który jestem mówię dziś i rozumiem frustracji mary um można powiedzieć mi, co dokładnie próbujesz zrobić OK uh z pewnością szczęśliwy, aby sprawdzić, że dla ciebie jeden moment proszę zobaczyć tutaj, że jesteś na ogólnej formie lipitor jest to, że prawo OK uh więc zobaczyć, że lekarz przestał przepisywał te leki w dwudziestu rzeczywiście OK uh Tak byłbym szczęśliwy, aby sprawdzić, że dla ciebie uh, ponieważ czasami istnieje luka w systemie i po prostu nie jest zgłaszane, więc pozwól mi spojrzeć tutaj tylko chwilę, więc widzę tutaj, że lekarz miał te leki przepisane od dwudziestu do dwudziestu dwudziestu ok um tak zgodnie z najnowszymi rekordami uh dostarczony przez gabinet lekarza jesteś teraz na innym leku lubicie nas iść do przodu i wypełnić tę receptę dla ciebie do odbioru trochę formy w pięćset miligramów uh jesteś bardzo mile widziane mary proszę daj nam znać, czy jest coś innego, co możemy zrobić dla Ciebie dzisiaj.	Ocena tonacji: 8 Prelegent w tym tekście wydaje się być uprzejmy, pomocny i cierpliwy podczas rozwiązywania problemów klienta. Poświęcają czas na sprawdzanie informacji, przedstawianie jasnych wyjaśnień i oferowanie pomocy. Jednak ocena nie jest równa 10, ponieważ nadal istnieje wskazówka niepewności w niektórych częściach konwersacji, co może nie przekazać pełnej pewności klientowi.

Rozpocznij od przejrzystych instrukcji

Informacje o sekwencji są wyświetlane w monitach. Wynika to z faktu, że modele stylów GPT są tworzone w określony sposób, który definiuje sposób przetwarzania danych wejściowych. Nasze badania sugerują, że informowanie modelu o zadaniu, które ma wykonać na początku monitu, przed udostępnieniem dodatkowych informacji kontekstowych lub przykładów, może pomóc w generować dane wyjściowe o wyższej jakości.

Uwaga / Notatka

Mimo że stosowanie tej techniki jest nadal ogólnie zalecane, w przeciwieństwie do poprzednich wersji modelu (GPT-3 i poprzednich), nasze testy wykazały, że odpowiedź modelu z modelami ChatGPT i GPT-4 była taka sama, niezależnie od tego, czy technika jest używana. W poniższym przykładzie widzimy, że dodanie stwierdzenia „Kilka źródeł... "erupcja" na początku lub na końcu komunikatu nie spowodowała żadnych zmian w odpowiedzi końcowej modelu.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji.	Twoim zadaniem jest sprawdzenie, czy stwierdzenie "Kilka źródeł wspomina o szansie na kolejną dużą erupcję" jest poparte określonym cytatem z następującego zestawu fragmentów. --- URWKI [1] Eksperci twierdzą, że istnieje 14-procentowa szansa na wielkie trzęsienie ziemi, które może uderzyć w Seattle. SEATTLE - Istnieje 14 procent szans na wystąpienie trzęsienia ziemi o magnitudzie 9 w rejonie Cascadii, które może nawiedzić Seattle przez następne 50 lat, szacuje Amerykański Instytut Geologiczny. "Niestety, nie możemy... [2] Eksperci ds. trzęsień ziemi przedstawili najnowsze prognozy dla Seattle na temat 'Really Big One' "Mówimy, że istnieje około 14% szans na kolejne około wielkości-9 trzęsienie ziemi występujące w ciągu najbliższych 50 lat", powiedział geofizysta na Uniwersytecie Waszyngtonu... --- Czy twierdzenie "Kilka źródeł wspomina o szansie na kolejną dużą erupcję" jest bezpośrednio wyrażone lub wskazane przez fragmenty?	Nie, stwierdzenie nie jest bezpośrednio zawarte ani określone przez fragmenty. Fragmenty wspominają o szansie na "mega trzęsienia ziemi" i "trzęsienia ziemi o magnitudzie 9 w regionie Cascadia" uderzające Seattle w ciągu najbliższych 50 lat, ale nie wspomina się o szansie na kolejną dużą erupcję.

Powtórz instrukcje na końcu

Modele mogą być podatne na stronniczość świeżości, co w tym kontekście oznacza, że informacje na końcu monitu mogą mieć większy wpływ na wynik niż informacje na początku monitu. Dlatego warto eksperymentować z powtarzaniem instrukcji na końcu monitu i ocenianiem wpływu na wygenerowaną odpowiedź.

Podstaw dane wyjściowe

Odnosi się to do dołączania kilku słów lub fraz na końcu monitu w celu uzyskania odpowiedzi modelu, która jest zgodna z żądanym formularzem. Na przykład użycie wskazówki, takiej jak “Here’s a bulleted list of key points:\n- ”, może pomóc w zapewnieniu, że dane wyjściowe są sformatowane jako lista punktorów.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji. Odpowiedz możliwie najmniejszą liczbą słów.	John Smith jest żonaty z Lucy Smith. Mają pięcioro dzieci, a on pracuje jako inżynier oprogramowania w firmie Microsoft. Jakie zapytania wyszukiwania należy wykonać, aby to sprawdzić? ## Jedno z możliwych zapytań wyszukiwania to:	John Smith poślubił Lucy Smith, mają pięcioro dzieci. John jest inżynierem oprogramowania w firmie Microsoft.

W powyższym poleceniu tekst Możliwe zapytanie wyszukiwania to: pasuje model w celu utworzenia jednego wyniku. Bez tego sygnału model tworzy kilka zapytań wyszukiwania jako dane wyjściowe.

Dodawanie jasnej składni

Używanie jasnej składni monitu — w tym znaków interpunkcyjnych, nagłówków i znaczników sekcji — ułatwia komunikację intencji i często ułatwia analizowanie danych wyjściowych.

W poniższym przykładzie separatory (--- w tym przypadku) zostały dodane między różnymi źródłami informacji lub kroków. Pozwala to na użycie --- jako warunku zatrzymania procesu generowania. Ponadto nagłówki sekcji lub zmienne specjalne są prezentowane w wielkich literach, aby je odróżnić.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji.	Odczytasz akapit, a następnie wydasz zapytania do wyszukiwarki, aby ją sprawdzić. Wyjaśnij również zapytania. --- AKAPIT John Smith jest żonaty z Lucy Smith. Mają pięcioro dzieci, a on pracuje jako inżynier oprogramowania w firmie Microsoft. Jakie zapytania wyszukiwania należy wykonać, aby to sprawdzić? --- ZAPYTANIA	1. "John Smith Microsoft" - Aby sprawdzić, czy John Smith jest rzeczywiście zatrudniony w firmie Microsoft. 2. "John Smith Lucy Smith" - Aby sprawdzić, czy John Smith jest żonaty z Lucy Smith. 3. "Dzieci Johna Smitha" - Aby sprawdzić, czy John Smith ma pięcioro dzieci.

Jeśli nie masz pewności, jakiej składni używać, rozważ użycie języka Markdown lub XML. Modele zostały wytrenowane na dużej ilości zawartości internetowej w plikach XML i Markdown, co może zapewnić lepsze wyniki.

Podział zadania

Duże modele językowe (LLM) często działają lepiej, jeśli zadanie jest podzielone na mniejsze kroki. Na przykład w wierszu zapytania wyszukiwania, do którego odwołuje się wcześniej, monit może zostać zrestrukturyzowany tak, aby model został najpierw poinstruowany o wyodrębnienie odpowiednich faktów, a następnie poinstruowany o wygenerowanie zapytań wyszukiwania, których można użyć do zweryfikowania tych faktów.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji.	Odczytasz akapit, a następnie wydasz zapytania do wyszukiwarki, aby ją sprawdzić. --- AKAPIT John Smith jest żonaty z Lucy Smith. Mają pięcioro dzieci, a on pracuje jako inżynier oprogramowania w firmie Microsoft. Jakie zapytania wyszukiwania należy wykonać, aby to sprawdzić? --- Teraz wyodrębnisz twierdzenia faktyczne i wydasz zapytania, aby je sprawdzić. Podczas wydawania zapytania użyj funkcji SEARCH("query") Faktyczne twierdzenia	1. John Smith jest żonaty z Lucy Smith 2. Mają pięcioro dzieci 3. Pracuje jako inżynier oprogramowania w firmie Microsoft ZAPYTANIA SEARCH("John Smith poślubił Lucy Smith") SEARCH("Rozmiar rodziny Johna Smitha") SEARCH("John Smith Microsoft inżynier oprogramowania")

Zwróć uwagę na użycie jasnej składni w celu odróżnienia sekcji i przygotowania danych wyjściowych. W tym prostym przykładzie podzielenie zadania z jednego na dwa kroki nie jest bardzo dramatyczne, ale podczas próby wykonania tego dla większego fragmentu tekstu z wieloma twierdzeniami faktycznymi podzielenie zadania może mieć znaczącą różnicę.

Korzystanie z przystępnych cen

Czasami możemy nakłonić model do użycia afordancji, zamiast polegać na jego własnych parametrach w poszukiwaniu informacji i odpowiedzi. Na przykład wyszukiwanie może być narzędziem, które pomaga w ograniczaniu fałszywych odpowiedzi i uzyskiwaniu aktualnych informacji.

Jednym z prostych sposobów korzystania z afordancji jest zatrzymanie generowania po wygenerowaniu wywołań afordancji przez model, a następnie wklejenie wyników z powrotem do monitu. Poniżej znajduje się przykład rozmowy następującej po wykonaniu wywołań SEARCH opisanych powyżej. Zwróć uwagę, jak wkleiliśmy wyniki wyszukiwania do tekstu polecenia i zastąpiliśmy poprzednie wywołania SEARCH.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji.	Przeczytasz akapit, wyodrębnisz twierdzenia faktyczne, a następnie użyjesz wyników wyszukiwarki, aby je sprawdzić --- AKAPIT John Smith jest żonaty z Lucy Smith. Mają pięcioro dzieci, a on pracuje jako inżynier oprogramowania w firmie Microsoft. Jakie zapytania wyszukiwania należy wykonać, aby to sprawdzić? --- Faktyczne twierdzenia - John Smith jest żonaty z Lucy Smith - John i Lucy mają pięć dzieci - John pracuje jako inżynier oprogramowania w firmie Microsoft --- Poniżej przedstawiono różne zapytania wyszukiwania wydane w celu zbadania powyższych roszczeń: ZAPYTANIA WYSZUKIWANIA - John Smith poślubił Lucy Smith - Liczba dzieci Jana Smitha - John Smith, inżynier oprogramowania w Microsoft --- Poniżej przedstawiono fragmenty wyników wyszukiwania: URYWKI: [1] Ślub Johna Smitha odbył się 25 września 2012 ... [2] John Smith towarzyszył swojej żonie Lucy na imprezie [3] Johnowi towarzyszyły na meczu piłki nożnej jego dwie córki i trzej synowie. [4] Po spędzeniu 10 lat w Microsoft, Smith założył własny startup, Tailspin Toys John M jest smithem miasta, a on ożenił się z Fioną. Mają córkę o imieniu Lucy --- Biorąc pod uwagę fragmenty kodu, fakt sprawdza każdy z powyższych roszczeń faktycznych:	- John Smith jest żonaty z Lucy Smith: Potwierdzone. Fragment kodu [1] i [2] wymieniają żonę Johna Smitha jako Lucy. - John i Lucy mają pięć dzieci: Potwierdzone. Fragment kodu [3] wspomina, że Jan towarzyszył jego dwie córki i trzech synów. - John pracuje jako inżynier oprogramowania w firmie Microsoft: częściowo potwierdzone. Fragment kodu [4] wspomina, że John spędził 10 lat w firmie Microsoft, ale nie stwierdza jawnie, że obecnie tam pracuje. Dalsze badania mogą być konieczne, aby potwierdzić jego obecny status zatrudnienia.

Łańcuch pobudek myślowych

Ważne

Ta technika ma zastosowanie tylko do modeli niezwiązanych z rozumowaniem. Próby wyodrębnienia rozumowania algorytmu za pomocą metod innych niż parametr podsumowania rozumowania nie są obsługiwane, mogą naruszać zasady dopuszczalnego użycia i mogą spowodować ograniczenie lub zawieszenie po wykryciu.

Jest to odmiana techniki podziału zadania . Zamiast dzielić zadanie na mniejsze kroki, w tym podejściu odpowiedź modelu jest poinstruowana, aby kontynuować krok po kroku i przedstawić wszystkie zaangażowane kroki. Zmniejsza to możliwość niedokładności wyników i ułatwia ocenę odpowiedzi modelu.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji.	Kto był najbardziej ozdobiony (maksymalny medal) indywidualny sportowiec w igrzyskach olimpijskich, które odbyły się w Sydney? Wykonaj podejście krok po kroku w odpowiedzi, przytaczaj źródła i podawaj rozumowanie przed udostępnieniem ostatecznej odpowiedzi w poniższym formacie: ODPOWIEDŹ: <name>	Krok 1: Określenie roku igrzysk olimpijskich w Sydney. Igrzyska olimpijskie w Sydney odbyły się w roku 2000. Krok 2. Znajdź listę indywidualnych sportowców, którzy zdobyli wiele medali na Igrzyskach Olimpijskich w Sydney w 2000 roku. Według oficjalnej strony internetowej Igrzysk Olimpijskich, było kilku indywidualnych sportowców, którzy zdobyli wiele medali na Igrzyskach Olimpijskich w Sydney w 2000 roku. Niektóre z godnych uwagi nazw to: • Ian Thorpe (Australia) - 3 złoto, 2 srebro, 0 brąz • van den Hoogenband (Holandia) - 2 złote, 0 srebro, 2 brąz • Lenny Krayzelburg (USA) - 3 złote, 0 srebro, 0 brąz • Inge de Bruijn (Holandia) - 3 złote, 1 srebro, 0 brąz Krok 3. Określenie sportowca z większością medali. Po przejrzeniu listy indywidualnych sportowców, którzy zdobyli wiele medali na Igrzyskach Olimpijskich w Sydney w 2000 roku, widzimy, że sportowiec z największą liczbie medali jest Ian Thorpe z Australii, który zdobył łącznie 5 medali (3 złote i 2 srebro). W związku z tym ODPOWIEDŹ brzmi: Ian Thorpe.

Określanie struktury danych wyjściowych

Użycie monitu o określenie struktury danych wyjściowych może mieć znaczący wpływ na charakter i jakość wyników. Czasami komunikaty systemowe takie jak "uwzględniaj tylko prawdziwe informacje" lub "nie zmyślaj danych" mogą nie być odpowiednimi środkami zaradczymi. Zamiast tego, proszenie o uwzględnienie cytatów w odpowiedzi modelu może pomóc zmniejszyć częstość nieprawidłowych odpowiedzi.

Jeśli poinstruujesz model, aby przytaczał materiał źródłowy, gdy formułuje stwierdzenia, te stwierdzenia są znacznie bardziej prawdopodobne, że będą oparte na rzeczywistości. Prośba o cytaty sprawia, że model musi popełniać dwa błędy za każdym razem, gdy generuje odpowiedź: pierwszy błąd jest sprośną odpowiedzią, a drugi jest nieprawidłowym cytatem. Należy pamiętać, że im bliżej jest tekst, który obsługuje, tym krótsza odległość przed modelem musi przewidzieć cytat, co sugeruje, że cytaty wbudowane są lepszymi środki zaradcze w przypadku generowania fałszywej zawartości niż cytaty na końcu zawartości.

Podobnie, jeśli poprosisz model o wyodrębnienie faktycznych stwierdzeń z akapitu, może wyodrębnić złożone oświadczenia, takie jak "X robi Y I Z" (co może być trudniejsze do zweryfikowania). Można tego uniknąć, określając strukturę danych wyjściowych, taką jak (jednostka1, relacja, jednostka2).

W poniższych przykładach pokazano użycie cytatów i kierowanie odpowiedzi modelu w celu dopasowania do zdefiniowanej struktury.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji	Wyświetl listę różnych zachowań, które są prezentowane przez agenta obsługi klienta w poniższej konwersacji. --- witam dziękuję za telefon contoso apteki, który jestem mówię dziś i rozumiem frustracji mary um można powiedzieć mi, co dokładnie próbujesz zrobić OK uh z pewnością szczęśliwy, aby sprawdzić, że dla ciebie jeden moment proszę zobaczyć tutaj, że jesteś na ogólnej formie lipitor jest to, że prawo OK uh więc zobaczyć, że lekarz przestał przepisywał te leki w dwudziestu rzeczywiście OK uh Tak byłbym szczęśliwy, aby sprawdzić, że dla ciebie uh, ponieważ czasami istnieje luka w systemie i po prostu nie jest zgłaszane, więc pozwól mi spojrzeć tutaj tylko chwilę, więc widzę tutaj, że lekarz miał te leki przepisane od dwudziestu do dwudziestu dwudziestu ok um tak zgodnie z najnowszymi rekordami uh dostarczony przez gabinet lekarza jesteś teraz na innym leku lubicie nas iść do przodu i wypełnić tę receptę dla ciebie do odbioru trochę formy w pięćset miligramów uh jesteś bardzo mile widziane mary proszę daj nam znać, czy jest coś innego, co możemy zrobić dla Ciebie dzisiaj. --- Jak była odpowiedź agenta obsługi klienta? Klasyfikuj oraz wymień ich rozmaite zachowania i przytaczaj przyczynę klasyfikacji, używając formatu BEHAVIOR("reason")	1. Uprzejme zachowanie powitania("Agent rozpoczyna rozmowę z uprzejmym powitaniem i prosi o imię rozmówcy") 2. Empatyczne ZACHOWANIE("Agent przyznaje frustrację Maryi i stara się zrozumieć jej obawy") 3. Zachowanie uważne ("Agent nasłuchuje problemu klienta i prosi o więcej szczegółów") 4. Proaktywne ZACHOWANIE("Agent oferuje sprawdzenie problemu dla klienta") 5. Zachowanie informacyjne ("Agent dostarcza odpowiednie informacje o historii recept klienta") 6. Dokładne ZACHOWANIE("Agent sprawdza wszelkie możliwe luki w systemie i zapewnia pełną odpowiedź") 7. Potwierdzanie ZACHOWANIA("Agent potwierdza bieżące leki z klientem") 8. Zachowanie zorientowane na rozwiązanie ("Agent oferuje wypełnienie nowej recepty dla klienta") 9. Uprzejme ZACHOWANIE("Agent dziękuje klientowi i oferuje dalszą pomoc w razie potrzeby")

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji.	Grupuj następujące nagłówki wiadomości w kategorie tematów na podstawie wzorców widocznych w tekście. Należy również wspomnieć o tym, jak zdefiniowano te kategorie. Format danych wyjściowych: { "TOPIC_NAME": "", "NAGŁÓWKI": [], "ROZUMOWANIE": "" } Wejściowe nagłówki wiadomości: 1. "Od książek do prezentacji w 10s z AR + ML" 2. "Demo z 1993 roku, w którym 32-letni Yann LeCun prezentuje pierwszą na świecie sieć konwolucyjną do rozpoznawania tekstu." 3. "Model Ruchu Pierwszego Rzędu zastosowany do animacji obrazów" 4. "Robinhood i inni brokerzy dosłownie blokują zakup $GME, $NOK, $BB, $AMC. Zezwalają na sprzedaż" 5. "Akcje United Airlines spadły o ponad 5% handlu przedrynkowego" Wyjście:	{ "SZTUCZNA_INTELIGENCJA": { "NAGŁÓWKI": [ Od książek do prezentacji w 10 sekund z AR + ML Pokaz z 1993 roku, podczas którego 32-letniego Yanna LeCuna prezentowano pierwszą na świecie sieć splotową do rozpoznawania tekstu. "First Order Motion Model zastosowany do animowania obrazów" ], "ROZUMOWANIE": "Te nagłówki są związane ze sztuczną inteligencją, uczeniem maszynowym i ich aplikacjami w różnych dziedzinach". }, "Rynki Finansowe": { "NAGŁÓWKI": [ Robinhood i inni brokerzy dosłownie blokują zakup $GME, $NOK, $BB, $AMC; zezwalają na sprzedaż "Akcje United Airlines spadły o ponad 5% handlu przedrynkowego", "Bitcoin był prawie 20.000 dolarów rok temu dzisiaj" ], "ROZUMOWANIE": "Te nagłówki są związane z rynkami finansowymi, akcjami, kryptowalutami i platformami handlowymi". } }

Parametry temperatury i Top_p

Zmiana parametru temperatury zmienia dane wyjściowe modelu. Parametr temperatury można ustawić z zakresu od 0 do 2. Wyższa wartość, na przykład 0,7, sprawia, że dane wyjściowe są bardziej losowe i generują bardziej rozbieżne odpowiedzi, podczas gdy niższa wartość, np. 0,3, prowadzi do bardziej jednolitych wyników. 0.2 sprawia, że dane wyjściowe są bardziej skoncentrowane i konkretne. Fikcyjna historia może być generowana przy użyciu wyższej temperatury. Podczas generowania dokumentu prawnego zaleca się użycie znacznie niższej temperatury. Top_probability jest innym parametrem i jest podobny do temperatury, ponieważ kontroluje również losowość odpowiedzi modelu, ale robi to w inny sposób. Ogólne zalecenie polega na zmianie jednego z tych dwóch parametrów jednocześnie, a nie obu.

Podaj kontekst uziemienia

Jednym z najskuteczniejszych sposobów zapewnienia wiarygodnych odpowiedzi jest przekazanie danych modelu w celu rysowania odpowiedzi z (danych uziemienia). Jeśli twój przypadek użycia opiera się na aktualnych, niezawodnych informacjach i nie jest wyłącznie scenariuszem kreatywnym, zdecydowanie zalecamy dostarczanie danych uziemowych. Ogólnie rzecz biorąc, im bliżej można uzyskać materiał źródłowy do ostatecznej formy odpowiedzi, tym mniej pracy, jaką musi wykonać model, co oznacza, że istnieje mniej możliwości wystąpienia błędu. Oto przykład, w którym systemowi przekazano niedawny blog, opisujący uruchomienie GPT-4 w usłudze Azure OpenAI w modelach Azure AI Foundry, i poproszono go o wymienienie niektórych wczesnych klientów.

Komunikat systemowy	Użytkownik	Asystent
Jesteś asystentem sztucznej inteligencji, który ułatwia osobom znajdowanie informacji. Przekażesz odpowiedzi wyłącznie z poniższego tekstu i odpowiesz w 100 wyrazach lub mniej: "W firmie Microsoft nieustannie odkrywamy nowe sposoby wyzwalania kreatywności, odblokowywania produktywności i zwiększania poziomu umiejętności, dzięki czemu więcej osób może korzystać ze sztucznej inteligencji. Dzięki temu nasi klienci mogą ... … tym samym zmniejszenie prawdopodobieństwa, że model generuje szkodliwą reakcję".1 Odpowiedz w 100 słowach lub mniej. Używaj list wypunktowań wszędzie tam, gdzie jest to możliwe.	Kto jest niektórymi z pierwszych klientów modeli GPT-4 platformy Azure OpenAI?	Oto niektóre z pierwszych klientów modeli GPT-4 platformy Azure OpenAI: - Epic Healthcare: Planują korzystać z GPT-4, aby pomóc lekarzom i pielęgniarkom poświęcać mniej czasu na wprowadzanie danych i badanie. - Coursera: używają usługi Azure OpenAI z biblioteką GPT-4, aby utworzyć nowe środowisko szkoleniowe oparte na sztucznej inteligencji na swojej platformie. - Coca-Cola: Używają platformy Azure OpenAI do tworzenia centrum wiedzy i planowania wykorzystania wielomodalnych funkcji GPT-4 na potrzeby marketingu, reklamy, public relations i relacji z klientami. — Inne firmy wszystkich rozmiarów używają sztucznej inteligencji platformy Azure do ulepszania doświadczeń klientów, podsumowywania treści długiej formy, wspomagania pisania oprogramowania i zmniejszania ryzyka poprzez przewidywanie właściwych danych podatkowych.

¹ Tekst z witryny Azure OpenAI GPT-4 — blog startowy.

Najlepsze rozwiązania

• Bądź konkretny. Pozostaw jak najmniej pola do interpretacji. Ogranicz przestrzeń operacyjną.
• Bądź szczegółowy Używaj analogii.
• Podwójnie w dół. Czasami może być konieczne powtórzenie czegoś dla modelu. Podaj instrukcje przed i po podstawowej zawartości, użyj instrukcji i sygnału itp.
• Kolejność ma znaczenie. Kolejność prezentowania informacji modelowi może mieć wpływ na dane wyjściowe. Niezależnie od tego, czy umieścisz instrukcje przed zawartością ("podsumuj poniższe..."), czy po ("podsumuj powyższe..."), może mieć wpływ na dane wyjściowe. Nawet kolejność kilku przykładów może mieć znaczenie. Jest to nazywane efektem świeżości.
• Nadaj modelowi wartość "out". Czasami pomocne może być podanie modelowi alternatywnej ścieżki, jeśli nie może ukończyć przydzielonego zadania. Na przykład podczas zadawania pytania dotyczącego fragmentu tekstu możesz uwzględnić coś takiego jak "odpowiedź z komunikatem "Nie znaleziono", jeśli odpowiedź nie jest obecna. Może to pomóc modelowi uniknąć generowania fałszywych odpowiedzi.

Wydajne wykorzystanie miejsca

Rozmiar danych wejściowych zwiększa się wraz z każdą nową generacją modeli GPT, jednak nadal będą istnieć scenariusze, które zapewniają więcej danych niż model może obsłużyć. Modele GPT dzielą wyrazy na "tokeny". Chociaż typowe wyrazy wielosylabowe są często pojedynczym tokenem, mniej typowe słowa są dzielone na sylaby. Tokeny mogą być czasami nieintuicyjne, co pokazuje poniższy przykład demonstrujący granice tokenów dla różnych formatów dat. W takim przypadku pisownia całego miesiąca jest oszczędzająca miejsce niż w pełni liczbowa data.

Biorąc pod uwagę ograniczenie miejsca, ważne jest, aby używać go tak wydajnie, jak to możliwe.

• Tabele — jak pokazano w przykładach w poprzedniej sekcji, modele GPT mogą łatwo zrozumieć sformatowane dane tabelaryczne. Może to być wydajny sposób dołączania danych, a nie poprzedzania każdego pola nazwą (np. przy użyciu formatu JSON).
• Biały znak — kolejne spacje są traktowane jako oddzielne tokeny, co może być łatwy sposób na marnowanie miejsca. Spacje poprzedzające wyraz, z drugiej strony, są zwykle traktowane jako część tego samego tokenu co słowo. Uważnie obserwuj użycie białych znaków i nie używaj znaków interpunkcyjnych, gdy wystarczy sam odstęp.

Treści powiązane

• Dowiedz się więcej o usłudze Azure OpenAI.
• Rozpocznij pracę z modelem ChatGPT, korzystając z przewodnika Szybki start ChatGPT.
• Aby uzyskać więcej przykładów, zapoznaj się z repozytorium GitHub przykładów usługi Azure OpenAI