Cvičení: Vyzkoušení nasazených modelů

Dokončeno

V tomto cvičení použijete přirozený jazyk k interakci s nasazením Azure OpenAI v prostředí dokončení.

Možná znáte aplikace, jako je ChatGPT, které používají generování přirozeného jazyka AI, ale tyto modely můžete použít pro více než chatovací roboty. Pojďme prozkoumat další užitečné aplikace těchto modelů.

Poznámka:

K dokončení tohoto cvičení potřebujete následující:

• Předplatné Azure. Vytvořte si ho zdarma.
• Přístup k Azure OpenAI v požadovaném předplatném Azure V současné době je přístup k této službě udělen pouze prostřednictvím aplikací. Pokud chcete získat přístup k Azure OpenAI, vyplňte tento formulář: https://aka.ms/oai/access.
• Prostředek Azure OpenAI s nasazeným modelem. Další informace o nasazení modelu najdete v tématu Vytvoření a nasazení prostředku služby Azure OpenAI Service.

Začněme tím, že otevřeme prostředí pro dokončování Azure OpenAI a vybereme nasazení modelu.

Extrahování informací

V tomto příkladu se naučíte extrahovat informace pomocí výzvy, která se skládá z ukázkového textu i instrukce.

1. Do textového pole dokončení zkopírujte a vložte následující text:

   Extract the person's name, company name, location, and phone number from the text below.
   
   Hello. My name is Robert Smith. I'm calling from Contoso Insurance, Delaware. My colleague mentioned that you are interested in learning about our comprehensive benefits policy. Could you give me a call back at (555) 346-9322 when you get a chance so we can go over the benefits?
   
   

2. Vyberte Generovat. Výstup by měl vypadat přibližně takto:

   
   Person: Robert Smith
   Company: Contoso Insurance
   Location: Delaware
   Phone: (555) 346-9322
   
   

V tomto příkladu jste zkombinovali výzvu s daty k extrakci informací pomocí pokynů v přirozeném jazyce. Model extrahoval název, společnost, umístění a telefonní číslo z textu.

Poznámka:

Můžete upravit výzvu a zdrojová data tak, aby extrahovali různé informace.

Extrahování vstupu a formátování výstupu

V tomto dalším cvičení požádáte svůj velký jazykový model (LLM) o uspořádání textu jako tabulky, což ukazuje, že LLM umí generování a formátování textu.

1. Zrušte zaškrtnutí textového pole dokončení. Potom vložte následující text:

   
   There are many fruits that were found on the recently discovered planet Goocrux. There are neoskizzles that grow there, which are purple and taste like candy. There are also loheckles, which are a grayish blue fruit and are very tart, a little bit like a lemon. Pounits are a bright green color and are more savory than sweet. There are also plenty of loopnovas which are a neon pink flavor and taste like cotton candy. Finally, there are fruits called glowls, which have a very sour and bitter taste which is acidic and caustic, and a pale orange tinge to them.
   
   Please make a table summarizing the fruits from Goocrux
   
   | Fruit | Color | Flavor |
   | Neoskizzles | Purple | Sweet |
   | Loheckles | Grayish blue | Tart |
   
   

2. Vyberte Generovat. Výstup by měl vypadat přibližně takto:

   
   | Fruit | Color | Flavor |
   | Neoskizzles | Purple | Sweet |
   | Loheckles | Grayish blue | Tart |
   | Pounits | Bright green | Savory |
   | Loopnovas | Neon pink | Cotton candy |
   | Glowls | Pale orange | Sour/Bitter |
   
   

V tomto příkladu je model doplněný požadovaným výstupním formátem: řádek záhlaví a několik příkladů.

Vyzkoušejte jiné formátování: JSON

LLM může vytvořit tabulku, pokud jí dáte nějaký text, ale můžete také požádat LLM o vrácení dat ve formátu JSON.

1. Zrušte zaškrtnutí textového pole dokončení. Potom vložte následující text:

   
   There are many fruits that were found on the recently discovered planet Goocrux. There are neoskizzles that grow there, which are purple and taste like candy. There are also loheckles, which are a grayish blue fruit and are very tart, a little bit like a lemon. Pounits are a bright green color and are more savory than sweet. There are also plenty of loopnovas which are a neon pink flavor and taste like cotton candy. Finally, there are fruits called glowls, which have a very sour and bitter taste which is acidic and caustic, and a pale orange tinge to them.
   
   Please make a table summarizing the fruits from Goocrux, Also make a JSON array summarizing the fruits from Goocrux.
   
   | Fruit | Color | Flavor |
   | Neoskizzles | Purple | Sweet |
   | Loheckles | Grayish blue | Tart |
   
   

2. Vyberte Generovat. Výstup by měl vypadat přibližně takto:

   
   | Loopnovas | Neon pink | Cotton candy | 
   | Glowls | Pale orange | Sour/Bitter | 
   
   ` { "fruits": [ { "fruit": "Neoskizzles", "color": "Purple", "flavor": "Sweet" }, { "fruit": "Loheckles", "color": "Grayish blue", "flavor": "Tart" }, { "fruit": "Pounits", "color": "Bright green", "flavor": "Savory" }, { "fruit": "Loopnovas", "color": "Neon pink", "flavor": "Cotton candy" }, { "fruit": "Glowls", "color": "Pale orange", "flavor": "Sour/Bitter" } ]
   
   

V tomto příkladu model vrátil pole JSON ovoce a jejich atributy ve formátu JSON. Mějte na paměti, že LLM vám může poskytnout to , co chcete a jak ho chcete.

Klasifikace obsahu

V tomto cvičení použijete LLM k seřazení obsahu do různých kategorií.

1. Zrušte zaškrtnutí textového pole dokončení. Potom vložte následující text:

   
   Classify the following news headline into 1 of the following categories: Business, Tech, Politics, Sport, Entertainment
   
   Headline 1: Donna Steffensen Is Cooking Up a New Kind of Perfection. The internet's most beloved cooking guru has a buzzy new book and a fresh new perspective.
   Category: Entertainment
   
   Headline 2: Major Retailer Announces Plans to Close Over 100 Stores.
   Category:
   
   

2. Vyberte Generovat. Výstup by měl vypadat přibližně takto:

   
   Headline 2: Major Retailer Announces Plans to Close Over 100 Stores
   Category: Business
   
   

Zadali jste jeden příklad nadpisu a kategorie a požádali model o klasifikaci druhého příkladu. Tento příklad ukazuje jednorázové učení. V jediném příkladu může model generalizovat klasifikaci nového příkladu.

Poznámka:

Druhý nadpis můžete změnit tak, aby se vygenerovaly různé kategorie. Tady je několik příkladů nadpisů, které můžete vyzkoušet:

• Jets zase prohraje!
• Obama oznámí opětovné volby
• Microsoft po hodinách obchodování
• Proces 20nm nabízí větší hustotu a lepší hodnotu výkonu.

Shrnutí obsahu

Souhrnný obsah může být užitečný, pokud chcete rychle pochopit, co říká delší blok textu. Tato funkce je integrovaná do LLM.

1. Zrušte zaškrtnutí textového pole dokončení. Potom vložte následující text:

   
   At Microsoft, we have been on a quest to advance AI beyond existing techniques, by taking a more holistic, human-centric approach to learning and understanding. As Chief Technology Officer of Azure AI Services, I have been working with a team of amazing scientists and engineers to turn this quest into a reality. In my role, I enjoy a unique perspective in viewing the relationship among three attributes of human cognition: monolingual text (X), audio or visual sensory signals, (Y) and multilingual (Z). At the intersection of all three, there's magic—what we call XYZ-code as illustrated in Figure 1—a joint representation to create more powerful AI that can speak, hear, see, and understand humans better.
   
   We believe XYZ-code will enable us to fulfill our long-term vision: cross-domain transfer learning, spanning modalities and languages. The goal is to have pre-trained models that can jointly learn representations to support a broad range of downstream AI tasks, much in the way humans do today. Over the past five years, we have achieved human performance on benchmarks in conversational speech recognition, machine translation, conversational question answering, machine reading comprehension, and image captioning. These five breakthroughs provided us with strong signals toward our more ambitious aspiration to produce a leap in AI capabilities, achieving multi-sensory and multilingual learning that is closer in line with how humans learn and understand. I believe the joint XYZ-code is a foundational component of this aspiration, if grounded with external knowledge sources in the downstream AI tasks.
   
   TL;DR
   
   

2. Vyberte Generovat. Výstup by měl vypadat přibližně takto:

   
   At the intersection of monolingual text, audio or visual sensory signals, and multilingual capabilities lies the "XYZ-code," a joint representation allowing for the transfer of learning in AI systems, according to Microsoft's Xuedong Huang. The CTO of Azure AI Services said the company's aim is to create pre-trained models that will enable machines to jointly learn representations and support a broad range of downstream AI tasks.
   
   

V tomto příkladu jste použili TL;DR (příliš dlouho, nečetli) k vytvoření krátkého souhrnu větší části textu.

Generování nového obsahu

I když se výstupy generují na základě frekvence podobného obsahu v trénovacích datech, generující modely AI mohou generovat nový obsah, který neexistuje.

1. Zrušte zaškrtnutí textového pole dokončení. Potom vložte následující text:

   Write a limerick about the Python programming language
   

2. Vyberte Generovat. Výstup by měl vypadat přibližně takto:

   There once was a language named Python
   Whose syntax was easy and quite fun
   It could handle big data
   And was used by NASA
   So learn it and you'll be second to none!
   

Jak to bylo s vápencem? Pokud se vám to nelíbí, můžete se vždy zeptat na hřiště dokončení, aby vygeneroval nový limerick pomocí modré ikony kruhové šipky.