Pojęcia: Generowanie sztucznej inteligencji w usłudze Azure Databricks

Aplikacja GenAI to aplikacja, która używa modeli generacyjnych sztucznej inteligencji (takich jak duże modele językowe, modele generowania obrazów i modele zamiany tekstu na mowę) w celu tworzenia nowych danych wyjściowych, automatyzowania złożonych zadań lub angażowania się w inteligentne interakcje na podstawie danych wejściowych użytkownika.

Aplikacja GenAI może być obsługiwana przez proste wywołania do modeli LLM lub innych modeli GenAI lub przez złożone agenty sztucznej inteligencji. Przeczytaj więcej na temat poziomów złożoności.

Agenci, narzędzia, oceny, modele i inne aspekty aplikacji GenAI można dostosować przy użyciu własnych danych. To dostosowanie oparte na danych prowadzi do inteligencji danych, co pozwala wykraczać poza ogólną inteligencję oferowaną przez standardowe modele sztucznej inteligencji.

Aplikacje GenAI

Aplikacja GenAI dla użytkownika może mieć wiele form, takich jak:

• Aplikacja do czatu, taka jak aplikacja wdrożona przy użyciu usługi Databricks Apps
• Punkt końcowy interfejsu API, taki jak agent wdrożony w usłudze modelowania
• Funkcja SQL dla analityków, taka jak funkcja sztucznej inteligencji

Powodzenie w przypadku aplikacji GenAI często wymaga dwóch zestawów umiejętności: tworzenia aplikacji i oceny sztucznej inteligencji. Opracowywanie aplikacji GenAI jest podobne do tworzenia aplikacji innych niż sztuczna inteligencja, co wymaga umiejętności związanych z oprogramowaniem, które zależą od typu aplikacji. Jednak ocena aplikacji GenAI wymaga wyspecjalizowanych narzędzi i technik do obsługi złożoności i otwartych odpowiedzi z usługi GenAI.

Aby dowiedzieć się więcej o tworzeniu aplikacji GenAI specyficznych dla branży w usłudze Azure Databricks, zobacz:

• Rozwiązania Databricks dla branży w zakresie przypadków użycia, klientów i innych zasobów
• Databricks Solution Accelerators to przykładowe implementacje przypadków użycia, które można uruchamiać i modyfikować

Ocena GenAI

Modele GenAI, agenci i aplikacje często mają złożone, otwarte zachowanie. Użytkownicy mogą wprowadzać dowolne zapytanie. Agent sztucznej inteligencji może zbierać tekst, obrazy i nie tylko podczas działania. Dane wyjściowe mogą być dowolnym tekstem, obrazami lub innymi multimediami i może istnieć wiele "dobrych" odpowiedzi.

Te komplikacje sprawiają, że trudno jest ocenić genAI. Właściwa ocena wymaga:

• Automatyzacja przy użyciu sztucznej inteligencji do oceny sztucznej inteligencji
• Opinie od ludzi, czyli ekspertów i użytkowników, w celu zbierania rzeczywistych danych i skalibrowania zautomatyzowanej oceny
• Szczegółowe omówienie złożonych agentów w celu zrozumienia i debugowania zachowania

Platforma MLflow zarządzana przez usługę Azure Databricks i powiązane narzędzia zapewniają podstawy oceny genAI:

• Ocenianie i monitorowanie agentów sztucznej inteligencji — informacje na temat oceny, monitorowania produkcji i opinii człowieka.
• Wprowadzenie: MLflow 3 dla GenAI — wypróbuj śledzenie, ocenę i zbieranie opinii człowieka.
• Śledzenie MLflow — obserwowalność GenAI — dowiedz się więcej o śledzeniu MLflow w celu analizy i rejestrowania zachowań agentów.

Agents

Agent lub system agenta to oparty na sztucznej inteligencji system, który może autonomicznie postrzegać, decydować i działać w środowisku w celu osiągnięcia celów. W przeciwieństwie do autonomicznego modelu GenAI, który generuje dane wyjściowe tylko po wyświetleniu monitu, system agenta posiada stopień agencji. Agenci nowoczesnej sztucznej inteligencji używają modelu GenAI jako "mózgu" systemu, który:

1. Odbiera żądania użytkownika lub komunikaty od innego agenta.
2. Powody, aby kontynuować: jakie dane mają być pobierane, która logika ma być stosowana, jakie narzędzia mają być wywoływane, czy też żądać większej ilości danych wejściowych od użytkownika.
3. Realizuje plan i możliwie wywołuje wiele narzędzi lub przekazuje zadania pod-agentom.
4. Zwraca odpowiedź lub monituje użytkownika o dodatkowe wyjaśnienia.

Łącząc ogólną inteligencję (wstępnie wytrenowane możliwości modelu GenAI) i inteligencję danych (wyspecjalizowaną wiedzę i interfejsy API specyficzne dla twojej firmy), systemy agentów umożliwiają korzystanie z ważnych przypadków użycia w przedsiębiorstwie, takich jak zaawansowane przepływy obsługi klienta, bogate w dane boty analityczne i orkiestracja wielu agentów dla złożonych zadań operacyjnych.

Istnieje kontinuum od prostych modeli GenAI do złożonych agentów. Aby dowiedzieć się więcej, zobacz Wzorce projektowe systemu agenta.

Azure Databricks oferuje szereg opcji tworzenia agentów — od całkowicie prowadzonych do w pełni niestandardowych.

• Agent Bricks udostępnia konstruktorów agentów z funkcją przewodnika dla kluczowych aplikacji, takich jak asystenci wiedzy oraz narzędzia do wyodrębniania informacji.

• Środowisko zabaw dla sztucznej inteligencji udostępnia interfejs użytkownika do tworzenia prototypów agentów wywołujących narzędzia, z których można wyeksportować wygenerowany kod agenta.
• Struktura agentów umożliwia tworzenie i wdrażanie agentów przy użyciu niestandardowego kodu lub bibliotek tworzenia agentów innych firm.

Narzędzia

Agenci sztucznej inteligencji mogą wywoływać narzędzia w celu zbierania informacji lub wykonywania akcji. Narzędzia to funkcje pojedynczej interakcji, które można wywołać w celu wykonania dobrze zdefiniowanego zadania. Model sztucznej inteligencji zwykle generuje parametry dla każdego wywołania narzędzia, a narzędzie zapewnia prostą interakcję danych wejściowych-wyjściowych.

Typowe kategorie narzędzi to:

• narzędzia pobierające lub analizujące dane
  • Pobieranie semantyczne: wykonywanie zapytań względem indeksu wektorowego w celu zlokalizowania odpowiedniego tekstu lub innych danych bez struktury.
  • Pobieranie ustrukturyzowane: uruchom zapytania SQL lub użyj interfejsów API, aby pobrać informacje ustrukturyzowane.
  • Narzędzie wyszukiwania w Sieci Web: wyszukiwanie w Internecie lub wewnętrznej corpus sieci Web.
  • Klasyczne modele uczenia maszynowego: wywoływanie modeli uczenia maszynowego w celu przeprowadzania klasyfikacji, regresji lub innych przewidywań.
  • Modele GenAI: generowanie wyspecjalizowanych danych wyjściowych, takich jak kod lub obrazy.
• Narzędzia modyfikujące stan systemu zewnętrznego
  • Wywołanie interfejsu API: wywołanie punktów końcowych CRM, usług wewnętrznych lub innych integracji zewnętrznych.
  • Integracja aplikacji do obsługi wiadomości e-mail lub wiadomości: opublikuj wiadomość lub wyślij powiadomienie.
• Narzędzia uruchamiające logikę lub wykonujące określone zadanie
  • Wykonywanie kodu: Uruchom kod dostarczany przez użytkownika lub wygenerowany przez LLM w piaskownicy.

Narzędzia mogą być wbudowane w logikę agentów lub uzyskiwać do nich dostęp przy użyciu standardowych interfejsów, takich jak MCP.

Narzędzia a agenci:

• Narzędzia wykonują pojedynczą, dobrze zdefiniowaną operację. Agenci mogą wykonywać bardziej otwarte zadania.
• Narzędzia są zazwyczaj bezstanowe i nie utrzymują trwającego kontekstu poza każdym wywołaniem. Agenci zachowują stan, gdy iteracyjnie rozwiązują zadania.

Obsługa błędów narzędzi i bezpieczeństwo:

Ponieważ każde wywołanie narzędzia jest operacją zewnętrzną, taką jak wywołanie interfejsu API, system powinien bezpiecznie obsługiwać błędy. Limity czasu, źle sformułowane odpowiedzi lub nieprawidłowe dane wejściowe nie powinny spowodować całkowitego niepowodzenia samego agenta. W środowisku produkcyjnym należy ograniczyć liczbę dozwolonych wywołań narzędzi, uzyskać odpowiedź rezerwową w przypadku niepowodzenia wywołań narzędzia i zastosować bariery zabezpieczające, aby upewnić się, że system agenta nie będzie wielokrotnie podejmować tej samej akcji zakończonej niepowodzeniem.

Dowiedz się więcej o narzędziach sztucznej inteligencji w usłudze Databricks:

• Narzędzia agenta sztucznej inteligencji — przewodnik po podejściach narzędzi
• Protokół MCP (Model Context Protocol) w usłudze Databricks — zarządzane, niestandardowe i zewnętrzne serwery MCP

Modele GenAI i LLMs

Duże modele językowe (LLM) to modele sztucznej inteligencji trenowane na ogromnych zestawach danych tekstowych, które mogą zrozumieć, wygenerować i rozumować język ludzki. Usługa LLMs zasila aplikacje, takie jak czatboty, asystenty kodu i narzędzia generowania zawartości, przewidując i tworząc kontekstowo odpowiedni tekst na podstawie monitów wejściowych.

Ogólnie rzecz biorąc, modele GenAI lub modele podstawowe są trenowane na podstawie ogromnego tekstu, obrazu, wideo, dźwięku lub innych danych, aby dowiedzieć się więcej o trybach poza tekstem. Modele wielomodalne uczą się łączyć ludzki język z obrazami, dźwiękiem i innymi multimediami. LlMs są typem genAI lub modelu podstawowego, choć te terminy są często używane luźno i zamiennie.

Modele GenAI zapewniają analizę agentów i aplikacji GenAI. Proste aplikacje są często tworzone przy użyciu pojedynczego modelu dostosowanego przy pomocy inżynierii podpowiedzi.

Dowiedz się więcej o korzystaniu z modeli GenAI w usłudze Azure Databricks:

• Rozpocznij: Zadawaj zapytania modelom językowym i prototypuj agentów AI bez kodu
• Modele bazowe hostowane w usłudze Databricks dostępne w interfejsach API modeli bazowych
• Dowiedz się więcej o bramie sztucznej inteligencji na potrzeby zarządzania modelami GenAI

Inżynieria podpowiedzi

Modele GenAI zazwyczaj przyjmują monity lub instrukcje informujące model o sposobie obsługi danych wejściowych użytkownika. Monity można dostosować w dużym stopniu za pomocą szczegółowych kroków, wiedzy ekspertów, danych i innych informacji.

Usługa Azure Databricks oferuje elastyczne sposoby projektowania promptów. Przykład:

• Agent Bricks automatyzuje proces tworzenia i optymalizacji podpowiedzi w tle, na podstawie Twoich danych i opinii.

• AI Playground zapewnia interfejs użytkownika do ręcznej, interaktywnej inżynierii monitów.
• Optymalizacja monitów MLflow i rozszerzenie DSPy zapewniają procedury optymalizacji monitów opartych na danych.

Dostrajanie modeli

Modele GenAI można również dostosować za pomocą dostrajania, które dostosowuje model dla określonej domeny lub aplikacji przy użyciu niestandardowych danych.

Usługa Azure Databricks oferuje elastyczne sposoby dostosowywania modeli. Przykład:

• Agent Bricks automatyzuje dostosowywanie oparte na danych, z możliwością dostrajania w tle.
• Bezserwerowe obliczenia GPU zapewniają infrastrukturę obliczeniową umożliwiającą pełne dostosowywanie. Zobacz przykłady.

Co to jest platforma GenAI?

GenAI wymaga połączonej platformy danych i AI. Zarówno dla deweloperów, jak i administratorów, kluczowe składniki usługi GenAI muszą być połączone i zarządzane na prostej, ujednoliconej platformie.

Kluczowe składniki obejmują:

• Zasoby sztucznej inteligencji, takie jak modele, agenci i aplikacje
• Zasoby danych, takie jak pliki, tabele, potoki przetwarzania, indeksy wektorów i magazyny funkcji
• Wdrożenia sztucznej inteligencji, takie jak punkty końcowe dla modeli i agentów
• Narzędzia do tworzenia i wdrażania sztucznej inteligencji i zasobów danych

Najważniejsze możliwości zapewniania ładu obejmują:

• Ujednolicony nadzór nad sztuczną inteligencją i zasobami danych. Dowiedz się więcej na Co to jest Unity Catalog?.
• Ujednolicone zarządzanie punktami końcowymi modelu GenAI. Dowiedz się więcej na temat wprowadzenia do usługi Mosaic AI Gateway.
• Ujednolicone podejście do zabezpieczeń. Dowiedz się więcej w usłudze Databricks AI Security.
• Ujednolicone administrowanie sztuczną inteligencją i narzędziami do danych. Dowiedz się więcej na stronie Administracja.

Zobacz również Mozaikowe możliwości AI dla GenAI i architekturę Databricks.

Dowiedz się więcej

• Kluczowe wyzwania związane z tworzeniem aplikacji GenAI — główne wyzwania w usłudze GenAI i rozwiązania dla nich przy użyciu usługi Databricks
• Wzorce projektowe systemu agentów — proste i złożone agenty GenAI oraz praktyczne porady
• Sztuczna inteligencja w usłudze Databricks — przypadki użycia, klienci i inne zasoby dla sztucznej inteligencji w usłudze Databricks