Pojęcia: sztuczna inteligencja w Azure Databricks

Aplikacja sztucznej inteligencji to aplikacja, która używa modeli sztucznej inteligencji (takich jak duże modele językowe, modele generowania obrazów i modele zamiany tekstu na mowę) na tworzenie nowych danych wyjściowych, automatyzowanie złożonych zadań lub angażowanie się w inteligentne interakcje na podstawie danych wejściowych użytkownika.

Aplikacja AI może opierać się na prostych wywołaniach do modeli LLM lub innych modeli sztucznej inteligencji albo na złożonych agentach. Przeczytaj więcej na temat poziomów złożoności.

Agenci, narzędzia, oceny, modele i inne aspekty aplikacji sztucznej inteligencji można dostosować przy użyciu własnych danych. To dostosowanie oparte na danych prowadzi do inteligencji danych, co pozwala wykraczać poza ogólną inteligencję oferowaną przez standardowe modele sztucznej inteligencji.

Aplikacje sztucznej inteligencji

Aplikacja sztucznej inteligencji dla użytkownika może mieć wiele form, takich jak:

• Aplikacja do czatu, taka jak aplikacja wdrożona przy użyciu usługi Databricks Apps
• Punkt końcowy interfejsu API, taki jak agent wdrożony w usłudze modelowania
• Funkcja SQL dla analityków, taka jak funkcja sztucznej inteligencji

Powodzenie w przypadku aplikacji sztucznej inteligencji często wymaga dwóch zestawów umiejętności: tworzenia aplikacji i oceny sztucznej inteligencji. Tworzenie aplikacji sztucznej inteligencji jest podobne do tworzenia aplikacji innych niż sztuczna inteligencja, co wymaga umiejętności związanych z oprogramowaniem, które zależą od typu aplikacji. Jednak ocena aplikacji sztucznej inteligencji wymaga wyspecjalizowanych narzędzi i technik do obsługi złożoności i otwartych odpowiedzi ze sztucznej inteligencji.

Aby dowiedzieć się więcej o tworzeniu aplikacji sztucznej inteligencji specyficznych dla branży w Azure Databricks, zobacz:

• Rozwiązania Databricks dla branży w zakresie przypadków użycia, klientów i innych zasobów
• Databricks Solution Accelerators to przykładowe implementacje przypadków użycia, które można uruchamiać i modyfikować

Ocena sztucznej inteligencji

Modele sztucznej inteligencji, agenci i aplikacje często mają złożone, otwarte zachowanie. Użytkownicy mogą wprowadzać dowolne zapytanie. Agentowi można zezwolić na zbieranie tekstu, obrazów i nie tylko w trakcie działania. Dane wyjściowe mogą być dowolnym tekstem, obrazami lub innymi multimediami i może istnieć wiele "dobrych" odpowiedzi.

Te komplikacje sprawiają, że trudno jest ocenić sztuczną inteligencję. Właściwa ocena wymaga:

• Automatyzacja przy użyciu sztucznej inteligencji do oceny sztucznej inteligencji
• Opinie od ludzi, czyli ekspertów i użytkowników, w celu zbierania rzeczywistych danych i skalibrowania zautomatyzowanej oceny
• Szczegółowe omówienie złożonych agentów w celu zrozumienia i debugowania zachowania

MLflow zarządzany przez Azure Databricks i powiązane z nim narzędzia stanowią podstawę oceny AI:

• Ocenianie i monitorowanie agentów — dowiedz się więcej na temat oceny, monitorowania produkcji i opinii człowieka.
• Wprowadzenie: MLflow 3 dla GenAI — wypróbuj śledzenie, ocenę i zbieranie opinii człowieka.
• Śledzenie MLflow — obserwowalność GenAI — dowiedz się więcej o śledzeniu MLflow w celu analizy i rejestrowania zachowań agentów.

Agenci

Agent lub system agenta to oparty na sztucznej inteligencji system, który może autonomicznie postrzegać, decydować i działać w środowisku w celu osiągnięcia celów. W przeciwieństwie do autonomicznego modelu sztucznej inteligencji, który generuje dane wyjściowe tylko po wyświetleniu monitu, system agenta posiada stopień agencji. Nowocześni agenci używają modelu sztucznej inteligencji jako "mózgu" systemu, który:

1. Odbiera żądania użytkownika lub komunikaty od innego agenta.
2. Powody, aby kontynuować: jakie dane mają być pobierane, która logika ma być stosowana, jakie narzędzia mają być wywoływane, czy też żądać większej ilości danych wejściowych od użytkownika.
3. Realizuje plan i możliwie wywołuje wiele narzędzi lub przekazuje zadania pod-agentom.
4. Zwraca odpowiedź lub monituje użytkownika o dodatkowe wyjaśnienia.

Łącząc inteligencję ogólną (wstępnie wytrenowane możliwości modelu AI) oraz inteligencję danych (specjalistyczną wiedzę i interfejsy API właściwe dla Twojej firmy), systemy agentowe umożliwiają realizację przez przedsiębiorstwa zastosowań o dużym wpływie, takich jak zaawansowane scenariusze obsługi klienta, boty analityczne wykorzystujące bogate zbiory danych oraz orkiestracja wielu agentów na potrzeby złożonych zadań operacyjnych.

Istnieje kontinuum od prostych modeli sztucznej inteligencji do złożonych agentów. Aby dowiedzieć się więcej, zobacz Wzorce projektowe systemu agenta.

Azure Databricks oferuje szereg opcji tworzenia agentów — od całkowicie prowadzonych do w pełni niestandardowych.

• Funkcje Asystent wiedzy i AI oferują prowadzone tworzenie agentów.

• Środowisko zabaw dla sztucznej inteligencji udostępnia interfejs użytkownika do tworzenia prototypów agentów wywołujących narzędzia, z których można wyeksportować wygenerowany kod agenta.
• Agenci niestandardowi umożliwiają tworzenie i wdrażanie agentów przy użyciu niestandardowego kodu lub bibliotek tworzenia agentów innych firm.

Narzędzia

Agenci mogą wywoływać narzędzia w celu zbierania informacji lub wykonywania akcji. Narzędzia to funkcje pojedynczej interakcji, które można wywołać w celu wykonania dobrze zdefiniowanego zadania. Model sztucznej inteligencji zwykle generuje parametry dla każdego wywołania narzędzia, a narzędzie zapewnia prostą interakcję danych wejściowych-wyjściowych.

Typowe kategorie narzędzi to:

• narzędzia pobierające lub analizujące dane
  • Pobieranie semantyczne: wykonywanie zapytań względem indeksu wektorowego w celu zlokalizowania odpowiedniego tekstu lub innych danych bez struktury.
  • Pobieranie ustrukturyzowane: uruchom zapytania SQL lub użyj interfejsów API, aby pobrać informacje ustrukturyzowane.
  • Narzędzie wyszukiwania w Sieci Web: wyszukiwanie w Internecie lub wewnętrznej corpus sieci Web.
  • Klasyczne modele uczenia maszynowego: wywoływanie modeli uczenia maszynowego w celu przeprowadzania klasyfikacji, regresji lub innych przewidywań.
  • Modele sztucznej inteligencji: generowanie wyspecjalizowanych danych wyjściowych, takich jak kod lub obrazy.
• Narzędzia modyfikujące stan systemu zewnętrznego
  • Wywołanie interfejsu API: wywołanie punktów końcowych CRM, usług wewnętrznych lub innych integracji zewnętrznych.
  • Integracja aplikacji do obsługi wiadomości e-mail lub wiadomości: opublikuj wiadomość lub wyślij powiadomienie.
• Narzędzia uruchamiające logikę lub wykonujące określone zadanie
  • Wykonywanie kodu: Uruchom kod dostarczany przez użytkownika lub wygenerowany przez LLM w piaskownicy.

Narzędzia mogą być wbudowane w logikę agentów lub uzyskiwać do nich dostęp przy użyciu standardowych interfejsów, takich jak MCP.

Narzędzia a agenci:

• Narzędzia wykonują pojedynczą, dobrze zdefiniowaną operację. Agenci mogą wykonywać bardziej otwarte zadania.
• Narzędzia są zazwyczaj bezstanowe i nie utrzymują trwającego kontekstu poza każdym wywołaniem. Agenci zachowują stan, gdy iteracyjnie rozwiązują zadania.

Obsługa błędów narzędzi i bezpieczeństwo:

Ponieważ każde wywołanie narzędzia jest operacją zewnętrzną, taką jak wywołanie interfejsu API, system powinien bezpiecznie obsługiwać błędy. Limity czasu, źle sformułowane odpowiedzi lub nieprawidłowe dane wejściowe nie powinny spowodować całkowitego niepowodzenia samego agenta. W środowisku produkcyjnym należy ograniczyć liczbę dozwolonych wywołań narzędzi, uzyskać odpowiedź rezerwową w przypadku niepowodzenia wywołań narzędzia i zastosować bariery zabezpieczające, aby upewnić się, że system agenta nie będzie wielokrotnie podejmować tej samej akcji zakończonej niepowodzeniem.

Dowiedz się więcej o narzędziach sztucznej inteligencji w usłudze Databricks:

• MCP i narzędzia agentów – Przewodnik po podejściach do narzędzi
• MCP i narzędzia agentów – zarządzane, niestandardowe i zewnętrzne serwery MCP

Modele sztucznej inteligencji i LLM-y

Duże modele językowe (LLM) to modele sztucznej inteligencji trenowane na ogromnych zestawach danych tekstowych, które mogą zrozumieć, wygenerować i rozumować język ludzki. Usługa LLMs zasila aplikacje, takie jak czatboty, asystenty kodu i narzędzia generowania zawartości, przewidując i tworząc kontekstowo odpowiedni tekst na podstawie monitów wejściowych.

Ogólnie rzecz biorąc, modele sztucznej inteligencji lub modele podstawowe są trenowane na podstawie ogromnego tekstu, obrazu, wideo, dźwięku lub innych danych, aby dowiedzieć się więcej o trybach poza tekstem. Modele wielomodalne uczą się łączyć język ludzki z obrazami, dźwiękami i innymi nośnikami. LLM-y są rodzajem sztucznej inteligencji lub modelu bazowego, choć terminy te są często stosowane dość swobodnie i zamiennie.

Modele sztucznej inteligencji zapewniają analizę agentów i aplikacji. Proste aplikacje są często tworzone przy użyciu pojedynczego modelu dostosowanego przy pomocy inżynierii podpowiedzi.

Dowiedz się więcej o korzystaniu z modeli sztucznej inteligencji w Azure Databricks:

• Wprowadzenie: wykonywanie zapytań dotyczących modułów LLM i prototypowych agentów bez kodu
• Modele bazowe hostowane w usłudze Databricks dostępne w interfejsach API modeli bazowych
• Dowiedz się więcej o bramie sztucznej inteligencji na potrzeby zarządzania modelami sztucznej inteligencji

Inżynieria poleceń

Modele sztucznej inteligencji zazwyczaj przyjmują monity lub instrukcje informujące model o sposobie obsługi danych wejściowych użytkownika. Monity można dostosować w dużym stopniu za pomocą szczegółowych kroków, wiedzy ekspertów, danych i innych informacji.

Usługa Azure Databricks oferuje elastyczne sposoby projektowania promptów. Przykład:

• Asystent wiedzy automatyzuje opracowywanie monitu w tle, na podstawie Twoich danych i informacji zwrotnych.

• AI Playground zapewnia interfejs użytkownika do ręcznej, interaktywnej inżynierii monitów.
• Optymalizacja monitów MLflow i rozszerzenie DSPy zapewniają procedury optymalizacji monitów opartych na danych.

Dostrajanie modelu

Modele sztucznej inteligencji można również dostosować za pomocą dostrajania, które dostosowuje model dla określonej domeny lub aplikacji przy użyciu niestandardowych danych.

Usługa Azure Databricks oferuje elastyczne sposoby dostosowywania modeli. Przykład:

• Asystent Wiedzy automatyzuje dostosowywanie oparte na danych, oferując możliwość zaawansowanych dostosowań.
• Środowisko uruchomieniowe sztucznej inteligencji udostępnia infrastrukturę obliczeniową do pełnego dostosowywania. Zobacz przykłady.

Co to jest platforma sztucznej inteligencji?

Sztuczna inteligencja wymaga połączonej platformy danych i sztucznej inteligencji. W przypadku deweloperów i administratorów kluczowe składniki sztucznej inteligencji muszą być połączone i zarządzane w prostej, ujednoliconej platformie.

Kluczowe składniki obejmują:

• Zasoby sztucznej inteligencji, takie jak modele, agenci i aplikacje
• Zasoby danych, takie jak pliki, tabele, potoki przetwarzania, indeksy wektorów i magazyny funkcji
• Wdrożenia sztucznej inteligencji, takie jak punkty końcowe dla modeli i agentów
• Narzędzia do tworzenia i wdrażania sztucznej inteligencji i zasobów danych

Najważniejsze możliwości zapewniania ładu obejmują:

• Ujednolicony nadzór nad sztuczną inteligencją i zasobami danych. Dowiedz się więcej na Co to jest Unity Catalog?.
• Ujednolicony nadzór nad punktami końcowymi modelu sztucznej inteligencji. Dowiedz się więcej w artykule Zarządzanie AI z Unity AI Gateway.
• Ujednolicone podejście do zabezpieczeń. Dowiedz się więcej w usłudze Databricks AI Security.
• Ujednolicone administrowanie sztuczną inteligencją i narzędziami do danych. Dowiedz się więcej na stronie Administracja.

Zobacz również Azure Databricks możliwości sztucznej inteligencji i architekturę usługi Databricks.

Ogólna inteligencja a analiza danych

• Ogólna inteligencja odnosi się do tego, co LLM z natury zna z szeroko zakrojonego wstępnego szkolenia na zróżnicowanym tekście. Jest to przydatne w przypadku biegłości językowej i ogólnego rozumowania.
• Analiza danych odnosi się do danych i interfejsów API specyficznych dla domeny organizacji. Może to obejmować rekordy klientów, informacje o produkcie, bazy wiedzy lub dokumenty odzwierciedlające unikatowe środowisko biznesowe.

Systemy agentów łączą te dwa źródła wiedzy: zaczynają się od szerokiej, ogólnej wiedzy LLM, a następnie przynoszą dane specyficzne dla domeny lub w czasie rzeczywistym, aby odpowiedzieć na szczegółowe pytania lub wykonywać wyspecjalizowane akcje. Dzięki Azure Databricks możesz osadzać analizę danych w aplikacjach sztucznej inteligencji na każdym poziomie:

• Źródła danych, takie jak indeksy wektorów i agenci Genie

• Agenci, w tym zarówno projekty agentów niestandardowych, jak i zautomatyzowane projekty z funkcji Asystenta wiedzy oraz funkcji sztucznej inteligencji.

• Dane i metryki oceny
• Monituj optymalizację na podstawie danych oceny

• Dostrajanie modelu, w tym niestandardowe dostrajanie i automatyczne dostrajanie przez asystenta wiedzy i funkcje sztucznej inteligencji.

SI kontra uczenie maszynowe kontra głębokie uczenie

Granice między sztuczną inteligencją, uczeniem maszynowym i uczeniem głębokim (DL) mogą być rozmyte. Ten przewodnik koncentruje się na sztucznej inteligencji, ale następujące funkcje platformy databricks obsługują uczenie maszynowe, uczenie głębokie i sztuczną inteligencję:

• Obsługa modeli obsługuje modele uczenia maszynowego, uczenia głębokiego i sztucznej inteligencji. Można go używać do wnioskowania wsadowego sztucznej inteligencji i wdrażania agentów lub dostrajanych modeli przy użyciu niestandardowej obsługi modelu.

• AI Runtime oraz Databricks Runtime for Machine Learning z obsługą GPU mogą być używane do trenowania i dostrajania modeli ML, uczenia głębokiego i AI.

• Śledzenie eksperymentów w MLflow może być używane do śledzenia zarówno klasycznych eksperymentów ML, jak i eksperymentów AI oraz uruchomień.
• Magazyn funkcji usługi Databricks może służyć do zarządzania danymi ustrukturyzowanymi i ich obsługi zarówno dla klasycznego uczenia maszynowego, jak i sztucznej inteligencji.

Dodatkowe zasoby

• Kluczowe wyzwania związane z tworzeniem aplikacji sztucznej inteligencji — główne wyzwania związane ze sztuczną inteligencją i rozwiązaniami dla nich przy użyciu usługi Databricks
• Wzorce projektowe systemu agenta — proste i złożone agenty oraz praktyczne porady
• Sztuczna inteligencja w usłudze Databricks — przypadki użycia, klienci i inne zasoby dla sztucznej inteligencji w usłudze Databricks