Informacje o jądrze
Jądro jest centralnym składnikiem jądra semantycznego. W najprostszym przypadku jądro jest kontenerem wstrzykiwania zależności, który zarządza wszystkimi usługami i wtyczkami niezbędnymi do uruchamiania aplikacji sztucznej inteligencji. Jeśli udostępnisz wszystkie usługi i wtyczki do jądra, będą one bezproblemowo używane przez sztuczną inteligencję zgodnie z potrzebami.
Ponieważ jądro ma wszystkie usługi i wtyczki niezbędne do uruchamiania kodu natywnego i usług sztucznej inteligencji, jest on używany przez prawie każdy składnik w zestawie SDK jądra semantycznego do zasilania agentów. Oznacza to, że w przypadku uruchomienia dowolnego monitu lub kodu w jądrze semantycznym jądro będzie zawsze dostępne do pobrania niezbędnych usług i wtyczek.
Jest to niezwykle wydajne, ponieważ oznacza to, że jako deweloper masz jedno miejsce, w którym można skonfigurować i co najważniejsze monitorować agentów sztucznej inteligencji. Na przykład podczas wywoływania monitu z jądra. Gdy to zrobisz, jądro będzie...
- Wybierz najlepszą usługę sztucznej inteligencji, aby uruchomić monit.
- Skompiluj monit przy użyciu podanego szablonu monitu.
- Wyślij monit do usługi sztucznej inteligencji.
- Odbieranie i analizowanie odpowiedzi.
- Na koniec zwróć odpowiedź z usługi LLM do aplikacji.
W całym tym procesie można tworzyć zdarzenia i oprogramowanie pośredniczące, które są wyzwalane w każdym z tych kroków. Oznacza to, że można wykonywać akcje, takie jak rejestrowanie, udostępniać aktualizacje stanu użytkownikom i najważniejsze odpowiedzialne sztuczną inteligencję. Wszystko z jednego miejsca.
Przed utworzeniem jądra należy najpierw zrozumieć dwa typy składników, które istnieją:
Składniki | opis | |
---|---|---|
1 | Usługi | Składają się one zarówno z usług sztucznej inteligencji (np. ukończenia czatu) jak i innych usług (np. rejestrowania i klientów HTTP), które są niezbędne do uruchomienia aplikacji. Zostało to modelowane po wzorcu dostawcy usług na platformie .NET, aby umożliwić obsługę pozyskiwania zależności we wszystkich językach. |
2 | Wtyczki | Są to składniki używane przez usługi sztucznej inteligencji oraz szablony monitów o wykonanie pracy. Na przykład usługi sztucznej inteligencji mogą używać wtyczek do pobierania danych z bazy danych lub wywoływania zewnętrznego interfejsu API w celu wykonywania akcji. |
Aby rozpocząć tworzenie jądra, zaimportuj niezbędne pakiety w górnej części pliku:
using Microsoft.Extensions.DependencyInjection;
using Microsoft.Extensions.Logging;
using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.Plugins.Core;
Następnie możesz dodać usługi i wtyczki. Poniżej przedstawiono przykład sposobu dodawania uzupełniania czatu usługi Azure OpenAI, rejestratora i wtyczki czasu.
// Create a kernel with a logger and Azure OpenAI chat completion service
var builder = Kernel.CreateBuilder();
builder.AddAzureOpenAIChatCompletion(modelId, endpoint, apiKey);
builder.Services.AddLogging(c => c.AddDebug().SetMinimumLevel(LogLevel.Trace));
builder.Plugins.AddFromType<TimePlugin>();
Kernel kernel = builder.Build();
Zaimportuj niezbędne pakiety:
from semantic_kernel import Kernel
from semantic_kernel.connectors.ai.open_ai import AzureChatCompletion
from semantic_kernel.core_plugins.time_plugin import TimePlugin
Następnie możesz utworzyć jądro.
# Initialize the kernel
kernel = Kernel()
Na koniec możesz dodać niezbędne usługi i wtyczki. Poniżej przedstawiono przykład sposobu dodawania uzupełniania czatu usługi Azure OpenAI, rejestratora i wtyczki czasu.
# Add the Azure OpenAI chat completion service
kernel.add_service(AzureChatCompletion(model_id, endpoint, api_key))
# Add a plugin
kernel.add_plugin(
TimePlugin(),
plugin_name="TimePlugin",
)
Jądra można skompilować przy użyciu elementu Kernel.builder()
. W tym celu można dodać wymagane usługi i wtyczki sztucznej inteligencji.
Kernel kernel = Kernel.builder()
.withAIService(ChatCompletionService.class, chatCompletionService)
.withPlugin(lightPlugin)
.build();
W języku C#możesz użyć wstrzykiwania zależności, aby utworzyć jądro. W tym celu należy utworzyć ServiceCollection
i dodać do niego usługi i wtyczki. Poniżej przedstawiono przykład sposobu tworzenia jądra przy użyciu wstrzykiwania zależności.
Porada
Zalecamy utworzenie jądra jako usługi przejściowej w celu usunięcia jej po każdym użyciu, ponieważ kolekcja wtyczek jest modyfikowalna. Jądro jest bardzo lekkie (ponieważ jest to tylko kontener dla usług i wtyczek), więc utworzenie nowego jądra dla każdego użycia nie jest problemem z wydajnością.
using Microsoft.SemanticKernel;
var builder = Host.CreateApplicationBuilder(args);
// Add the OpenAI chat completion service as a singleton
builder.Services.AddOpenAIChatCompletion(
modelId: "gpt-4",
apiKey: "YOUR_API_KEY",
orgId: "YOUR_ORG_ID", // Optional; for OpenAI deployment
serviceId: "YOUR_SERVICE_ID" // Optional; for targeting specific services within Semantic Kernel
);
// Create singletons of your plugins
builder.Services.AddSingleton(() => new LightsPlugin());
builder.Services.AddSingleton(() => new SpeakerPlugin());
// Create the plugin collection (using the KernelPluginFactory to create plugins from objects)
builder.Services.AddSingleton<KernelPluginCollection>((serviceProvider) =>
[
KernelPluginFactory.CreateFromObject(serviceProvider.GetRequiredService<LightsPlugin>()),
KernelPluginFactory.CreateFromObject(serviceProvider.GetRequiredService<SpeakerPlugin>())
]
);
// Finally, create the Kernel service with the service provider and plugin collection
builder.Services.AddTransient((serviceProvider)=> {
KernelPluginCollection pluginCollection = serviceProvider.GetRequiredService<KernelPluginCollection>();
return new Kernel(serviceProvider, pluginCollection);
});
Porada
Aby uzyskać więcej przykładów dotyczących używania wstrzykiwania zależności w języku C#, zapoznaj się z przykładami pojęć.
Teraz, gdy znasz jądro, możesz dowiedzieć się więcej o wszystkich różnych usługach sztucznej inteligencji, które można do niej dodać.