Hyperlight CodeAct

Hyperlight, Agent Framework'te CodeAct'in şu anda belgelenmiş arka ucudur. Yalıtılmış bir korumalı alan çalışma zamanı tarafından desteklenen bir execute_code aracı sunar ve call_tool(...) aracılığıyla sağlayıcıya ait konak araçlarını çağırabilir.

Desen düzeyine genel bakış için bkz. CodeAct.

Neden Hyperlight CodeAct

Modern aracılar genellikle modelin kendisinden çok araç çağırma aşırı yükü ile sınırlıdır. Verileri okuyan, hafif hesaplama yapan ve bir sonuç oluşturan bir görev, her bir adım basit olsa bile, kolayca model -> araç -> model -> araç etkileşimlerine dönüşen bir zincire dönüşebilir.

Hiperlight destekli CodeAct bu döngüyü çözümler. Model bir kısa Python programı yazar, korumalı alan onu bir kez yürütür ve sağlayıcıya ait araçlara korumalı alanın içinden call_tool(...) ulaşılır. Temsili araç yoğun iş yüklerinde bu değişiklik, yürütmeyi yalıtılmış ve denetlenebilir durumda tutarken, gecikmeyi kabaca yarı yarıya ve belirteç kullanımını yüzde 60 kadar azaltabilir.

Paketi yükle

dotnet add package Microsoft.Agents.AI.Hyperlight --prerelease

Microsoft.Agents.AI.Hyperlight çekirdek soyutlamalardan ayrı olarak teslim edilir, bu nedenle korumalı alan çalışma zamanını yalnızca ihtiyacınız olduğunda alırsınız.

Important

.NET paketi önizleme aşamasındadır. Hyperlight.HyperlightSandbox.Api hyperlight-dev/hyperlight-sandbox adresindeki NuGet paketine bağlıdır; bu bağımlılık nuget.org'da yayımlanana kadar proje geri yüklenemeyecektir. Üst sandbox deposunun mevcut olup olmadığını görmek için izleyin.

Uyarı

Hyperlight, ana makinede donanım sanallaştırması gerektirir: Linux'ta KVM veya Windows'ta Windows Hypervisor Platform (WHP). Wasm arka uç ayrıca bir Hyperlight Python konuk modülü gerektirir — çalıştırmadan önce HYPERLIGHT_PYTHON_GUEST_PATH değerini bunun mutlak yolu olarak ayarlayın.

HyperlightCodeActProvider komutunu kullanma

HyperlightCodeActProvider , CodeAct'in her çalıştırma için otomatik olarak eklenmesini istediğinizde önerilen giriş noktasıdır. Bu, sağlayıcıya ait araçları doğrudan aracının araç yüzeyinden uzak tutarken, çalıştırma kapsamındaki CodeAct yönergelerini ve AIContextProvider aracını ekleyen bir execute_code öğesidir. Sağlayıcı, her çalıştırmada anlık görüntü alma/geri yükleme uygular; böylece konuk sistem her başlatıldığında bilinen, temiz bir durumdan başlar.

Örneklerde kullanılan Wasm tabanlı Python konuğunu hedeflemek için HyperlightCodeActProviderOptions.CreateForWasm(modulePath) oluşturucusunu kullanın; CreateForJavaScript() JavaScript arka ucu için de kullanılabilir.

using Azure.AI.OpenAI;
using Azure.Identity;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.Hyperlight;
using OpenAI.Chat;

var endpoint = Environment.GetEnvironmentVariable("AZURE_OPENAI_ENDPOINT")
    ?? throw new InvalidOperationException("AZURE_OPENAI_ENDPOINT is not set.");
var deploymentName = Environment.GetEnvironmentVariable("AZURE_OPENAI_DEPLOYMENT_NAME") ?? "gpt-5.4-mini";
var guestPath = Environment.GetEnvironmentVariable("HYPERLIGHT_PYTHON_GUEST_PATH")
    ?? throw new InvalidOperationException("HYPERLIGHT_PYTHON_GUEST_PATH is not set.");

using var codeAct = new HyperlightCodeActProvider(
    HyperlightCodeActProviderOptions.CreateForWasm(guestPath));

AIAgent agent = new AzureOpenAIClient(new Uri(endpoint), new DefaultAzureCredential())
    .GetChatClient(deploymentName)
    .AsAIAgent(new ChatClientAgentOptions()
    {
        ChatOptions = new()
        {
            Instructions = "You are a helpful assistant. When the user asks something quantitative, "
                + "write Python and call `execute_code` instead of guessing.",
        },
        AIContextProviders = [codeAct],
    });

Console.WriteLine(await agent.RunAsync("What is the 20th Fibonacci number?"));

Uyarı

Belirli bir aracıya yalnızca bir tane HyperlightCodeActProvider eklenebilir. Sağlayıcı sabit bir durum anahtarı kullandığından ChatClientAgent, durum anahtarı benzersizliği doğrulaması yinelenen kayıtları reddeder. HyperlightCodeActProvider, IDisposable öğesini uygular; aracıya artık ihtiyaç duyulmadığında altta yatan korumalı alanın serbest bırakılması için bir using bildirimi kullanın.

Araçlar, dosya bağlamaları ve giden allow-list girdileri, baştan HyperlightCodeActProviderOptions aracılığıyla (Tools, FileMounts, AllowedDomains, HostInputDirectory) sağlanabilir veya çalışma zamanında sağlayıcının AddTools(...), RemoveTools(...), ClearTools(), AddFileMounts(...) ve eşleşen AddAllowedDomains(...) erişimcileri üzerinden yönetilebilir.

Onaylar ve barındırma araçları nasıl çalışır?

Agent Framework araçları, otomatik olarak çağrılıp çağrılamayacaklarını veya kullanıcı onayı beklemek üzere duraklatılmaları gerekip gerekmediğini denetleyen onay meta verilerini taşır. .NET'te onay alma işlemi, AIFunction öğesini ApprovalRequiredAIFunction içine sararak isteğe bağlı olarak etkinleştirilir.

HyperlightCodeActProvider üzerinde bir araç kaydetmekle onu doğrudan aracıya kaydetmek arasındaki temel fark, işlevin nihayetinde nerede çalıştığı değil, aracın nasıl çağrıldığıdır:

  • Üzerinde HyperlightCodeActProviderOptions.Tools kayıtlı araçlar modelden doğrudan bileşen olarak gizlenir. Model, içinde call_tool("name", ...)çağıran execute_code kod yazarak bu modele ulaşır.
  • Doğrudan aracıya kaydedilen araçlar (örneğin aracılığıyla AsAIAgent(tools: [...])) modele birinci sınıf araçlar olarak sunulur ve her doğrudan çağrı bu aracın kendi onay meta verilerini kabul eder.

call_tool(...) konak geri çağrıları için bir köprüdür; aracın korumalı alan içinde yeniden uygulanması değildir. Sağlayıcıya ait araçlar, konak işlemde çalışır ve bu süreçte, konak işleminin erişebildiği dosya sistemi, ağ ve kimlik bilgilerini kullanır.

CodeActApprovalMode enum’u, execute_code aracının kendisinin nasıl onaylanacağını denetler:

  • CodeActApprovalMode.NeverRequire (varsayılan): onay, kayıtlı araçlardan yayılır. Kayıttaki herhangi bir araç ApprovalRequiredAIFunction ile sarmalanmışsa, execute_code de onay gerektirir; aksi takdirde gerekmez.
  • CodeActApprovalMode.AlwaysRequire: execute_code çağırmadan önce her zaman kullanıcı onayı gerektirir.

Bir kural olarak:

  • Modelin tek execute_code bir tur içinde birçok çağrı oluşturabilmesi için sağlayıcıya ucuz, belirleyici ve güvenli zincir araçları yerleştirin.
  • Her bir çağrının ayrı ayrı görünür ve onaylanabilir kalması için, yan etki oluşturan veya hassas işlemleri ApprovalRequiredAIFunction içine alın (ve bunları bunun yerine ajanın doğrudan araçları olarak tutmayı da değerlendirin).

Sonraki örnek, iki güvenli aracı (fetch_docs, query_data) ve send_email ile sarmalanmış hassas bir ApprovalRequiredAIFunction aracını kaydeder. En az bir kayıtlı araç onay gerektirdiği için, varsayılan NeverRequire modu, execute_code öğesinin her çağrıldığında onay gerektirmesine neden olur.

AIFunction fetchDocs = AIFunctionFactory.Create(
    (string topic) => $"Docs for {topic}: (...)",
    name: "fetch_docs",
    description: "Fetch documentation for a given topic.");

AIFunction queryData = AIFunctionFactory.Create(
    (string query) => $"Rows for `{query}`: []",
    name: "query_data",
    description: "Run a read-only SQL-like query against the sample store.");

AIFunction sendEmail = new ApprovalRequiredAIFunction(
    AIFunctionFactory.Create(
        (string to, string subject) => $"Sent '{subject}' to {to}.",
        name: "send_email",
        description: "Send an email on behalf of the user."));

var options = HyperlightCodeActProviderOptions.CreateForWasm(guestPath);
options.Tools = [fetchDocs, queryData, sendEmail];

using var codeAct = new HyperlightCodeActProvider(options);

AIAgent agent = new AzureOpenAIClient(new Uri(endpoint), new DefaultAzureCredential())
    .GetChatClient(deploymentName)
    .AsAIAgent(new ChatClientAgentOptions()
    {
        ChatOptions = new()
        {
            Instructions = "You are a helpful assistant. Prefer orchestrating your work in a single "
                + "`execute_code` block using `call_tool(...)` over issuing many direct tool calls.",
        },
        AIContextProviders = [codeAct],
    });

Konak araçları korumalı alanın dışında çalıştığı için FileMounts ve AllowedDomains, call_tool(...) arkasındaki konak geri çağırmasını değil, korumalı alan kodunun kendisini kısıtlar. Hassas bir kaynağa denetimli erişime ihtiyacınız olduğunda, korumalı alan izinlerini genişletmek yerine dar bir barındırma aracını tercih edin.

Doğrudan kablolama için kullanın HyperlightExecuteCodeFunction

execute_code öğesini aynı ajan üzerinde yalnızca doğrudan kullanılan araçlarla birlikte kullanmanız gerektiğinde veya korumalı alan yapılandırması ajanın yaşam süresi boyunca sabitse, sağlayıcı yerine HyperlightExecuteCodeFunction kullanın. Bu, sağlanan seçeneklerin oluşturulma sırasında tek bir anlık görüntüsünü alan ve bunu her çağrıda yeniden kullanan bağımsız bir AIFunction öğesidir.

HyperlightCodeActProvider'nin aksine, bağımsız işlev istem yönlendirmesini otomatik olarak eklemez; bu nedenle BuildInstructions(...) çıktısını ajan yönergelerine kendiniz eklemek sizin sorumluluğunuzdadır. Kayıtlı araçlara yalnızca toolsVisibleToModel: false aracılığıyla erişilebildiğinde call_tool(...) iletin; aynı araçlar doğrudan modele de sunuluyorsa true iletin.

AIFunction calculate = AIFunctionFactory.Create(
    (double a, double b) => a * b,
    name: "multiply",
    description: "Multiply two numbers.");

var options = HyperlightCodeActProviderOptions.CreateForWasm(guestPath);
options.Tools = [calculate];

using var executeCode = new HyperlightExecuteCodeFunction(options);

var instructions =
    "You are a helpful assistant. When math is involved, solve it by writing Python "
    + "and calling `execute_code` instead of computing values yourself.\n\n"
    + executeCode.BuildInstructions(toolsVisibleToModel: false);

AIAgent agent = new AzureOpenAIClient(new Uri(endpoint), new DefaultAzureCredential())
    .GetChatClient(deploymentName)
    .AsAIAgent(instructions: instructions, tools: [executeCode]);

HyperlightExecuteCodeFunction ayrıca uygular IDisposable. Yapılandırma onay gerektirdiğinde (ApprovalMode veya yapılandırılmış bir aracın kendisi ApprovalRequiredAIFunction içine sarılmış olduğu için), örnek ApprovalRequiredAIFunction üzerinden bir AITool.GetService(...) proxy’si sunar; çerçevenin geri kalanı onay gereksinimlerini bu yolla saptar.

Giden erişim ve dosya yapılandırması

Hyperlight, salt okunur /input bir ağacı ve oluşturulan yapıtlar için yazılabilir /output bir alanı sağlar.

  • HostInputDirectory kullanarak bir ana bilgisayar dizinini /input/ altında kullanılabilir hale getirin.
  • Belirli ana makine yollarını FileMounts aracılığıyla korumalı alana eşlemek için new FileMount(hostPath, mountPath) kullanın.
  • Yalnızca belirli hedefler veya yöntemler için dışa yönelik erişimi AllowedDomains aracılığıyla etkinleştirmek üzere new AllowedDomain(target, methods) kullanın.
var options = HyperlightCodeActProviderOptions.CreateForWasm(guestPath);
options.Tools = [compute];
options.FileMounts =
[
    new FileMount("/host/data", "/input/data"),
    new FileMount("/host/models", "/sandbox/models"),
];
options.AllowedDomains =
[
    new AllowedDomain("https://api.github.com"),
    new AllowedDomain("https://internal.api.example.com", ["GET"]),
];

using var codeAct = new HyperlightCodeActProvider(options);

Aynı FileMounts ve AllowedDomains koleksiyonları ile araçlar, AddFileMounts(...) üzerindeki RemoveFileMounts(...), AddAllowedDomains(...), RemoveAllowedDomains(...) ve HyperlightCodeActProvider aracılığıyla çalışma zamanında da değiştirilebilir.

Çıkış kılavuzu

execute_code içindeki metni görüntülemek için konuk kodunu print(...) ile sonlandırın; Hyperlight son ifadenin değerini otomatik olarak döndürmez.

Dosya sistemi erişimi etkinleştirildiğinde, daha büyük nesneleri bunun yerine /output/<filename> yazın. Döndürülen dosyalar araç sonucuna eklenir, /input etiketinin altındaki dosyalar ise korumalı alan içinde okunabilir durumda olur.

Mevcut sınırlamalar

Bu paket hala önizleme aşamasındadır ve planlamaya değer birkaç kısıtlama vardır:

  1. Paket, henüz nuget.org’da yayımlanmamış olan Hyperlight.HyperlightSandbox.Api paketine bağımlıdır. Bu yayımlanana kadar proje geri yükleme işlemi başarısız olur.
  2. Platform desteği, yayımlanan Hyperlight arka uç paketlerini izler: desteklenen Linux (KVM) ve Windows (WHP) ortamları. Korumalı alan oluşturulurken, desteklenmeyen platformlar veya eksik sanallaştırma arka uçları hata verir.
  3. Geçerli Wasm arka ucu, HYPERLIGHT_PYTHON_GUEST_PATH tarafından belirtilen bir Python konuk modülünü yürütür. JavaScript arka ucu (CreateForJavaScript()), JavaScript'te konuk kodu için kullanılabilir.
  4. Bellek içi yorumlayıcı durumu ayrı execute_code çağrılarda kalıcı olmaz. Verilerin çağrılar arasında kalması gerektiğinde monte edilmiş dosyaları ve /output yapıtları kullanın.
  5. Onay, execute_code çağrısı bütün olarak değerlendirildiğinde geçerlidir, call_tool(...) içindeki her bir parça için değil.
  6. Model yalıtılmış araçları doğrudan çağırma yerine bu sözleşmeye karşı kod yazdığından, araç açıklamaları, parametre anotasyonları ve dönüş şekilleri burada daha önemlidir.
  7. Henüz Python kıyaslama örneğinin .NET eşdeğeri yoktur — yayımlanmış karşılaştırma düzeneği için Python sekmesine bakın.

Paketi yükle

pip install agent-framework-hyperlight --pre

agent-framework-hyperlight 'den agent-framework-core ayrı olarak teslim edilir, bu nedenle sandbox çalıştırma ortamını yalnızca ihtiyacınız olduğunda alırsınız.

Uyarı

Paket, Hyperlight sandbox bileşenlerine bağlıdır. Geçerli platformunuz için arka uç henüz yayımlanmamışsa, execute_code sandbox oluşturulmaya çalışıldığında başarısız olur.

HyperlightCodeActProvider komutunu kullanma

HyperlightCodeActProvider , CodeAct'in her çalıştırma için otomatik olarak eklenmesini istediğinizde önerilen giriş noktasıdır. Sağlayıcıya ait araçları doğrudan ajanın araç yüzeyinden uzak tutarken, çalışma kapsamlı CodeAct yönergelerini ve execute_code aracını ekler.

import os

from agent_framework import Agent
from agent_framework.foundry import FoundryChatClient
from agent_framework.hyperlight import HyperlightCodeActProvider
from azure.identity import AzureCliCredential

# 1. Create the Hyperlight-backed provider and register sandbox tools on it.
codeact = HyperlightCodeActProvider(
    tools=[compute, fetch_data],
    approval_mode="never_require",
)

# 2. Create the client and the agent.
agent = Agent(
    client=FoundryChatClient(
        project_endpoint=os.environ["FOUNDRY_PROJECT_ENDPOINT"],
        model=os.environ["FOUNDRY_MODEL"],
        credential=AzureCliCredential(),
    ),
    name="HyperlightCodeActProviderAgent",
    instructions="You are a helpful assistant.",
    context_providers=[codeact],
)

# 3. Run a request that should use execute_code plus provider-owned tools.
query = (
    "Fetch all users, find admins, multiply 7*(3*2), and print the users, "
    "admins, and multiplication result. Use execute_code and call_tool(...) "
    "inside the sandbox."
)
result = await agent.run(query)
print(result.text)

Sağlayıcı üzerinde kaydedilen araçlar call_tool(...) yoluyla korumalı alanda kullanılabilir, ancak doğrudan ajan araçları olarak sunulmaz. Sağlayıcı ayrıca add_tools(...), remove_tool(...), add_file_mounts(...) ve add_allowed_domains(...) gibi yöntemler aracılığıyla araçlar, dosya bağlamaları ve giden izin listesi girdileri için CRUD stili yönetimi kullanıma sunar.

Onaylar ve barındırma araçları nasıl çalışır?

Aracı Çerçevesi araçları, otomatik olarak çağrılıp çağrılamayacaklarını veya kullanıcı onayı için duraklatılmalarının gerekip gerekmediğini denetleyen bir approval_mode özelliğine sahiptir.

Bir aracı üzerine HyperlightCodeActProvider kaydetmekle doğrudan Agent(tools=...) üzerine kaydetmek arasındaki temel fark, Python işlevinin en sonunda çalıştığı yerde değil , aracın nasıl çağrıldığıdır:

  • Üzerinde HyperlightCodeActProvider(tools=...) kayıtlı araçlar modelden doğrudan bileşen olarak gizlenir. Model, içinde call_tool("name", ...)çağıran execute_code kod yazarak bu modele ulaşır.
  • Agent(tools=...) kaydedilen araçlar, modele birinci sınıf araçlar olarak sunulur ve her doğrudan çağrı bu aracın kendi approval_mode özelliğine uygun şekilde çalışır.

call_tool(...) konak geri çağrıları için bir köprüdür; aracın korumalı alan içinde yeniden uygulanması değildir. Sağlayıcıya ait araçlar, konak işlemde çalışır ve bu süreçte, konak işleminin erişebildiği dosya sistemi, ağ ve kimlik bilgilerini kullanır.

Bir kural olarak:

  • Modelin tek execute_code bir tur içinde birçok çağrı oluşturabilmesi için sağlayıcıya ucuz, belirleyici ve güvenli zincir araçları yerleştirin.
  • Yan etki yaratan veya onayla kontrol edilen işlemleri genellikle doğrudan approval_mode="always_require" aracı araçlar olarak tutun, böylece her çağrı ayrı ayrı görünebilir ve onaylanabilir kalsın.

Konak araçları korumalı alanın dışında çalıştığı için file_mounts ve allowed_domains, call_tool(...) arkasındaki konak geri çağırmasını değil, korumalı alan kodunun kendisini kısıtlar. Hassas bir kaynağa denetimli erişime ihtiyacınız olduğunda, korumalı alan izinlerini genişletmek yerine dar bir barındırma aracını tercih edin.

Uyarı

call_tool(...) aracılığıyla çağrılan araçlar, yerel Python değerlerini (dict, list, ilkel veya özel nesne) doğrudan konukta döndürür. "result_parser üzerinde yapılandırılan herhangi bir şey, LLM'ye bakan tüketicilere yöneliktir ve FunctionTool korumalı alan yolunda çalışmaz; eğer korumalı alan tüketicileri için gereksinim duyuluyorsa, biçimlendirmeyi aracın işlevi içine uygulayın."

Doğrudan kablolama için kullanın HyperlightExecuteCodeTool

Aynı aracıda sadece doğrudan kullanılan araçlarla karıştırmanız gerektiğinde, sağlayıcı yerine execute_code kullanın. Sabit yapılandırmalar için CodeAct yönergelerini bir kez derleyebilir ve aracı doğrudan kablolayabilirsiniz:

from agent_framework.hyperlight import HyperlightExecuteCodeTool

execute_code = HyperlightExecuteCodeTool(
    tools=[compute],
    approval_mode="never_require",
)

codeact_instructions = execute_code.build_instructions(tools_visible_to_model=False)

CodeAct yüzeyi sabitlendiğinde ve her çalıştırmada sağlayıcı yaşam döngüsüne ihtiyacınız olmadığında bu desen kullanışlıdır. HyperlightCodeActProvider'in aksine, tek başına kullanılan araç otomatik olarak istem kılavuzu eklemez, bu nedenle build_instructions(...) çıktısını ajan talimatlarına kendiniz eklemelisiniz.

Giden erişim ve dosya yapılandırması

Hyperlight, salt okunur /input bir ağacı ve oluşturulan yapıtlar için yazılabilir /output bir alanı sağlar.

  • Bir çalışma alanını workspace_root altında kullanılabilir hale getirmek için /input/ kullanın.
  • file_mounts ile belirli konak yollarını korumalı alana yönlendirin.
  • Belirli hedefler veya yöntemler için yalnızca giden erişimi etkinleştirmek amacıyla allowed_domains kullanın.

file_mounts bir kısa dizgi, açık bir (host_path, mount_path) çifti veya adlandırılmış bir FileMount demet kabul eder. allowed_domains bir dize hedefi, açık bir (target, method-or-methods) çifti veya adlandırılmış bir AllowedDomain tuple kabul eder.

from agent_framework.hyperlight import HyperlightCodeActProvider

codeact = HyperlightCodeActProvider(
    tools=[compute],
    file_mounts=[
        "/host/data",
        ("/host/models", "/sandbox/models"),
    ],
    allowed_domains=[
        "api.github.com",
        ("internal.api.example.com", "GET"),
    ],
)

Çıkış kılavuzu

Metni execute_code üzerinden göstermek için kodu print(...) ile sonlandırın; Hyperlight, son ifadenin değerini otomatik olarak döndürmez.

Dosya sistemi erişimi etkinleştirildiğinde, daha büyük nesneleri bunun yerine /output/<filename> yazın. Döndürülen dosyalar araç sonucuna eklenir, /input etiketinin altındaki dosyalar ise korumalı alan içinde okunabilir durumda olur.

CodeAct ve doğrudan araç çağrılarını karşılaştırma

Kavramsal karşılaştırma, herhangi bir CodeAct arka ucu için olduğu gibi aynıdır: aynı istemci, model, araçlar, istem ve yapılandırılmış çıktı şeması, ya geleneksel araç çağrısı yoluyla ya da Hyperlight destekli CodeAct üzerinden kurgulanabilir. Tek fark, araç arayüzüdür — doğrudan araçlar ile execute_code tarafından desteklenen tek bir HyperlightCodeActProvider araç:

from agent_framework import Agent
from agent_framework.foundry import FoundryChatClient
from agent_framework.hyperlight import HyperlightCodeActProvider

# Direct tool calling: the model picks one tool at a time per turn.
direct = Agent(
    client=FoundryChatClient(...),
    instructions="...",
    tools=[fetch_data, compute],
)

# Hyperlight-backed CodeAct: the model writes one program per turn that
# orchestrates the same tools through call_tool(...).
codeact = Agent(
    client=FoundryChatClient(...),
    instructions="...",
    context_providers=[
        HyperlightCodeActProvider(
            tools=[fetch_data, compute],
            approval_mode="never_require",
        ),
    ],
)

Bir veri kümesi genelinde verileri art arda arayarak ve çok sayıda küçük, zincirlenebilir adımla basit hesaplamalar yaparak toplamları hesaplayan iş yükleri için CodeAct düzenleme ek yükünü kaldırabilir. Her iki çalıştırmayı da bir kronometre kullanarak ölçün ve kendi ortamınızdaki geçen süre ile belirteç kullanımını karşılaştırmak için döndürülen ChatResponse.usage’ı inceleyin.

Mevcut sınırlamalar

Bu paket hâlâ alfa aşamasındadır ve bazı kısıtlamaları göz önünde bulundurarak plan yapmak önemlidir.

  1. Platform desteği, yayımlanan Hyperlight arka uç paketlerini izler. Bugün bu, desteklenen Linux ve Windows ortamları anlamına gelir; korumalı alan oluşturma sırasında desteklenmeyen platformlar başarısız olacaktır.
  2. Mevcut entegrasyon Python misafir kodunu yürütür.
  3. Bellek içi yorumlayıcı durumu ayrı execute_code çağrılarda kalıcı olmaz. Verilerin çağrılar arasında kalması gerektiğinde monte edilmiş dosyaları ve /output yapıtları kullanın.
  4. Onay, execute_code çağrısı bütün olarak değerlendirildiğinde geçerlidir, call_tool(...) içindeki her bir parça için değil.
  5. Model yalıtılmış araçları doğrudan çağırma yerine bu sözleşmeye karşı kod yazdığından, araç açıklamaları, parametre anotasyonları ve dönüş şekilleri burada daha önemlidir.

Sonraki Adımlar

Kapsam

İlgili içerik

  • Last updated on