MI irányítás Unity Gateway-vel

A Unity Gateway az Azure Databricks menedzsment megoldása vállalati MI számára. A Unity Catalogra épülve az adatokon és az AI-eszközökön túl a szabályozást kiterjeszti a modellek, ügynökök, MCP-kiszolgálók és eszközök közötti futtatókörnyezeti interakciókra. Szabályozza, mely AI szolgáltatásokat használhatják a csapatok, irányíthatják és kezelhetik az AI forgalmat, állítsanak be korlátokat szolgáltatási szabályzatokkal, és figyeljék a használatot egyetlen vezérlősíkról.

Az Azure Databricks nagynyelvi modelleket (LLM-eket) natívan szolgál ki Foundation Model API-kon keresztül, így tokenenkénti fizetős hozzáférést kapsz olyan modellekhez, mint a GPT, Claude és Gemini, anélkül, hogy infrastruktúrát futtathatsz. Külső modellszolgáltatókat is csatlakoztathatsz, és ugyanazon hozzáférés-vezérlésen és forgalomkezelésen keresztül irányíthatod az API-ikhoz.

Első lépések

AI-szabályozás beállítása és alkalmazása az AI-eszközök, a forgalom és a szolgáltatás viselkedése között.

Téma	Description
Oktató: Irányítsd egy kódoló ügynök modellhozzáférését a Unity Gateway segítségével	Irányítsd a külső kódoló ügynököt irányított modellszolgáltatásokon keresztül, majd irányítsd meg, ki férhet hozzá a modellekhez, és korlátozd az ügynök fogyasztását és kiadását.
Útmutató: Irányítsd egy kódoló ügynök GitHub MCP-hozzáférését	A kódolási ügynök hozzáférésének korlátozása GitHub MCP-eszközökhöz Unity Catalog-engedélyekkel és beépített szolgáltatásszabályzattal.
Modellek és MCP-k irányítása GRANT politikákkal	Szabályozza a modellekhez, modellszolgáltatásokhoz, modellszolgáltatói szolgáltatásokhoz és MCP szolgáltatásokhoz system.ai való hozzáférést rendszer által biztosított vagy egyedi címkékkel.
Útmutató: Szolgáltatási politika korlátok hozzáadása egy modell szolgáltatáshoz	Beépített és egyéni szolgáltatásszabályzatok használatával implementálhatja a biztonsági korlátokat egy modellszolgáltatáson.
Útmutató: Kövesd az alapmodell felhasználását felhasználó, csapat vagy projekt szerint	Azonosítsd az LLM költési meghajtókat azzal, hogy a költségeket a felhasználóknak, csapatoknak vagy projekteknek tulajdonítsuk szolgáltatáscímkékkel és kéréscímkékkel.

Kontrollálja az MI szolgáltatásokhoz való hozzáférést

Regisztrálja az AI-objektumokat a Unity Catalog biztonságos objektumaként, majd adja meg és vonja vissza a hozzáférést ugyanazokkal a jogosultságokkal, mint a táblákhoz és kötetekhez. Az ügynökökre ugyanazok a biztonságos eszközök vonatkoznak: az ügynökök Unity Catalog-modellként vannak regisztrálva, az általa hívott eszközök pedig MCP-szolgáltatásokként, függvényekként és kapcsolatokként vannak szabályozva.

Téma	Description
Modellszolgáltatások	Kérdezze le a natívan a system.ai rendszerben elérhető alapmodelleket mindenféle beállítás nélkül, és szabályozza a hozzáférést a Unity Catalog jogosultságaival.
Külső modellszolgáltatók	Kapcsold össze az olyan szolgáltatókat, mint az OpenAI és az Anthropic, saját kulcs használatával (BYOK), és kezeld őket egyetlen vezérlőponton keresztül.
Modellek	A regisztrált modelleket, beleértve az Azure Databricks által kiszolgált alapmodelleket is, a Unity Catalog jogosultságaival kezelheti.
Alapmodell engedélyei	Korlátozzátok, hogy a szervezeted melyik Azure Databricks-et kiszolgáló alapmodellhez érhet hozzáférést, akár fiókszerte vagy csoportonként.
MCP-eszközök	A Unity Catalog biztosítható objektumaiként regisztrált MCP-kiszolgálók szabályozása eszközszűréssel és szolgáltatási szabályzatokkal.
Egyéni eszközök	Szabályozza az ügynökök által eszközként használt Unity Catalog-függvényeket ugyanazokkal a jogosultságokkal, mint amelyeket az adatokhoz használ.
HTTP-kapcsolatok	A külső API-k és MCP-kiszolgálók eléréséhez használt Unity Catalog-kapcsolatok szabályozása.
Egyéni modellszolgáltatások létrehozása	Opcionális: Adj hozzá saját irányított végpontokat, ha modellekre van szükséged a kész system.ai alapértelmezéseken túl.

AI-forgalom irányítása és kezelése

A Unity Gateway a kéréseket a modelledre és MCP szolgáltatásaidra irányítja egy központi vezérlősíkról, így kezelheted a kapacitást, elérhetőséget és a kiadásokat szolgáltatók között.

Téma	Description
Sebességkorlátok alkalmazása	A kapacitás és a költség kezelése érdekében kényszerítse ki a modellszolgáltatásokra és az MCP-szolgáltatásokra vonatkozó fogyasztási korlátokat.
Forgalom felosztásának és tartalékainak konfigurálása	Oszd el a kéréseket több modellcél között, és hozzáadj failovert a rendelkezésre állás növelése érdekében.
Útvonalkódolási feladatok Smart Routing-szal	Automatikusan kiválasztja az egyes kódolási feladatokhoz legjobban illő modellt és keretrendszert, így kézben tarthatja az AI-költségeket a minőség feláldozása nélkül.
Költségvetések kezelése	Figyelheti a kiadásokat, és beállíthatja a felhasználónkénti küszöbértékeket és a kemény korlátokat.

Védőkorlátok és hozzáférési szabályzatok beállítása

A szolgáltatásszabályzatok az AI-szolgáltatások védőkorlátjának implementálásához használt mechanizmusok. Ezek szabályozzák, hogy az egyes kérések és válaszok hogyan kerülnek feldolgozásra, azok tartalma és az alapján, hogy ki indítja a hívást.

Téma	Description
Szolgáltatásszabályzatok az AI biztonságossá tételéhez	Hogyan szabályozzák a szolgáltatási szabályzatok az MI-szolgáltatások kéréseinek és válaszainak tartalmát beépített, egyéni és külső szabályzatok felhasználásával.
Szolgáltatásházirend létrehozása és csatolása	Hogyan írjunk szolgáltatási szabályzat függvényt és csatoljuk MCP szolgáltatáshoz vagy modell szolgáltatáshoz.
Partneri védőkorlát érvényesítése külső szolgáltatási szabályzattal	Hogyan kényszerítsük ki egy harmadik fél védőkorlát-szolgáltatójának döntéseit a modell- és MCP-szolgáltatásokon külső szolgáltatási szabályzattal.

A használat, a költség és a kockázat monitorozása

Kövesd az összes Unity Gateway szolgáltatás tevékenységét, kiadását és eredményeit.

Téma	Description
Megfigyelhetőség áttekintése	Válaszd ki a megfelelő eszközt, amellyel nyomon követheted az AI használatát, költségét, teljesítményét és tevékenységét a szolgáltatások között.
Használat figyelése	Kövesse a kéréseket, token használatát és késleltetését a Unity Gateway-en rendszertáblák segítségével.
Költségek elemzése	Azure Databricks-költségek hozzárendelése szolgáltatásokhoz, célmodellekhez, rendszerbiztonsági tagokhoz és címkékhez.
Kérelmek és válaszok ellenőrzése	Naplózza a Unity Catalog Delta-tábláinak küldött kéréseket és válaszokat a figyeléshez és a hibakereséshez.