Eseguire l'aggiornamento da modelli di GitHub a modelli Microsoft Foundry (versione classica)

Visualizzazione attuale:Versione del portale Foundry (versione classica) - Passa alla versione per il nuovo portale Foundry

Nota

I collegamenti in questo articolo potrebbero aprire contenuto nella nuova documentazione di Microsoft Foundry anziché nella documentazione di Foundry (versione classica) visualizzata.

Questo articolo illustra come sviluppare un'applicazione di intelligenza artificiale generativa a partire da modelli di GitHub e quindi aggiornare l'esperienza distribuendo una risorsa degli strumenti Foundry con Microsoft Modelli Foundry.

GitHub Models sono utili quando si vuole trovare e sperimentare gratuitamente i modelli di intelligenza artificiale durante lo sviluppo di un'applicazione di intelligenza artificiale generativa. Quando sei pronto per portare l'applicazione nell'ambiente di produzione, aggiorna l'esperienza distribuendo una risorsa di Foundry Tools in una sottoscrizione di Azure e inizia a usare i Modelli Foundry. Non è necessario modificare altri elementi nel codice.

Il playground e l'uso gratuito dell'API per i modelli di GitHub sono soggetti a limiti di frequenza basati su richieste al minuto, richieste al giorno, token per richiesta e richieste simultanee. Se sei soggetto a un limite di frequenza, è necessario attendere che il limite di frequenza che hai raggiunto venga reimpostato prima di poter effettuare più richieste.

Prerequisiti

Hai bisogno:

Aggiornamento a modelli Foundry

I limiti di frequenza per il playground e l'utilizzo gratuito dell'API consentono di sperimentare i modelli e sviluppare l'applicazione di intelligenza artificiale. Quando si è pronti per portare l'applicazione in produzione, usare una chiave e un endpoint da un account Azure a pagamento. Non è necessario modificare altri elementi nel codice.

Nota

I modelli GitHub sono gratuiti con limiti di velocità. Dopo l'aggiornamento ai modelli Foundry, l'utilizzo viene fatturato alla sottoscrizione Azure in base al tipo di deployment scelto.

Per ottenere la chiave e l'endpoint:

  1. Passare a GitHub Models e selezionare un modello per atterrare sul proprio playground. Questo articolo usa Mistral Medium 3 (25.05).

  2. Digitare alcune richieste o usare alcune delle richieste suggerite per interagire con il modello nel playground.

  3. Selezionare Usa questo modello dal playground. Questa azione apre una finestra in "Introduzione ai modelli nella codebase".

  4. Nel passaggio "Configura autenticazione" selezionare Get Microsoft Foundry key dalla sezione "Azure AI".

    Uno screenshot che mostra come ottenere la chiave di produzione dell'intelligenza artificiale Azure dal playground di un modello GitHub.

  5. Se è già stato eseguito l'accesso all'account Azure, ignorare questo passaggio. Tuttavia, se non si ha un account Azure o non si è connessi al proprio account, seguire questa procedura:

    1. Se non si ha un account Azure, selezionare Crea account e seguire i passaggi per crearne uno.

    2. In alternativa, se hai un account Azure, seleziona Accedi nuovamente. Se l'account esistente è un account gratuito, è prima necessario eseguire l'aggiornamento a un piano standard.

    3. Tornare al playground del modello e selezionare di nuovo Ottieni chiave Foundry di Microsoft.

    4. Accedi al tuo account Azure.

  6. Vieni portato su Foundry > GitHub e arrivi sulla home page di un progetto Foundry.

    Suggerimento

    Se si arriva all'esperienza Foundry (classica), attivare il commutatore New Foundry nella barra di navigazione in alto a destra per accedere alla nuova esperienza Foundry.

  7. Seguire la procedura descritta in Distribuire un modello per distribuire il modello preferito, testarlo in Playground e dedurre il modello distribuito con codice.

  8. Verificare che la distribuzione funzioni inviando una richiesta di test in Playground. Se si riceve una risposta, il modello è pronto per l'uso dal codice.

Importante

A differenza dei modelli di GitHub, in cui tutti i modelli sono già configurati, la risorsa Strumenti Foundry consente di controllare quali modelli sono disponibili nel tuo endpoint e con quale configurazione. Aggiungere tutti i modelli che si prevede di usare prima di indicarli nel model parametro . Informazioni su come aggiungere altri modelli alla risorsa.

Esplorare funzionalità aggiuntive

I modelli foundry supportano funzionalità non disponibili nei modelli di GitHub:

  • Model catalog - Esplorare, confrontare e valutare modelli di Azure, partner e community open source.
  • Autenticazione senza chiave : usare Microsoft Entra ID per l'autenticazione basata su token senza gestire le chiavi API.
  • Filtro del contenuto : configurare i filtri di sicurezza del contenuto per le distribuzioni.
  • Limitazione della frequenza : impostare limiti di frequenza personalizzati per modelli specifici nella risorsa.
  • Tipi di distribuzione : scegliere tra più SKU di distribuzione, ad esempio con pagamento in base al token, provisioning e batch.

Risolvere i problemi comuni

Problema Risoluzione
Modello non disponibile nell'area Controllare la disponibilità dell'area del modello nella pagina del catalogo dei modelli e scegliere un'area supportata.
Errore di autenticazione dopo lo scambio di chiavi Verificare di aver copiato la chiave corretta dal portale di Foundry. Selezionare Project settings>Keys and endpoints per visualizzare le chiavi.
Errori di limite di frequenza dopo l'aggiornamento I limiti di frequenza dei Foundry Models dipendono dal tipo di distribuzione. Scalare o optare per un'implementazione con maggiore throughput.

Contenuto correlato

  • Last updated on