Eseguire l'aggiornamento da modelli di GitHub a modelli Microsoft Foundry (versione classica)

Attualmente visualizzando:Versione del portale Foundry (Versione Classica) - Passa alla versione per il nuovo portale Foundry

Questo articolo illustra come sviluppare un'applicazione di intelligenza artificiale generativa a partire da modelli di GitHub e quindi aggiornare l'esperienza distribuendo una risorsa degli strumenti Foundry con Microsoft Modelli Foundry.

GitHub Models sono utili quando si vuole trovare e sperimentare gratuitamente i modelli di intelligenza artificiale durante lo sviluppo di un'applicazione di intelligenza artificiale generativa. Quando si è pronti per portare l'applicazione in produzione, migliora l'esperienza distribuendo una risorsa degli Strumenti Foundry in una sottoscrizione di Azure e inizia a usare i Modelli Foundry. Non è necessario modificare altri elementi nel codice.

Il playground e l'uso gratuito dell'API per i modelli di GitHub sono limitati da richieste al minuto, richieste al giorno, token per richiesta e richieste simultanee. Se la frequenza viene limitata, è necessario attendere la reimpostazione del limite di frequenza raggiunto prima di poter effettuare più richieste.

Prerequisiti

È necessario:

• Un account GitHub con accesso a GitHub Models.
• Sottoscrizione Azure con un metodo di pagamento valido. Se non si ha un abbonamento a Azure, creare un account Azure a pagamento per iniziare. In alternativa, è possibile attendere fino a quando non si è pronti per distribuire il modello nell'ambiente di produzione, a questo punto verrà richiesto di creare o aggiornare l'account Azure a un account standard.
• Foundry Models da partner e dalla comunità richiedono l'accesso a Azure Marketplace. Assicurarsi di disporre delle autorizzazioni necessarie per iscriversi alle offerte modello. Foundry Models venduti direttamente da Azure non hanno questo vincolo.

Eseguire l'aggiornamento a Modelli Foundry

I limiti di frequenza per il playground e l'utilizzo gratuito dell'API consentono di sperimentare i modelli e sviluppare l'applicazione di intelligenza artificiale. Quando si è pronti per portare l'applicazione in produzione, usare una chiave e un endpoint da un account Azure a pagamento. Non è necessario modificare altri elementi nel codice.

Per ottenere la chiave e l'endpoint:

1. Passare a GitHub Models e selezionare un modello per atterrare sul proprio playground. Questo articolo usa Mistral Medium 3 (25.05).

2. Digitare alcune richieste o usare alcune delle richieste suggerite per interagire con il modello nel playground.

3. Selezionare Usa questo modello dal playground. Questa azione apre una finestra in "Introduzione ai modelli nella codebase".

4. Nel passaggio "Configura autenticazione" selezionare Get Microsoft Foundry key dalla sezione "Azure AI".

   Uno screenshot che mostra come ottenere la chiave di produzione di Azure AI dal playground di un modello GitHub.

5. Se è già stato eseguito l'accesso all'account Azure, ignorare questo passaggio. Tuttavia, se non si ha un account Azure o non si è connessi al proprio account, seguire questa procedura:

   1. Se non si ha un account Azure, selezionare Crea account e seguire i passaggi per crearne uno.

   2. In alternativa, se si dispone di un account Azure, selezionare Accedi di nuovo. Se l'account esistente è un account gratuito, è prima necessario eseguire l'aggiornamento a un piano standard.

   3. Ritorna al playground del modello e seleziona di nuovo Ottieni chiave Microsoft Foundry.

   4. Effettua l'accesso al tuo account Azure.

6. Viene portato a GitHub > di Foundry e arriva sulla home page di un progetto Foundry.

   Suggerimento

   Se si accede all'esperienza Foundry (classica), utilizzare l'interruttore New Foundry nell'angolo in alto a destra per passare alla nuova esperienza Foundry.

7. Seguire la procedura descritta in Distribuire un modello per distribuire il modello preferito, testarlo in Playground e dedurre il modello distribuito con codice.

8. Verificare che la distribuzione funzioni inviando una richiesta di test in Playground. Se si riceve una risposta, il modello è pronto per l'uso dal codice.

Esplorare funzionalità aggiuntive

I modelli foundry supportano funzionalità non disponibili nei modelli di GitHub:

• Model catalog - Esplorare, confrontare e valutare modelli di Azure, partner e community open source.
• Autenticazione senza chiave : usare Microsoft Entra ID per l'autenticazione basata su token senza gestire le chiavi API.
• Filtro del contenuto : configurare i filtri di sicurezza del contenuto per le distribuzioni.
• Limitazione della frequenza : impostare limiti di frequenza personalizzati per modelli specifici nella risorsa.
• Tipi di distribuzione : scegliere tra più SKU di distribuzione, ad esempio con pagamento in base al token, provisioning e batch.

Risolvere i problemi comuni

Contenuti correlati

• Distribuire i modelli Microsoft Foundry nel portale Foundry
• Creare distribuzioni di modelli
• Tipi di distribuzione per i modelli Foundry