Azure OpenAI (anteprima)

ID distribuzione del modello distribuito

Versione dell'API

Temperatura di campionamento da usare, compresa tra 0 e 2. Valori più elevati come 0.8 renderanno l'output più casuale, mentre valori più bassi come 0.2 lo renderanno più mirato e deterministico. In genere si consiglia di modificare questo valore o top_p ma non entrambi.

Un'alternativa al campionamento con temperatura, denominata campionamento del nucleo, in cui il modello considera i risultati dei token con massa di probabilità top_p. Quindi 0,1 significa che vengono considerati solo i token che comprendono la massa di probabilità superiore del 10%. In genere si consiglia di modificare questo valore o temperature ma non entrambi.

Se impostato, verranno inviati delta di messaggi parziali, come in ChatGPT. I token verranno inviati come eventi inviati dal server di soli dati mano a mano che diventano disponibili, con il flusso terminato da un messaggio data: [DONE].

Fino a 4 sequenze in cui l'API smetterà di generare altri token. Il testo restituito non conterrà la sequenza di interruzione.

Numero massimo di token consentiti per la risposta generata. Per impostazione predefinita, il numero di token che il modello può restituire sarà (4096 - token di richiesta).

Numero compreso tra -2.0 e 2.0. I valori positivi penalizzano i nuovi token in base al fatto che vengano visualizzati o meno nel testo fino a questo momento, aumentando la probabilità del modello di parlare di nuovi argomenti.

Numero compreso tra -2.0 e 2.0. I valori positivi penalizzano i nuovi token in base alla frequenza esistente nel testo fino a quel momento, riducendo la probabilità che il modello ripeta testualmente la stessa riga.

Modificare la probabilità che i token specificati vengano visualizzati nel completamento. Accetta un oggetto JSON che esegue il mapping dei token (specificato dal relativo ID token nel tokenizer) con un valore di distorsione associato compreso tra -100 e 100. Matematicamente, la distorsione viene aggiunta ai logits generati dal modello prima del campionamento. L'effetto esatto varia per modello, ma i valori compresi tra -1 e 1 devono diminuire o aumentare la probabilità di selezione; i valori come -100 o 100 devono comportare un divieto o una selezione esclusiva del token pertinente.

Identificatore univoco che rappresenta l'utente finale, che consente di Azure OpenAI per monitorare e rilevare abusi.

Ruolo dell'autore dei messaggi.

Matrice di parti di contenuto con un tipo definito, ognuna può essere di tipo text.

Rappresentazione dei dati di configurazione per una singola estensione di chat OpenAI Azure. Questa operazione verrà usata da una richiesta di completamento della chat che deve usare Azure estensioni della chat OpenAI per aumentare il comportamento della risposta. L'uso di questa configurazione è compatibile solo con Azure OpenAI.

Numero massimo di documenti configurato per la funzionalità per la query configurata.

Indica se le query devono essere limitate all'uso di dati indicizzati.

La rigidità configurata del filtro di pertinenza della ricerca. Maggiore è la rigidità, maggiore sarà la precisione, ma minore il richiamo della risposta.

Fornire al modello le istruzioni sul comportamento e su qualsiasi contesto a cui deve fare riferimento durante la generazione di una risposta. È possibile descrivere la personalità dell'assistente e indicargli come formattare le risposte. Esiste un limite di 100 token e viene conteggiato rispetto al limite di token complessivo.

Nome dell'indice da usare come disponibile nella risorsa di ricerca di Azure a cui si fa riferimento.

Il nome del campo indice da usare come titolo.

Nome del campo di indice da usare come URL.

Il nome del campo di indice da usare come percorso file.

I nomi dei campi di indice che devono essere gestiti come contenuto.

Il modello separatore che devono usare i campi di contenuto.

Nomi dei campi che rappresentano dati vettoriali.

Tipo di Azure query di recupero della ricerca che deve essere eseguita quando viene usata come estensione di chat OpenAI Azure.

La configurazione semantica aggiuntiva per la query.

Filtro di ricerca.

Rappresenta le origini disponibili Azure OpenAI sui dati può usare per configurare la vettorizzazione dei dati da usare con la ricerca vettoriale.

Specifica il nome della distribuzione del modello da usare per la vettorializzazione. Questa distribuzione del modello deve trovarsi nella stessa Azure risorsa OpenAI, ma In i dati userà questa distribuzione del modello tramite una chiamata interna anziché una chiamata pubblica, che consente la ricerca vettoriale anche nelle reti private.

Quante opzioni di completamento della chat generare per ogni messaggio di input.

Se specificato, il sistema eseguirà un'operazione ottimale per campionare in modo deterministico, in modo che le richieste ripetute con gli stessi seed parametri e restituisca lo stesso risultato. Il determinismo non è garantito ed è necessario fare riferimento al system_fingerprint parametro di risposta per monitorare le modifiche nel back-end.

Indica se restituire o non restituire le probabilità di log dei token di output. Se true, restituisce le probabilità di log di ogni token di output restituito in content di message. Questa opzione non è attualmente disponibile nel gpt-4-vision-preview modello.

Numero intero compreso tra 0 e 5 che specifica il numero di token più probabili da restituire in ogni posizione del token, ognuno con una probabilità di log associata. logprobs deve essere impostato su true se viene usato questo parametro.

L'impostazione di per abilitare json_object la modalità JSON. Ciò garantisce che il messaggio generato dal modello sia JSON valido.

ID distribuzione del modello distribuito

Versione dell'API

Matrice di testi di input per cui ottenere incorporamenti, codificati come stringa. Ogni stringa di input non deve superare i 2048 token di lunghezza

Identificatore univoco che rappresenta l'utente finale, che consente di Azure OpenAI per monitorare e rilevare abusi.

Tipo di input della ricerca di incorporamento da usare.

ID distribuzione del modello distribuito

Versione dell'API

Testo di input per cui ottenere incorporamenti, codificati come stringa. La stringa di input non deve superare i 2048 token di lunghezza

Identificatore univoco che rappresenta l'utente finale, che consente di Azure OpenAI per monitorare e rilevare abusi.

Tipo di input della ricerca di incorporamento da usare.

ID distribuzione del modello distribuito

Confermare l'ID distribuzione del modello distribuito

Versione dell'API

Indice del messaggio nella conversazione.

Ruolo dell'autore del messaggio.

Destinatario del messaggio nel formato dello spazio dei <nomi>.<operazione>. Presente se e solo se il destinatario è uno strumento.

Contenuto del messaggio

Indica se il messaggio termina il turno.

Tipo di origine dati.

Parametri da usare per l'origine dati in fase di esecuzione.

Temperatura di campionamento da usare, compresa tra 0 e 2. Valori più elevati come 0.8 renderanno l'output più casuale, mentre valori più bassi come 0.2 lo renderanno più mirato e deterministico. In genere si consiglia di modificare questo valore o top_p ma non entrambi.

Un'alternativa al campionamento con temperatura, denominata campionamento del nucleo, in cui il modello considera i risultati dei token con massa di probabilità top_p. Quindi 0,1 significa che vengono considerati solo i token che comprendono la massa di probabilità superiore del 10%. In genere si consiglia di modificare questo valore o temperature ma non entrambi.

Se impostato, verranno inviati delta di messaggi parziali, come in ChatGPT. I token verranno inviati come eventi inviati dal server di soli dati mano a mano che diventano disponibili, con il flusso terminato da un messaggio data: [DONE].

Dimensioni minime della matrice pari a 1 e massimo 4

Numero massimo di token consentiti per la risposta generata. Per impostazione predefinita, il numero di token che il modello può restituire sarà (4096 - token di richiesta).

Numero compreso tra -2.0 e 2.0. I valori positivi penalizzano i nuovi token in base al fatto che vengano visualizzati o meno nel testo fino a questo momento, aumentando la probabilità del modello di parlare di nuovi argomenti.

Numero compreso tra -2.0 e 2.0. I valori positivi penalizzano i nuovi token in base alla frequenza esistente nel testo fino a quel momento, riducendo la probabilità che il modello ripeta testualmente la stessa riga.

Modificare la probabilità che i token specificati vengano visualizzati nel completamento. Accetta un oggetto JSON che esegue il mapping dei token (specificato dal relativo ID token nel tokenizer) con un valore di distorsione associato compreso tra -100 e 100. Matematicamente, la distorsione viene aggiunta ai logits generati dal modello prima del campionamento. L'effetto esatto varia per modello, ma i valori compresi tra -1 e 1 devono diminuire o aumentare la probabilità di selezione; i valori come -100 o 100 devono comportare un divieto o una selezione esclusiva del token pertinente.

Identificatore univoco che rappresenta l'utente finale, che consente di Azure OpenAI per monitorare e rilevare abusi.