Condividi tramite


Che cos'è l'API Livy per Ingegneria dei dati?

Si applica a:✅ Fabric Data Engineering and Data Science

Microsoft Fabric Livy API consente agli utenti di inviare ed eseguire codice Spark all'interno del calcolo Spark associato a un Fabric Lakehouse, eliminando la necessità di creare artefatti di notebook o definizione di job Spark. Questa integrazione con Lakehouse garantisce un accesso diretto ai dati archiviati in OneLake.

Funzionalità

L'API Fabric Livy supporta i tipi di processo seguenti:

  • Job di sessione: un job di sessione Livy stabilisce una sessione Spark che rimane attiva durante l'interazione con l'API Livy. Le sessioni sono utili per carichi di lavoro interattivi. Una sessione inizia quando un'attività viene avviata e dura fino a quando non viene interrotta dall'utente o quando il sistema la termina dopo 20 minuti di inattività. È possibile eseguire più processi all'interno di una sessione, condividere lo stato e memorizzare nella cache i dati tra le esecuzioni.
  • Processi batch : un processo batch Livy invia un'applicazione Spark per un'esecuzione di un singolo processo. A differenza di un processo di sessione, un processo batch non supporta una sessione Spark in corso. Ogni processo avvia una nuova sessione Spark che termina al termine del processo, che funziona bene per le attività che non si basano sui calcoli precedenti o richiedono il mantenimento dello stato.
  • Sessioni di concorrenza elevata: una sessione HC (High Concurrency) consente l'esecuzione simultanea di Spark consentendo ai client di acquisire più contesti di esecuzione indipendenti. Ogni sessione HC esegue il mapping a un REPL (Read-Eval-Print Loop) di Spark all'interno di una sessione Livy condivisa e sottostante, supportando l'esecuzione parallela, l'utilizzo prevedibile delle risorse e l'isolamento tra le richieste simultanee. Per ulteriori informazioni, vedere Supporto per l'alta concorrenza nell'API Fabric Livy.

Annotazioni

Il supporto della concorrenza elevata è aggiuntivo e non modifica i contratti API Livy esistenti. I carichi di lavoro esistenti di Livy, sia batch che di sessione, continuano a funzionare senza modifiche.

Introduzione all'API Livy