Managed MLFlow

Cattura input, output ed esecuzione passo dopo passo—inclusi prompt, recuperi e chiamate agli strumenti—con il tracciamento open-source e compatibile con OpenTelemetry. Strumenta automaticamente le librerie GenAI popolari o assorbi direttamente le tracce. Debug e itera più velocemente con visualizzazioni interattive della timeline, confronti affiancati e zero lock-in del fornitore.

Valuta gli agenti GenAI utilizzando la valutazione LLM-as-a-judge e il feedback umano, direttamente nell'interfaccia utente di MLflow. Crea set di dati da tracce di produzione, confronta gli output tra le diverse versioni e valuta la qualità con metriche predefinite o personalizzate come l'allucinazione o la pertinenza. Integra il feedback degli esperti tramite interfacce utente web o APIs di app per allinearti al giudizio umano e migliorare continuamente i risultati.

Gestisci le versioni dei prompt, degli agenti e del codice dell'applicazione in un unico posto con MLflow. Link tracce, valutazioni e dati sulle prestazioni a versioni specifiche per una derivazione completa del ciclo di vita. Riusa e confronta i prompt tra i flussi di lavoro, gestisci le versioni degli agenti con metriche e parametri associati e integra con Git e CI/CD per accelerare l'iterazione governata.

Monitora la qualità della GenAI in tempo reale con le dashboard di MLflow, gli esploratori di tracce e gli avvisi automatici. Traccia problemi come la fuga di PII, i picchi di latenza o le risposte non utili utilizzando le valutazioni LLM-judge e le metriche personalizzate. Configura le valutazioni online e agisci rapidamente, prima che gli utenti ne risentano.

Ottieni il tracciamento automatico di parametri, metriche, artefatti e modelli da qualsiasi framework di ML o deep learning. MLflow ti offre un audit trail completo e supporta confronti approfonditi tra architetture, checkpoint e flussi di lavoro di addestramento, su vasta scala.
 

Registra automaticamente metriche integrate e personalizzate per compiti come classificazione o regressione. Confronta i risultati con le linee di base, registra artefatti come le curve ROC e valida i modelli su nuovi set di dati—prima che raggiungano la produzione.

Scopri, condividi e gestisci i modelli in modo centralizzato con MLflow Model Registry, integrato con Unity Catalog per una governance end-to-end. Monitora lo stato del deployment e collabora tra team con piena visibilità sulle prestazioni del modello in diversi ambienti

Esegui il deployment dei modelli con un formato di pacchettizzazione riproducibile che include tutto il codice, le dipendenze e i pesi. Servili come API REST o esegui l'inferenza batch ad alto throughput con ai_query, ottimizzato sia per CPU che per GPU tramite Databricks Model Serving.