Passa al contenuto principale
Annunci

Novità nella piattaforma AI: Agenti per l'ingegneria ML, la nostra piattaforma di Deep Learning e nuove funzionalità per il ML in tempo reale

Usa Genie Code per accelerare l'intero ciclo di vita del ML, AI Runtime per addestrare modelli di deep learning su larga scala e Feature e Model Serving per alimentare il ML in tempo reale su larga scala.

di Tejas Sundaresan e Mike Del Balso

  • Costruisci sistemi ML più velocemente con Genie Code, un agente di codifica che aiuta data scientist e ingegneri ML a sviluppare, valutare e migliorare i sistemi di machine learning tradizionali.
  • Addestra e ottimizza modelli AI su GPU serverless con AI Runtime, una piattaforma unificata di deep learning ottimizzata per l'addestramento e la sperimentazione su GPU su larga scala.
  • Alimenta il ML in tempo reale su larga scala con le nuove funzionalità di Feature Store e Model Serving, incluse funzionalità di streaming e serving ad alto QPS per i carichi di lavoro di produzione più esigenti.

Non c'è mai stato un momento più dinamico ed entusiasmante per costruire i propri modelli e sistemi di intelligenza artificiale. Dalla previsione della domanda e il rilevamento delle frodi alla ricerca, ai consigli, alla personalizzazione e all'IA multimodale, il machine learning sta alimentando applicazioni critiche in ogni settore.

Al Data + AI Summit 2026, siamo entusiasti di annunciare le seguenti nuove funzionalità all'interno della Databricks AI Platform:

  • Genie Code per ML: Genie Code ora include un'intelligenza potenziata per l'ingegneria ML e integrazioni native in ogni componente della Databricks ML Platform: feature engineering, addestramento del modello, serving e monitoraggio.
  • AI Runtime (Anteprima Pubblica): un ambiente di addestramento GPU serverless, che consente il deep learning e il fine-tuning di livello di ricerca senza una complessa gestione dell'infrastruttura.
  • Supporto Migliorato per ML in tempo reale: inclusi supporto a bassa latenza e QPS elevato per i nostri prodotti Feature Store e Model Serving.

Insieme, queste funzionalità semplificano il percorso dall'esperimentazione alla produzione, consentendo alle organizzazioni di costruire, implementare e scalare applicazioni AI in modo significativamente più veloce che mai.

Diamo un'occhiata più da vicino alle novità.

Genie Code per Machine Learning

Oggi, portare un modello ML in produzione può richiedere mesi, con i team che dedicano innumerevoli ore a compiti ripetitivi lungo l'intero ciclo di vita del ML, dal feature engineering e la gestione degli esperimenti alla valutazione e al deployment del modello. Ma gli agenti hanno trasformato il modo in cui operano i team di ingegneria e tecnici. A tal fine, al DAIS di quest'anno, siamo entusiasti di annunciare il supporto di Genie Code per l'intero ciclo di vita del ML.

La costruzione e l'operatività dei modelli ML richiedono decisioni sfumate che gli agenti di codifica generici non possono prendere. Posso fare affidamento sulla freschezza e sulla qualità di questo dataset come feature? Questa feature farà trapelare informazioni future nel modello? Questo endpoint di serving sta iniziando a subire un drift? Ottenere i dettagli giusti nel ML richiede un contesto profondo, e quel contesto deriva solo da una stretta integrazione con la piattaforma dati e ML: i tuoi dati e la loro qualità, la lineage delle feature, la cronologia degli esperimenti, l'infrastruttura di addestramento e le performance in produzione.

È qui che entra in gioco Genie Code:

  • Contesto sui tuoi dati tramite Unity Catalog: Genie Code comprende i tuoi dati, la semantica aziendale e il modello di governance. Attraverso la sua integrazione con Unity Catalog, sa quali tabelle e feature sono di alta qualità per il ML, come i dati fluiscono attraverso le tue pipeline ML e quali controlli di accesso e politiche devono essere rispettati.
  • Contesto sullo stack ML di Databricks: Genie Code è costruito per il ML su Databricks e si integra profondamente con Feature Store, Serverless Compute, AI Runtime, Model Serving e Inference Tables. Può ottimizzare i job di addestramento, diagnosticare problemi di serving, valutare modelli challenger e agire sull'intero stack ML, non solo generare codice che interagisce con esso.
  • Contesto sul tuo ciclo di vita e workflow ML: Tramite MLflow, Genie Code comprende l'intero ciclo di vita del ML, dal feature engineering e l'esperimentazione al deployment, monitoraggio, rilevamento del drift, riaddestramento e operazioni di produzione. Non si ferma quando un modello viene spedito; aiuta a garantire che le metriche aziendali che il modello guida, come CTR, conversione o ricavi, rimangano sane in produzione.

E così, con Genie Code, i tuoi team ML possono muoversi più velocemente che mai.

Genie Code gestisce il feature engineering come farebbe il tuo ingegnere ML senior, imparando i modelli esistenti del tuo team, riutilizzando trasformazioni collaudate e costruendo feature coerenti con ciò che è già in produzione.

Genie Code non si limita a scrivere codice ML, ma addestra e ottimizza modelli di livello di produzione. Seleziona e configura automaticamente l'infrastruttura giusta, che si tratti di CPU per esperimenti leggeri o GPU per l'addestramento distribuito, e registra ogni esecuzione in modo nativo su MLflow.

Genie Code porta i modelli dal notebook alla produzione in un unico flusso, registrandoli su Unity Catalog, distribuendoli a un endpoint di serving e mantenendo intatta la governance in ogni fase del processo.

Genie Code ha completamente cambiato il mio modo di lavorare. Ogni giorno eseguo fino a 15 thread paralleli associati a diversi notebook e asset, e gestire tutto ciò tra le schede è una delle maggiori fonti di attrito nel mio flusso di lavoro. Genie Code a pagina intera con sessioni concorrenti mi darebbe un vero spazio di lavoro per eseguire tutto in parallelo senza perdere costantemente il contesto.—Moritz Schiek, Solution Consultant, Bosch
Con Genie Code, siamo passati dai dati grezzi a un workflow ML governato e pronto per la produzione in 90 minuti. Poiché comprende in modo unico i workflow ML di produzione su Databricks, ci ha aiutato a creare tabelle Delta, esplorare i dati, addestrare e confrontare modelli, registrarli con MLflow e Unity Catalog e distribuire il modello campione a un endpoint di serving, con tempo rimanente per ottimizzare il risultato aziendale più importante.—Radu Dragusin, Principal Engineer, Data & AI, Danfoss

Per saperne di più su Genie Code, inizia qui!

Presentazione di AI Runtime: una piattaforma GPU di livello di ricerca all'interno del Lakehouse

Le GPU alimentano i carichi di lavoro AI più avanzati di oggi, dalle previsioni e raccomandazioni ai modelli di fondazione multimodali. Ma i team di deep learning faticano a procurarsi e gestire l'infrastruttura GPU, a configurare ambienti di addestramento distribuiti e a risolvere i colli di bottiglia delle prestazioni. Preferiscono concentrarsi sulla modellazione anziché sull'infrastruttura.

A marzo, abbiamo lanciato un'anteprima di AI Runtime, e oggi, siamo entusiasti di condividere, come parte del Data AI Summit, che AI Runtime ora supporta l'addestramento multinodo ad alte prestazioni. Con AI Runtime, gli utenti Databricks ora dispongono di:

  • GPU NVIDIA serverless e on-demand: Configura semplicemente il tuo notebook in 2-3 clic e ottieni un rapido accesso alle GPU A10 e H100 serverless per iniziare l'addestramento, senza bisogno di un cluster. Paga solo per le GPU che utilizzi, senza preoccuparti di tempi di inattività, utilizzo o impegni iniziali.
  • Strumenti di orchestrazione robusti: Utilizza tutta la potenza della suite di orchestrazione di Databricks con il supporto di Lakeflow Jobs e DABs per carichi di lavoro GPU a lunga esecuzione.
  • Addestramento distribuito ottimizzato: AIR include miglioramenti delle prestazioni GPU distribuite, come RDMA e caricamento dati ad alte prestazioni per ottenere prestazioni ottimali per i tuoi carichi di lavoro GPU.
  • Governance e osservabilità centralizzate: esegui, osserva e governa i carichi di lavoro GPU esattamente dove risiedono i tuoi dati, con gestione degli esperimenti integrata tramite MLflow, gestione degli accessi con Unity Catalog e debugging assistito da Genie Code.

Con questo lancio, i clienti Databricks possono ora sfruttare la stessa piattaforma GPU di livello di ricerca che il nostro team ha utilizzato per alimentare l'addestramento di modelli di fondazione come DBRX e KARL. Oggi, AI Runtime alimenta carichi di lavoro all'avanguardia per centinaia di clienti Databricks, contribuendo a portare l'IA all'avanguardia dalla ricerca alle applicazioni aziendali in produzione.

AI Runtime Notebook

Collega GPU A10 e H100 serverless al tuo notebook in 2-3 clic. Nessuna gestione del cluster richiesta; paga solo per ciò che usi.

Genie Code Demo Image

Usa Genie Code per aiutare a risolvere i colli di bottiglia delle prestazioni, sperimentare nuove architetture o debuggare bug complessi relativi alla convergenza del modello o a errori criptici del framework.

Job and Pipelines

AI Runtime è una piattaforma di livello di produzione per il computing accelerato. Sviluppa il tuo codice di deep learning in notebook interattivi, e poi usa tutta la potenza di Lakeflow per inviare e orchestrare job su compute GPU.

L'AI Runtime di Databricks ha notevolmente semplificato il processo di addestramento di un modello personalizzato Text To Formula (TTF). Senza configurazione dell'infrastruttura o ritardi, è stato facile scegliere la giusta potenza di calcolo in base alla dimensione del prompt e alla generazione di token di output. Ciò ci ha permesso di agire rapidamente, mantenere i nostri workflow Lakehouse e fornire un modello di alta qualità con piena governance, riducendo il tempo di configurazione, addestramento e deployment del nostro modello da giorni a ore.—Nikhil Sunderraj, Principal Machine Learning Engineer, FactSet Research Systems, Inc.

Per iniziare ad addestrare il tuo prossimo modello su GPU, consulta i nostri esempi e la documentazione qui!

ML in tempo reale su scala: Feature Store e Model Serving

Le applicazioni di machine learning più efficaci operano in tempo reale: fornendo raccomandazioni in millisecondi, bloccando le transazioni fraudolente prima che vengano approvate e fornendo risultati di ricerca che sembrano istantanei.

Il deployment di un modello in produzione è un equilibrio delicato: ogni richiesta deve essere completata entro pochi millisecondi, anche quando il traffico aumenta – ma i costi dovrebbero rimanere bassi quando il traffico è ridotto. Mantenere questo equilibrio su scala è stato storicamente difficile quanto costruire il modello stesso. Sotto un QPS elevato, l'infrastruttura di serving diventa il collo di bottiglia. La latenza diventa imprevedibile, i costi aumentano e i team caricano i loro migliori ingegneri con la ricalibrazione dei conteggi delle repliche, dei limiti di concorrenza e delle soglie di autoscaling ogni volta che un modello o il suo traffico cambiano.

Al Data + AI Summit, stiamo annunciando nuove funzionalità che eliminano questo onere – e semplificano il raggiungimento di un serving a bassa latenza e QPS elevato su Databricks:

  • Feature Engineering Dichiarativa — Definisci le funzionalità una volta e materializzale automaticamente per l'addestramento e il serving.
  • Streaming Features — Crea funzionalità estremamente aggiornate sui tuoi stream di eventi per un ML che reagisce all'attività dei clienti in tempo reale.
  • Model Serving ad alto QPS — Un motore di inferenza e routing di rete migliorato per un serving a bassa latenza su modelli CPU e GPU, senza parametri da regolare. La piattaforma si adatta automaticamente a ogni modello e al suo traffico, raggiungendo oltre 300K QPS con un overhead di latenza p99 inferiore a 10ms.
  • Online Feature Serving su Lakebase — Offri funzionalità aggiornate con accesso a bassa latenza per le applicazioni di produzione.
  • Genie ZeroOps per ML — Genie Code può interrogare le tabelle di inferenza, eseguire il debug dei problemi di performance negli endpoint di serving e condurre analisi delle cause principali sugli avvisi, portando un'osservabilità operativa agentica ai modelli in produzione.

I clienti che utilizzano Databricks Model Serving hanno ridotto i costi dell'infrastruttura fino al 90%+ rispetto agli stack autogestiti, migliorato la latenza p99 e p50 fino a 2 volte e scalato oltre 100K QPS in produzione con poca o nessuna manutenzione, il tutto con affidabilità e disponibilità di livello enterprise. Team ML leader come Grammarly, GoGuardian e migliaia di altri clienti si affidano a Databricks per servire i loro sistemi ML in tempo reale.

Scopri di più al Data + AI Summit 2026!

Per il tuo prossimo modello AI, prova queste nuove funzionalità! Scopri di più nella documentazione o nei nostri post di blog dettagliati:

Vedi la Piattaforma AI in azione e scopri come le organizzazioni leader stanno costruendo e implementando modelli AI su scala al Data + AI Summit 2026.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale

Ricevi gli ultimi articoli nella tua casella di posta

Iscriviti al nostro blog e ricevi gli ultimi articoli direttamente nella tua casella di posta.