Unity AI Gateway è generalmente disponibile

Negli ultimi sei mesi si è registrato un rapido aumento della produttività basata sull'AI e una proliferazione di agenti in tutta l'azienda. Sebbene questi agenti possano trasformare il lavoro intellettuale, introducono anche sfide cruciali all'intersezione tra costi, controllo e possibilità di scelta:

1. Costi: spesa insostenibile. Con l'aumentare dell'adozione, i costi dell'AI crescono in modo esponenziale a causa di modelli di prezzo basati sul consumo che tracciano i token anziché le licenze. A rendere ancora più difficile la gestione dei costi, gli strumenti di AI mancano di controlli dei costi nativi e robusti, e non esiste una vista unica dell'intera fattura.
2. Controllo: rischi di sicurezza e IP. Per essere efficaci, agli agenti devono essere affidati i dati più sensibili. Tuttavia, i modelli stanno uscendo dalle sandbox sicure, gli attacchi alla supply chain e le prompt injection sottraggono dati, e i sistemi di conservazione dei dati e di memoria creano copie di dati non governate.
3. Scelta: vincolo del fornitore. Le organizzazioni sono sotto pressione per dare agli sviluppatori la libertà di adottare i modelli e gli strumenti più recenti. Il ritmo rapido dell'innovazione dell'AI (un nuovo modello o framework per agenti ogni mese!) rende difficile mantenere l'agilità senza essere legati a fornitori specifici.

Queste sfide sono ulteriormente aggravate dalla proliferazione incontrollata degli agenti, con le organizzazioni che cercano di gestire molteplici strumenti di AI e migliaia di agenti personalizzati su piattaforme disconnesse.

I sistemi aziendali non si sono ancora adeguati a queste sfide. Ecco perché siamo entusiasti di annunciare la disponibilità generale di Unity AI Gateway. Unity AI Gateway offre alle aziende le leve di costo, controllo e scelta di cui hanno bisogno per gestire la spesa per l'AI e garantire la sicurezza tra agenti e risorse AI ovunque, che si tratti di un agente di codifica, di un MCP, di un agente esterno, di una skill o di un modello. Migliaia di clienti, come Rivian, Asana ed Edmunds, utilizzano già Unity AI Gateway per distribuire l'AI in modo responsabile nelle loro organizzazioni, e nell'ultimo anno oltre un milione di miliardi di token sono passati attraverso il nostro gateway. Noi di Databricks utilizziamo Unity AI Gateway internamente per gestire la spesa di migliaia di dipendenti, ognuno dei quali ha accesso a molteplici strumenti di AI leader del settore.

Costi: osservabilità completa dell'AI e controllo dei costi

Le organizzazioni richiedono una visibilità completa su dove va a finire ogni dollaro speso per l'AI, la capacità di bloccare i costi fuori controllo in tempo reale e un modo per ottimizzare continuamente l'utilizzo del budget per l'AI, senza rallentare o appesantire gli sviluppatori.

Unity AI Gateway funge da hub centrale per qualsiasi risorsa AI, inclusi agenti esterni, MCP, skill e assistenti di codifica, e offre un'osservabilità end-to-end e un'attribuzione granulare dei costi tra modelli, provider, team e applicazioni. Centralizzando questi dati in Unity Catalog, forniamo dashboard pronte all'uso e analisi basate su Genie, offrendoti informazioni approfondite e immediate sul tuo investimento nell'AI. Inoltre, i team possono stabilire budget proattivi e applicare limiti di spesa rigidi per garantire che l'innovazione dell'AI rimanga prevedibile e allineata agli obiettivi aziendali.

Una tecnica per aiutare a controllare la spesa per l'AI consiste nell'instradare le richieste tra modelli di frontiera, sia proprietari che open source. Lo Smart Routing, ora in Beta, aiuta le organizzazioni a massimizzare il valore della loro spesa per l'AI senza limitare la produttività degli sviluppatori. Unity AI Gateway instrada dinamicamente ogni richiesta al modello corretto in base a fattori quali qualità, costo, prestazioni, disponibilità e budget, riservando i modelli più capaci e costosi per le attività che ne hanno bisogno e instradando gli altri carichi di lavoro verso opzioni più efficienti. Il risultato è un valore migliore da ogni dollaro speso per l'AI, senza costringere gli sviluppatori a scendere a compromessi sugli strumenti che utilizzano o sulla qualità di cui hanno bisogno. Se desideri partecipare alla Beta, contatta il team del tuo account.

“Unity AI Gateway ha gestito la nostra scala di produzione di oltre 100 miliardi di token al mese senza problemi di disponibilità, offrendoci al contempo visibilità sulle spese per l'AI e controlli a livello di utente. L'accesso rapido ai più recenti modelli di frontiera e open source, combinato con tabelle di utilizzo facilmente interrogabili, ci ha aiutato a valutare rapidamente i nuovi modelli e a creare analisi personalizzate sull'uso dell'AI.” —Sriram Ravichandran, Technical Lead - Software Engineering, Zepto

"Unity AI Gateway ci consente di governare centralmente gli LLM su scala nei nostri prodotti dati e agenti di codifica. Fornendo un unico livello di accesso governato tra i provider di modelli, insieme a un'osservabilità completa e a controlli del budget, rende molto più semplice scalare in sicurezza l'AI in tutta la nostra organizzazione." —Max Lautner, Staff Engineer, Technical Lead, STRABAG SE

Controllo: governare dati e AI attraverso un piano di controllo unificato

Riteniamo che i dati e l'AI debbano essere governati insieme. Dopotutto, gli agenti interagiscono con i dati aziendali più sensibili e richiamano server e strumenti MCP per intraprendere azioni per conto degli utenti che creano dati e sistemi di record. E le tracce degli agenti prodotte sono piene di informazioni riservate, dati PII o altri segreti che possono essere trapelati inavvertitamente. Le aziende hanno bisogno di un modo unificato per controllare a cosa gli agenti possono accedere e cosa possono fare, mantenendo al contempo l'identità, l'audit trail e i criteri necessari per governare ogni azione.

Con Unity Catalog e Unity AI Gateway, le organizzazioni possono governare dati e AI in un unico posto. Unity Catalog fornisce l'identità, le autorizzazioni, la derivazione dei dati e l'auditing che governano l'accesso ai dati e alle risorse AI, mentre Unity AI Gateway applica guardrail di runtime e criteri contestuali a tutte le interazioni AI. Insieme, offrono ai team visibilità e controllo centralizzati per proteggere i dati sensibili, applicare i criteri e analizzare l'attività dell'AI senza dover unire sistemi di governance e sicurezza separati.

“Con Unity AI Gateway, abbiamo finalmente un'unica fonte di verità su come gli strumenti di codifica e gli agenti AI vengono utilizzati in tutta l'azienda. Ogni richiesta passa attraverso un unico piano di controllo, con limiti di frequenza, guardrail per i PII e attribuzione dei costi per utente, il tutto sull'infrastruttura di nostra proprietà. Inoltre, stiamo lavorando con Databricks per estendere la stessa visibilità e lo stesso controllo al resto del nostro stack AI. Gli agenti diventeranno sempre più autonomi. Avere un unico piano di controllo governato significa che stiamo controllando una sola porta, non una dozzina.” —Saravanan Lakshmanan, Tech Lead, Analytics Platforms, Rivian and Volkswagen Group Technologies (RV Tech)

"In OnePay, essere all'avanguardia nell'AI significa offrire ai nostri team un ampio accesso all'AI, rispettando al contempo la nostra responsabilità di custodi dei dati finanziari dei clienti. Unity Catalog di Databricks è la base di governance su cui facciamo affidamento, e Unity AI Gateway estende lo stesso livello di fiducia ai nostri strumenti AI, agenti e framework di sviluppo. I nostri team possono ora muoversi più velocemente, con guardrail coerenti per non scendere a compromessi su qualità, efficienza o osservabilità." —Nameet Pai, Head of Platform & Data Engineering, OnePay

Scelta: accesso aperto e multi-AI senza vincoli

Gli sviluppatori desiderano la libertà di scegliere i modelli, i provider, gli agenti di codifica e gli strumenti di AI che funzionano meglio per i loro team, senza essere vincolati a un singolo ecosistema AI. Unity AI Gateway fornisce un approccio aperto e multi-AI alla governance, estendendo l'identità, le autorizzazioni, i criteri e l'osservabilità di Unity Catalog ovunque i team sviluppino.

Con Unity Catalog, le organizzazioni possono registrare e scoprire modelli ospitati su Databricks ed esterni, agenti di codifica, server MCP e skill in un'unica fonte di verità. Unity AI Gateway applica quindi la governance a tutte le interazioni con tali risorse AI, estendendo autorizzazioni, criteri e controlli coerenti ovunque vengono utilizzati. I provider di identità e gli strumenti di sicurezza esistenti possono estendersi a questi flussi di lavoro AI, offrendo ai team la flessibilità di adottare nuove tecnologie AI senza dover ricostruire la governance o sostituire i controlli aziendali consolidati.

Unity AI Gateway fornisce anche l'accesso nativo ai modelli di frontiera, tra cui Anthropic, OpenAI, Gemini, Kimi, GLM e altri ancora, tramite un'unica API di query. Questo rende incredibilmente facile scambiare i modelli e rimanere aggiornati con le ultime novità.

“Unity AI Gateway estende la governance di Unity Catalog agli endpoint dei modelli esterni, consentendoci di rimanere agnostici rispetto ai coding agent e offrendo al contempo agli ingegneri la libertà di utilizzare gli strumenti che preferiscono. Allo stesso tempo, fornisce una supervisione centralizzata e il controllo dei costi, con la possibilità di monitorare la spesa per l'AI dal singolo ingegnere fino a interi reparti.” —Bart Consedine, Head of AI Engineering, Magnite

"Unity AI Gateway ci offre la flessibilità di scegliere il modello giusto per ogni attività di programmazione senza sacrificare la governance. Possiamo muoverci rapidamente mentre il panorama dell'AI si evolve, mantenendo autorizzazioni coerenti, osservabilità centralizzata e sicurezza nel modo in cui l'AI viene utilizzata nei nostri team di ingegneria." —Naveen Rao, CEO, Unconventional AI

"Unity AI Gateway ci offre un unico punto per gestire e governare il traffico AI in tutta la nostra organizzazione. Con un'osservabilità integrata e coding agent standardizzati in grado di condividere in modo sicuro le competenze governate, ci fornisce le fondamenta per scalare l'adozione dell'AI con maggiore sicurezza."—Greg Rokita, VP of Technology, Edmunds

Inizia con Unity AI Gateway

Unity AI Gateway è generalmente disponibile da oggi, offrendo alle organizzazioni un approccio unificato alla governance dell'AI che bilancia costi, controllo e scelta man mano che l'adozione dell'AI cresce.

Per saperne di più:

• Esplora la nostra documentazione su AWS, Azure e GCP
• Visita il nostro sito web
• Registrati al nostro webinar sulla governance dell'AI il 13 agosto, tenuto da Matei Zaharia, Co-fondatore e CTO di Databricks, e Kasey Uhlenhuth, Product Director per l'AI presso Databricks

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale