Come le aziende si stanno preparando per l'AI agentiva

Mentre le aziende passano da una fase di sperimentazione iniziale con l'IA generativa alla creazione di sistemi agentici e orientati agli obiettivi, le domande che si pongono i dirigenti sono cambiate. La conversazione è meno incentrata su cosa può fare l'AI e molto di più su come renderla affidabile, governarla e integrarla nel modo in cui l'azienda opera effettivamente.

Per scoprire come le principali organizzazioni si stanno preparando per questa nuova fase, ho parlato con Craig Wiley, Senior Director of prodotto di Databricks, nell'ambito della nostra serie dirigente Lens. Questa serie è pensata per far emergere i cambiamenti strategici che stanno plasmando i dati e l'IA aziendali, attraverso conversazioni dirette con i dirigenti che stanno affrontando questi cambiamenti in tempo reale.

Craig e io abbiamo parlato apertamente di cosa significhi veramente essere pronti, di come l'architettura e la governance debbano evolversi e di quali traguardi i team dirigenziali e i consigli di amministrazione dovrebbero pianificare mentre iniziano a scalare i sistemi agentivi.

Craig Wiley è Senior Director of prodotto for Artificial Intelligence presso Databricks. In precedenza, è stato il General Manager fondatore di AWS SageMaker e uno dei leader dei prodotti di AI presso Google Cloud. Porta con sé una profonda esperienza nella creazione di piattaforme di machine learning e IA scalabili che aiutano le aziende a integrare dati e sistemi intelligenti in modi pratici e duraturi.

Dagli esperimenti di GenAI a sistemi di cui i leader possono fidarsi

Catherine: Ultimamente ha parlato con molti CIO, CDO e CTO. Quali cambiamenti sta notando nel passaggio delle aziende dalla sperimentazione con la GenAI a sistemi più agentivi e orientati agli obiettivi?

Craig: All'inizio, credo che molte persone non avessero le idee chiare su come sfruttare la GenAI in modo utile. Sentiamo ancora parlare di un'enorme percentuale di casi d'uso che sono molto deterministici. La gente dice: "Voglio creare un sistema che faccia questo", che si tratti della supply chain, della gestione del servizio clienti o di qualsiasi altra cosa.

Il problema era che con le prime GenAI, creare o implementare qualcosa di deterministico era davvero difficile. Con gli agenti, ora possiamo usare la GenAI per creare sistemi quasi deterministici e possiamo anche diventare molto più intelligenti per quanto riguarda l'accuratezza.

Se si pensa a cosa serve perché un CXO approvi l'implementazione di una soluzione agentiva, tutto si riduce a controllo e accuratezza. Posso controllarlo e funziona davvero? Questo passaggio verso gli agenti ha permesso di raggiungere livelli di accuratezza che non potevamo ottenere quando tutto si basava su un sistema di tipo prompt-risposta.

La risposta meno entusiasmante è comunque quella giusta

Catherine: Cosa ti fa capire che un'organizzazione è davvero pronta per l'AI agentica?

Craig: La risposta noiosa è quella giusta: i vostri dati sono in ordine?

Si può essere molto entusiasti dell'IA agentiva, ma per le aziende tutto si riduce al contesto. E quando diciamo contesto, intendiamo dati e informazioni. È possibile fornire le informazioni giuste all'agente al momento giusto nel suo ragionamento?

Lo vediamo continuamente. Modelli più piccoli, più economici e meno sofisticati possono avere prestazioni altrettanto buone di quelli più avanzati se ricevono il contesto giusto al momento giusto. Non esistono scorciatoie. È necessario un data lake ben curato con metadati solidi. Se non si dispone di questo, la situazione è molto simile a quella del machine learning classico. Si dice: "Costruiamo questo modello", e si passano due mesi e mezzo a mettere in ordine i dati e le ultime due settimane a costruire effettivamente il sistema. Senza il lavoro sui dati, non c'è successo.

Due percorsi da seguire quando i dati non sono pronti

Catherine: Molte organizzazioni non hanno raggiunto la maturità che vorrebbero nella gestione dei dati. Se un dirigente osserva il proprio ambiente e pensa: "È un caos, da dove comincio?" cosa hai visto funzionare?

Craig: In realtà ci sono due percorsi.

Uno è di tipo bottom-up. Si esaminano tutti i propri dati e ci si chiede: "Come posso metterli a posto?". La buona notizia è che gli strumenti sono migliorati notevolmente. Spostare i dati dai sistemi legacy è più facile, e la GenAI può persino aiutare a scrivere parte del codice necessario.

L'altra strada è guidata dai casi d'uso. Se un CEO o un CIO dice: "Abbiamo una grande ambizione agentiva e vogliamo fare X", e i dati sono un disastro, si può iniziare chiedendo: di quali dati ho effettivamente bisogno per questo caso d'uso? Poi si va a cercare quei pezzi, li si modernizza e li si porta avanti al servizio di quell'obiettivo.

Nessuno dei due approcci è universalmente migliore. L'approccio bottom-up offre maggiore flessibilità in seguito. Partire dal caso d'uso può essere più rapido quando il problema è esistenziale. L'unico vero errore è non dedicare ai dati il tempo e l'attenzione di cui hanno bisogno.

Perché i primi successi stanno andando oltre la chat

Catherine: Su cosa si stanno concentrando gli early adopter in questo momento? Quali tipi di casi d'uso stanno prendendo piede?

Craig: Un anno fa, molti early adopter si stavano orientando verso il marketing e altri casi d'uso in cui la natura generativa dei modelli non era un problema. Ora, grazie a elementi come il tool calling e una maggiore accuratezza, i clienti possono puntare a molto di più. Le persone sono ancora molto concentrate sulla chat. "Voglio che i miei dipendenti parlino con qualcosa." "Voglio che i clienti possano parlare con qualcosa."

Ma il vero entusiasmo che sto riscontrando riguarda l'automazione e l'ottimizzazione dei flussi di lavoro. Di recente ho parlato con una grande banca che sta cercando di "agentificare" il suo intero processo di erogazione dei prestiti. Prima erano necessarie ore di lavoro umano per esaminare i documenti. Ora sperano di renderlo completamente gestito da agenti, con una stretta supervisione umana. Questo è un risultato molto più interessante di un semplice chatbot.

La governance si complica quando gli agenti diventano utenti

Catherine: In che modo i leader stanno ripensando l'architettura e la governance man mano che i sistemi diventano più autonomi?

Craig: Per decenni ci siamo concentrati sulla gestione dei dati strutturati e sull'assicurarci che le persone giuste avessero accesso e quelle sbagliate no. Ora dobbiamo pensare a questo anche per i dati non strutturati, e dobbiamo pensare agli agenti come a nuove entità. Come posso assicurarmi che questi agenti abbiano accesso ai dati giusti al momento giusto?

Bisogna anche pensare all'utente all'altro capo dell'agente. Un esempio classico è la creazione di un chatbot basato su Jira. Spesso Jira o altri sistemi simili possono contenere informazioni riservate. Se non c'è una governance, chiunque potrebbe far emergere quell'informazione. Quindi non si tratta solo di ciò a cui l'agente può accedere. Si tratta anche di ciò che l'agente può restituire in base a chi pone la domanda. Gli elementi costitutivi esistono, ma la governance deve essere trattata come un problema di primaria importanza, non come qualcosa a cui pensare dopo.

Un modo semplice per concepire identità, accesso e agenti

Catherine: Sembra molto simile alla gestione dell'identità e degli accessi. Come dovrebbero considerare questo aspetto i leader mentre si preparano?

Craig: Fondamentalmente, si tratta di gestione dell'identità e degli accessi, ma con una nuova classe di identità: gli agenti.

Se non si dispone di solide policy di identità e accesso, il mondo sta per diventare molto più complicato. Se invece le si possiede, questo si adatta in modo più naturale.

Un modo semplice per vederla è:

• Chi è? Sistemi di identità solidi che funzionano per attori umani e non umani.
• Cosa possono fare? Governance su API e dati.
• Come lo fanno? Documentazione e metadati. Cosa c'è in questa tabella? Cosa fa questa API?

Se i sistemi di identità e la documentazione sono validi, diventa molto più facile indirizzarvi un agente e procedere rapidamente.

I prossimi 12-24 mesi: farsi i muscoli prima di inseguire il ROI

Catherine: Nel prossimo anno o due, cosa dovrebbero pianificare i team di leadership man mano che i sistemi agentivi scalano?

Craig: Molte aziende sono bloccate sulla questione "creare o acquistare". Se fossi un CEO, vorrei avere le idee chiare in merito. Il mio punto di vista è che si dovrebbe essere in grado di creare. Non riesco a immaginare di gestire una grande azienda e di esternalizzare tutto il mio sviluppo software.

Se si hanno sviluppatori, si dovrebbe pianificare di sviluppare questa capacità. A breve termine, mi preoccupo molto meno del ROI e molto di più del fatto che il mio personale sia in grado di creare e fornire questi sistemi. La pratica viene prima della competizione. Trovate i talenti giusti nei primi sei mesi. Tra sei e dodici mesi, create qualcosa di cui essere orgogliosi. Dopodiché, iniziate a ottenere risultati di business reali.

Ci sono momenti in cui è meglio comprare. Se la funzionalità non è centrale per la vostra differenziazione, allora considerate di acquistarla. Ma se già create software per differenziare la vostra azienda, i vostri team dovrebbero creare agenti per differenziare la vostra azienda.

L'idea sbagliata che blocca del tutto il progresso

Catherine: Qual è l'equivoco più grande che riscontri quando le aziende provano l'IA agentiva per la prima volta?

Craig: L'abbandono dopo un fallimento.

Costruiscono qualcosa, risponde in modo errato una volta, e dicono: "Visto? Te l'avevo detto che avrebbe sbagliato. Ho finito." Non è così che funziona la crescita. Se ha sbagliato, chiedetevi perché. Risolvete la causa principale e andate avanti.

La GenAI all'inizio sembrava facile, quindi la gente si aspetta che lo sia sempre. Ma costruire ottimi sistemi di AI è difficile. Ci saranno dei fallimenti. Il successo sta nel miglioramento continuo, non nel fare tutto giusto al primo tentativo.

Un paio di anni fa ho tenuto una presentazione in cui un'azienda globale di servizi finanziari ha parlato di un agente che aveva creato per aiutare i dipendenti dei call center a completare l'onboarding più velocemente. Ho chiesto come misurassero il successo. La risposta è stata: “Non era quello il punto. Il punto era far acquisire esperienza al mio team nello sviluppo.”

Quella mentalità mi è rimasta impressa. Le aziende che si presentano con questo atteggiamento sono quelle che vinceranno.

Catherine: La mentalità di crescita.

Craig: Esatto.

Considerazione finale

Ciò che mi ha colpito di più di questa conversazione è che l'IA agentiva non premia le scorciatoie. Le organizzazioni che si muovono più velocemente non stanno saltando le parti difficili. Stanno facendo il lavoro meno affascinante su dati, identità, governance e documentazione, e stanno investendo fin da subito per sviluppare le capacità interne.

I sistemi agentivi non cambiano solo ciò che la tecnologia può fare. Alzano l'asticella su quanto un'organizzazione debba essere preparata per usarla bene.

Per saperne di più sulla creazione di un modello operativo efficace, scarica il Databricks AI Maturity Model. 

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale