Dai progetti di IA a una capacità operativa

Mentre le aziende vanno oltre i progetti pilota e i proof of concept, nelle conversazioni tra dirigenti sta emergendo una nuova domanda: quando l'IA smetterà di essere una serie di progetti per diventare parte integrante delle attività aziendali?

Naveen Zutshi, CIO di Databricks, lavora a stretto contatto con CIO e leader aziendali che stanno affrontando il passaggio dalla sperimentazione all'IA su scala aziendale. In questa sessione di domande e risposte, Naveen attinge a precedenti ruoli di leadership in aziende come Palo Alto Networks, Gap Inc. e Walmart, dove ha guidato complessi sforzi di modernizzazione che hanno trasformato ambienti legacy in architetture scalabili e cloud-first.

Ciò che è emerso dalla nostra conversazione è chiaro: il punto di svolta non riguarda i modelli. Riguarda la modernizzazione, la governance e la disciplina operativa.

L'IA passa dagli esperimenti al P&L

Catherine: Qual è il segnale più chiaro, a suo avviso, che la sperimentazione con l'IA stia lasciando il posto all'IA come capacità operativa?

Naveen: Credo che il settore abbia ancora molto lavoro da fare per generare valore reale dall'AI. Ma negli ultimi sei-dodici mesi ho assistito a un cambiamento notevole. Passo del tempo con CIO e leader aziendali di vari settori industriali e spiccano tre tendenze.

Innanzitutto, sento parlare di esempi sempre più concreti di AI utilizzata nel lavoro quotidiano. È interessante notare che i settori regolamentati considerati in ritardo nel percorso in cloud, ad esempio la sanità e i servizi finanziari, sono ora degli early adopter. Vediamo l'AI utilizzata per l'automazione del back-office, il rilevamento delle frodi, la generazione di alfa nei rendimenti degli investimenti, la compilazione di note cliniche, la scoperta di farmaci e persino il supporto e la prevenzione nei centri di crisi. In secondo luogo, i leader aziendali sono sempre più coinvolti nella conversazione. Storicamente, le discussioni sull'AI erano dominate da data engineer e data scientist. Ora i gruppi aziendali si siedono al tavolo per discutere di come i dati e l'AI possano trasformare le loro funzioni. Ma soprattutto, stanno condividendo esempi di come ci sono già riusciti. L'IA è veramente arrivata quando compare nei KPI aziendali.

In terzo luogo, i finanziamenti sono cambiati. In passato, l'IA proveniva da budget per l'innovazione o fondi discrezionali. Ora è una voce di spesa importante nel conto profitti e perdite (P&L), finanziata direttamente dalle business unit o a livello centrale tramite l'organizzazione del CIO o del CTO. Questo cambiamento da solo segnala un impegno operativo. Presto la spesa per gli strumenti di IA potrebbe diventare una delle principali voci di spesa dopo il personale e il cloud. In Databricks, stiamo separando la spesa per l'IA dalla spesa SaaS complessiva.

Il vero collo di bottiglia: l'infrastruttura legacy, non il talento.

Catherine: Nelle conversazioni con i suoi colleghi del settore, quali temi comuni emergono come punti di frizione per la messa in produzione dei progetti di IA?

Naveen: Proprio questa settimana ero con 20 CIO, e il talento era di nuovo in cima ai risultati del sondaggio come uno dei principali vincoli. Ma, secondo la mia esperienza, la causa principale è spesso un sistema legacy.

Le organizzazioni sono gravate da sistemi legacy, proliferazione di SaaS, proliferazione on-premise e complessità architettonica. Nel tempo, a causa dell'inazione o di priorità contrastanti, non hanno intrapreso azioni decisive per eliminarlo. Ma mantenere i sistemi legacy è insidioso. La modernizzazione non solo aumenta la velocità, ma i sistemi legacy prosciugano anche i talenti. Diventa più difficile attrarre e trattenere i migliori ingegneri quando il loro job principale è mantenere l'operatività dei sistemi esistenti piuttosto che crearne di moderni.

Ogni volta che ho scelto di modernizzare, che si trattasse di compute, storage, architettura dei dati o livelli applicativi, mi sono pentito di non averlo fatto prima. La modernizzazione libera la produttività, ripristina il senso della missione e semplifica l'ambiente. È sempre stata una mossa di cui non pentirsi.

Un'architettura moderna e aperta che consente di integrare i migliori modelli di IA senza dover smantellare e sostituire lo stack esistente offre i seguenti vantaggi:

• Un livello di governance unificato che riduce la complessità dello spostamento dei dati.
• Semplicità e velocità grazie alla riduzione della proliferazione degli strumenti.
• La capacità di concentrare i migliori talenti su attività ad alto valore aggiunto invece che sulla manutenzione.

Spesso è questa la vera soluzione.

Le decisioni sulla piattaforma che determinano la scalabilità dell'IA

Catherine: Quali sono le decisioni chiave sulla piattaforma che più di tutte determinano se l'IA scala?

Naveen: In primo luogo, il livello dei dati. Sia strutturati che non strutturati (che costituiscono quasi l'80% dei dati aziendali). È necessario combinarli entrambi sotto un livello di governance comune. L'aspetto più critico è portare i modelli ai dati, non i dati ai modelli. Lo spostamento dei dati tra ambienti diversi crea complessità e problemi di controllo. Un'architettura unificata semplifica la gestione e migliora la sicurezza.

È anche fondamentale evitare di legarsi a un unico fornitore di modelli. I modelli di frontiera si stanno evolvendo rapidamente. Un gateway di IA o un livello di astrazione consente di utilizzare più modelli e scegliere quello migliore per l'attività da svolgere.

Infine, trattare l'AI come una funzionalità di base investendo massicciamente in osservabilità, qualità, convalida e test. Lo sviluppo sta accelerando. È nel testing che la disciplina conta. Si potrebbe passare l'80% del tempo a convalidare e perfezionare e solo il 20% a sviluppare. E aggiungerei un'altra cosa: sempre di più, il contesto e lo stato contano. I sistemi di AI hanno bisogno di memoria e continuità in modo da poter migliorare nel tempo.

Quando dati e IA non sono più conversazioni separate

Catherine: Quali sono le conseguenze del tenere i dirigenti aziendali fuori dalle iniziative relative a dati e IA?

Naveen: In molte aziende, la strategia di AI è guidata dai team dedicati ai dati. Ma è anche un imperativo aziendale. Senza dati aziendali puliti e di alta qualità, l'AI non sarà utile in un contesto aziendale. I laboratori di frontiera addestrano i modelli sul web. Le aziende devono effettuare il post-addestramento dei modelli sui propri dati. Allo stesso tempo, l'innovazione può avvenire all'edge. Se si dispone di uno stack di dati e AI coerente con autenticazione e controlli di accesso adeguati, i team possono creare agent e applicazioni in modo sicuro senza frammentare l'architettura. La chiave è la coerenza e la governance alla base dell'innovazione distribuita.

Dove l'AI agentiva è pronta e dove non lo è

Catherine: Quali flussi di lavoro sono più pronti per la gestione da parte di agenti?

Naveen: Oltre ai flussi di lavoro per lo sviluppo di software, che sono maturi nell'uso dell'IA, stiamo riscontrando un notevole successo nei flussi di lavoro go-to-market. I team di marketing e prevendita utilizzano agenti per migliorare la copertura e la targhettizzazione outbound, spesso con prestazioni superiori a quelle dei processi manuali.

Gli agenti eccellono anche nell'elaborazione di grandi volumi di informazioni a supporto delle decisioni. Invece di attendere settimane per i report ad hoc degli analisti, i leader possono interrogare direttamente i dati e ricevere rapidamente informazioni dettagliate, sia da dati strutturati che non strutturati.

Gli agenti non sono ancora pronti per i flussi di lavoro deterministici che richiedono il 100% di coerenza e accuratezza. L'IA può assistere, ma non dovrebbe sostituire il giudizio umano. C'è anche il rischio del cosiddetto "AI slop", ovvero di output che sembrano plausibili ma mancano di profondità. I leader devono abbinare l'adozione alla supervisione.

Definire il successo oltre l'hype

Catherine: Come si definisce il successo quando si scalano dati e IA?

Naveen: Mi baso su quattro dimensioni:

1. Efficienza
2. Efficacia e impatto sui ricavi
3. Qualità dei risultati
4. Riduzione del rischio

Per i sistemi di IA, mi concentro anche sugli input controllabili. Ad esempio, in un sistema di IA per le vendite, quale percentuale di inserimento dati è ora automatizzata da un agente? Quella metrica di input dovrebbe essere correlata a un aumento della produttività. Oppure, quale percentuale dei suggerimenti dell'agente viene adottata e qual è la loro efficacia rispetto agli approcci manuali? Su questi aspetti è possibile effettuare test A/B. La riduzione dei tempi di ciclo e il risparmio sui costi sono importanti, ma solo nel contesto di risultati aziendali più ampi.

Un'analisi di 12 mesi su cosa Start, interrompere e continuare

Catherine: Se dovesse dare ai suoi colleghi un framework "start, stop, continue" di 12 mesi, quale sarebbe?

Naveen: Direi di smettere di alimentare la bestia del legacy. Smettete di trattare la governance e la sicurezza dell'IA come un'attività secondaria. Ed evitate di sostituire la proliferazione di SaaS con la proliferazione di agenti. Se gli agenti non vengono adottati o non forniscono valore, eliminateli.

Poi direi di adottare un approccio basato sulle competenze o sulle attività da svolgere. Invece di sostituire intere applicazioni, identificate le attività specifiche che gli agenti possono eseguire meglio. Costruire la credibilità attraverso successi mirati. Mappate il vostro percorso "crawl, walk, run". E infine, direi di continuare a investire in dati e governance, soprattutto per i dati non strutturati. E, soprattutto, rimanere incentrati sul business. Start con l'utente, il cliente e il risultato. La tecnologia da sola non crea valore.

Il punto di svolta per i dirigenti

Il punto di svolta dirigente riguarda la prontezza operativa, l'architettura moderna, la governance unificata, i test disciplinati, i risultati misurabili e l'allineamento con il business.

L'AI diventa una capacità operativa quando passa dalla sperimentazione alla responsabilità, quando compare nei KPI, nelle voci di budget e nelle decisioni architettoniche. Le organizzazioni che riconoscono presto questo cambiamento non si limiteranno a implementare più AI. Costruiranno aziende strutturalmente pronte per essa.

Per saperne di più sulla creazione di un modello operativo efficace, scarica il Databricks AI Maturity Model.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale