In materia di governance, i retailer hanno bisogno di un piano di controllo per il contesto

I retailer stanno entrando in una nuova fase di adozione dell'AI.

I primi confronti sulla generative AI riguardavano spesso la sperimentazione. Quale modello dovremmo provare? Quale chatbot dovremmo creare? Quale team dovrebbe gestire il primo progetto pilota? L'AI potrebbe migliorare la ricerca, riassumere documenti, arricchire i contenuti dei prodotti o rispondere a domande interne?

Quelli sono stati punti di partenza importanti. Molti retailer, supermercati, distributori e aziende rivolte ai consumatori hanno generato un valore reale da questi primi sforzi.

Alla fine del 2023, un grande distributore con cui abbiamo collaborato ha intravisto l'opportunità di combinare il machine learning tradizionale e i large language models per migliorare le operazioni del catalogo prodotti. Man mano che nuovi prodotti venivano inseriti nel catalogo, i modelli di machine learning aiutavano a categorizzare e associare gli articoli, mentre i large language models generavano descrizioni dei prodotti più ricche.

All'epoca, si trattava di una novità rivoluzionaria.

L'iniziativa ha richiesto un system integrator, un tiger team dedicato e uno sprint di circa 100 giorni per dimostrarne il valore, mentre il team lavorava sui meccanismi dell'architettura, sull'accesso ai dati, sul comportamento dei modelli e sul workflow aziendale. È stata un'iniziativa di grande successo, che ha fatto risparmiare milioni di dollari e ha dimostrato che l'AI può migliorare concretamente un processo aziendale critico.

Ma rappresentava anche un tipico pattern della prima ondata: un solo team, un solo caso d'uso, una sola architettura, uno sprint mirato.

Oggi, questo stesso tipo di workflow abilitato dall'AI sta diventando lo standard minimo. Il focus si sta spostando da "Chissà se l'AI potrebbe risolvere questo problema" a "L'AI deve aiutare a risolvere questo problema, e ho bisogno dei dati giusti rapidamente per non rallentare il business". Questo cambiamento trasforma la sfida per le imprese.

La prossima fase dell'AI nel retail non riguarda solo l'adozione di un modello migliore. Si tratta di fornire a ogni esperienza di AI il giusto contesto aziendale.

Il contesto è ciò che rende utile l'AI aziendale

Un modello senza contesto retail può fornire solo una risposta generica.

Un modello con il giusto contesto può aiutare un merchant a valutare il rischio dell'assortimento, il responsabile di un negozio a pianificare le priorità della giornata o un executive a ottenere risposte affidabili su vendite e margini. Per i retailer, questo contesto spazia dall'inventario e dai prezzi fino alle autorizzazioni e alle policy che stabiliscono chi è autorizzato a vedere cosa.

Questo contesto è ciò che rende utile l'AI. Ma il contesto è anche il punto in cui il rischio entra nel sistema.

Quali dati dovrebbe vedere l'AI? Di quali definizioni aziendali dovrebbe fidarsi? Quali utenti sono autorizzati a porre determinate domande? Quali strumenti può richiamare l'agent? Quale modello dovrebbe gestire il task? Quanto dovrebbe costare questa interazione? In che modo l'azienda dovrebbe verificare cosa è successo?

Ecco perché l'AI nel retail ha bisogno di un control plane per il contesto, un unico layer che governi quali dati, modelli e strumenti può utilizzare ogni esperienza di AI.

La governance abilita la velocità

La governance viene a volte vista come qualcosa che rallenta i team. Per i retailer, è l'esatto contrario.

Lo scopo della governance è offrire a più team una maggiore libertà di utilizzare l'AI in modo sicuro.

Se sono presenti i controlli adeguati, non è necessario che ogni nuovo caso d'uso dell'AI diventi un'attività isolata di sicurezza, procurement e architettura. I team di tutta l'azienda retail possono muoversi più velocemente perché l'accesso ai modelli, le autorizzazioni, il logging, il tracciamento e i controlli dei costi sono già integrati nella piattaforma.

Questo è il vero valore della governance dell'AI nel retail.

Non si tratta di governance fine a se stessa. È una governance pensata affinché i dipendenti possano utilizzare l'AI con maggiore sicurezza, servire meglio i clienti e prendere decisioni più rapide grazie a dati affidabili.

I team si sentono sempre più a proprio agio con l'AI integrata nei loro workflow. Devono essere messi in condizione di esplorare, creare e ottenere risultati. Ma dare libertà ai team non significa eliminare i controlli. Significa offrire loro un modo regolamentato per muoversi rapidamente, con i dati giusti, i modelli giusti, le autorizzazioni corrette e i controlli dei costi già predisposti.

La fase successiva è l'adozione dell'AI a livello aziendale

Nel mio lavoro con i leader tecnologici del settore retail, ho visto il confronto evolversi attraverso tre fasi.

1. In primo luogo, i team si sono chiesti da dove iniziare con l'AI generativa.
2. Poi hanno sviluppato casi d'uso mirati come l'associazione dei prodotti, l'arricchimento del catalogo, la ricerca, la sintesi, gli assistenti di conoscenza interni e la generazione di contenuti.
3. Ora il focus si sta spostando di nuovo: come facciamo a scalare l'AI nei negozi, nei team della sede centrale e nei canali digitali senza creare una governance frammentata, una spesa incontrollata per i modelli o un accesso incoerente ai dati aziendali?

Questo è importante perché il retail non è un settore basato su un singolo utente o un singolo workflow.

La maggior parte di questi dipendenti non siede a una scrivania a scegliere uno strumento di AI. La loro esperienza di AI è integrata in un'app del negozio, in una dashboard, in un workflow che già utilizzano, e deve rispondere a una domanda diversa per ogni ruolo. Ogni funzione ha bisogno di dati diversi. Ogni funzione ha autorizzazioni diverse. Ogni funzione potrebbe richiedere un modello diverso. Ogni funzione ha un profilo di costo e un profilo di rischio differenti.

Ecco perché l'AI nel retail non può essere risolta da un unico modello.

I retailer hanno bisogno di un modo regolamentato per distribuire molteplici esperienze di AI in tutta l'azienda, controllando al contempo quali utenti possono accedere a quali dati, quali modelli possono utilizzare, quanto spendono e come vengono monitorate tali interazioni.

La parte difficile è scalare senza perdere il controllo

Man mano che l'AI si diffonde in tutta l'azienda, i retailer rischiano di creare un modello operativo frammentato.

Un team utilizza direttamente Claude. Un altro crea un'app RAG. Un altro ancora usa Copilot. Gli sviluppatori scelgono Cursor. Gli utenti aziendali sperimentano con Claude Cowork. I team di dati creano i propri workflow agentici.

Ogni strumento può avere il proprio accesso ai modelli, accesso ai dati, log, autorizzazioni, costi e processo di governance.

Questo può funzionare durante la fase di sperimentazione, ma non come modello operativo per l'AI aziendale.

Senza un control plane, i retailer rischiano di ritrovarsi rapidamente con:

• Contratti separati con i fornitori di modelli
• Strumenti di AI e framework di agent separati
• Log di prompt e risposte separati
• Centri di costo separati
• Modelli di autorizzazione separati
• Luoghi separati in cui risiede la logica di business
• Risposte diverse alla stessa domanda di business

I retailer hanno trascorso anni cercando di ridurre la frammentazione nei dati e negli analytics. L'AI non dovrebbe reintrodurre lo stesso problema sotto una nuova forma.

I retailer hanno bisogno di harness AI aperti, non di vicoli ciechi di AI chiusi

Con la scalabilità dell'adozione dell'AI, sta emergendo un'altra domanda: dove dovrebbe risiedere l'harness AI?

Alcuni harness sono chiusi. L'utente ottiene un'esperienza di AI preconfezionata, un modello predefinito e un controllo limitato su come vengono gestiti i dati, gli strumenti, i prompt, i costi e la selezione dei modelli. Questo può essere utile per la produttività individuale, ma diventa limitante quando l'azienda vuole controllare quali modelli vengono utilizzati, come si accede ai dati, come vengono gestiti i costi e come vengono verificate le interazioni di AI.

Altri harness sono più aperti. Consentono all'azienda di scegliere il modello giusto per il lavoro da svolgere, connettersi a dati e strumenti regolamentati, instradare le chiamate ai modelli attraverso un gateway centrale e preservare la flessibilità al variare del panorama dei modelli.

Questa distinzione è importante.

Durante una recente conversazione a cena, il CIO di un retailer discount ha condiviso che i gruppi di peer CIO stanno discutendo attivamente se acquistare GPU per sfruttare i modelli open source a costo inferiore. Allo stesso tempo, i team stanno già sperimentando diverse interfacce di AI: gli sviluppatori utilizzano Cursor e assistenti di codifica, i team aziendali esplorano Claude Cowork, i team enterprise valutano esperienze in stile Copilot e i team di dati creano agent e applicazioni personalizzati.

Questa è la realtà per la maggior parte dei retailer. L'adozione dell'AI non si standardizzerà facilmente attorno a un unico modello, un unico assistente o un unico fornitore.

E quando chiediamo ai CIO quale modello pensano che vincerà, la risposta è quasi sempre una variante di: "Non lo so". È una risposta razionale. Il panorama dei modelli sta cambiando troppo rapidamente perché un CIO possa scommettere la strategia AI aziendale sul modello predefinito di oggi all'interno dello strumento preferito di oggi.

I retailer hanno bisogno di flessibilità nei modelli, senza il caos dei modelli.

Devono supportare i modelli di frontiera dove la qualità e il ragionamento sono fondamentali. Hanno bisogno di accedere a modelli open-source dove contano il costo, il controllo o la specializzazione. Devono supportare assistenti alla programmazione, agenti aziendali, app per i dipendenti e applicazioni personalizzate. Ma hanno anche bisogno di un modo comune per gestire l'accesso, monitorare l'utilizzo, controllare la spesa, registrare le interazioni e garantire che l'AI sia basata su un contesto aziendale affidabile.

Questo è il ruolo di un control plane per l'AI.

Effettuare il benchmark dei modelli mantenendo la flessibilità di scelta

Le ricerche di Databricks dimostrano che i modelli open-source gestiscono compiti sempre più complessi che fino a poco tempo fa avrebbero richiesto modelli di frontiera premium. Questo è importante per i retailer, in particolare per i supermercati e i discount, dove i margini sono ridotti e un utilizzo ad alto volume dell'AI può diventare rapidamente costoso.

Ma la risposta non è dare per scontato che i modelli open-source siano sempre sufficienti. La risposta è fare un benchmark.

Un flusso di lavoro per i contenuti dei prodotti può funzionare bene su un modello open-source o a basso costo. Un'analisi complessa di merchandising potrebbe richiedere un modello con capacità di ragionamento superiori. Un assistente per gli addetti alle vendite in negozio potrebbe richiedere una bassa latenza, autorizzazioni rigorose e costi prevedibili. Un assistente alla programmazione o un agente di pianificazione multi-step potrebbe trarre vantaggio da un modello di frontiera. Il modello giusto dipende dal compito, dai dati, dai requisiti di accuratezza, dai requisiti di latenza e dal profilo di costo.

Ecco perché i retailer hanno bisogno di flessibilità nei modelli, senza il caos dei modelli. La domanda non dovrebbe essere: "Quale modello vincerà?" La domanda migliore è: "Quale modello è il migliore per questo lavoro, con questo contesto, a questo costo e con questo requisito di governance?"

Le infrastrutture AI chiuse spesso nascondono o limitano questa scelta. Un control plane aperto consente ai retailer di effettuare benchmark, cambiare e ottimizzare i modelli al variare del mercato.

Un control plane per il contesto dell'AI nel retail

Ecco come si presenta un control plane in pratica. Quattro funzionalità di Databricks collaborano per offrirlo: Unity Catalog, Unity AI Gateway, Foundation Model APIs e Genie.

• Unity Catalog gestisce il contesto aziendale: dati, autorizzazioni, lineage, modelli e definizioni attendibili.
• Unity AI Gateway gestisce l'accesso ai modelli: routing, visibilità dell'utilizzo, logging, budget e rate limit.
• Le Foundation Model APIs forniscono un accesso centralizzato a modelli commerciali, open-source e personalizzati.
• Genie consente agli utenti aziendali di porre domande in linguaggio naturale sui dati gestiti, in modo che le risposte rimangano ancorate a un contesto attendibile.

Insieme, queste funzionalità aiutano i retailer a passare da successi isolati dell'AI a un'adozione dell'AI su scala aziendale.

Il punto non è costringere ogni utente a usare un'unica applicazione AI. Si tratta invece di fornire all'azienda un'unica strategia di governance e di accesso ai modelli che rimanga valida indipendentemente dall'applicazione, dall'agente o dall'interfaccia utilizzata da un dipendente.

L'obiettivo non è impedire ai team di utilizzare gli strumenti AI che preferiscono. L'obiettivo è consentire ai team di muoversi più velocemente, offrendo al contempo all'azienda il controllo sul modello, sui dati, sul contesto, sui costi e sui rischi.

Come si traduce tutto questo nei vari team del retail

Il CIO di un discount ha recentemente condiviso un esempio significativo. Il loro CEO voleva che l'AI fosse basata su dati aziendali più ampi, in modo da poter diventare realmente utile per il processo decisionale dei dirigenti.

Questa richiesta descrive perfettamente la sfida dell'AI aziendale. La CEO non chiedeva un modello più intelligente. Ne chiedeva uno a cui poter affidare il business. L'istinto è corretto. L'AI diventa più preziosa quando comprende il business. I CEO vogliono risposte basate sui propri numeri, non su dati generici.

La risposta non è semplicemente dare a ogni strumento AI un accesso illimitato a ogni dataset grezzo. La risposta è offrire a ciascun utente la giusta esperienza AI, basata sui dati corretti, con le giuste autorizzazioni, lineage, definizioni e verificabilità.

Evitare la creazione di un altro livello AI scollegato

Molti retailer stanno già investendo molto nella data governance, nella modernizzazione del lakehouse e in analytics affidabili. Con l'accelerazione dell'adozione dell'AI, il rischio è quello di creare un livello AI separato che operi al di fuori di quel patrimonio di dati gestito. 

Questo può introdurre problemi reali.

• La logica di business può essere duplicata al di fuori della piattaforma dati. 
• Potrebbe essere necessario ricreare le autorizzazioni in più sistemi. 
• Gli agenti AI potrebbero accedere ai dati senza un lineage coerente. 
• L'utilizzo dei modelli può disperdersi tra fornitori e contratti diversi. 
• La visibilità dei costi può frammentarsi per team o applicazione. 
• I log dei prompt e delle risposte possono scollegarsi dai flussi di lavoro di governance.

I retailer dovrebbero evitarer di ricreare la stessa frammentazione che molti hanno cercato per anni di eliminare nei dati e negli analytics.

Il futuro del retail basato su agenti (agentic retail) impone che l'AI si avvicini ai dati gestiti, anziché spostare la logica di business, le autorizzazioni e il contesto attendibile in un altro livello scollegato.

Per i retailer che stanno già investendo in Unity Catalog, il passo successivo consiste nel gestire i sistemi AI creati su di esso. In questo modo, ogni nuovo caso d'uso dell'AI erediterà le stesse autorizzazioni, audit trail e controlli dei costi già in essere, invece di dover ricominciare da zero.

Il risultato di business: più libertà con più controllo

Con un control plane per l'AI gestito, i retailer possono consentire ai team di muoversi più velocemente in libertà, mantenendo al contempo il controllo aziendale. Ogni funzione ottiene un'AI progettata per il suo reale funzionamento, dal punto vendita al team finanziario, senza dover attendere una revisione ad hoc della sicurezza o degli acquisti.

Allo stesso tempo, i responsabili IT possono mantenere la visibilità su chi utilizza quali modelli, a quali dati si accede, quanto costa ciascun flusso di lavoro e come vengono gestite le interazioni dell'AI.

Questo è l'equilibrio di cui i retailer hanno bisogno. Non un singolo chatbot. Non un singolo modello. Non un'altra piattaforma AI scollegata.

Un control plane per il contesto.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale