Passa al contenuto principale
Piattaforma

Crea un sistema di consigli in tempo reale per la migliore offerta successiva utilizzando le Databricks Feature Views

Crea una feature una volta e distribuiscila ovunque: una singola definizione dichiarativa gestisce il training point-in-time e il ranking online rapido a 34 ms p95, con segnali di sessione attivi in meno di 130 ms.

di Tian Tan, Sixuan He, Nick Joung e Julia Brouillette

  • Crea una volta, distribuisci ovunque: i Feature Views uniscono feature batch e streaming per il training e la distribuzione.
  • Personalizza in tempo reale: ordina le offerte usando il comportamento dei clienti in tempo reale con una latenza p95 di 34 ms.
  • Velocizza l'implementazione: distribuisci un sistema di raccomandazione end-to-end con un Solution Accelerator pronto all'uso.

La personalizzazione in tempo reale dipende dalla comprensione di ciò che i clienti desiderano nel momento stesso. Quando un cliente di una banca al dettaglio controlla i propri conti, esplora le carte di credito o apre un calcolatore di prestiti, ogni interazione segnala la sua intenzione attuale. Un'offerta rilevante deve raggiungerlo mentre è ancora nella sessione.

La sfida consiste nel rendere tale intenzione disponibile per il modello. I dati grezzi del flusso di clic devono essere aggregati in feature basate su finestre temporali per due scopi: l'addestramento su valori storici così come esistevano in un determinato momento e la generazione di previsioni tramite valori attuali con una latenza dell'ordine dei millisecondi. La creazione separata di queste pipeline genera definizioni di feature duplicate che possono divergere nel tempo e degradare l'accuratezza del modello.

Databricks Feature Views risolve questo problema consentendo di definire le feature una sola volta sia per l'addestramento che per l'inferenza. In questo articolo del blog, esamineremo una Solution Accelerator open source che utilizza Feature Views per creare un sistema di raccomandazione in tempo reale della migliore offerta successiva (NBO) per i servizi finanziari. 

L'acceleratore comprende due parti: un sistema di raccomandazione che utilizza feature batch e un'estensione che aggiunge lo streaming e l'intenzione in-sessione. Entrambi sono sviluppati end-to-end su Databricks, con notebook eseguibili che puoi klonare e distribuire.

Feature coerenti e in tempo reale per l'addestramento e l'inferenza

Le raccomandazioni in tempo reale richiedono sia coerenza che velocità. Le feature devono essere calcolate allo stesso modo durante l'addestramento e l'inferenza per evitare discrepanze (train/serve skew) che potrebbero ridurre l'accuratezza del modello. Al momento dell'inferenza, tali feature devono anche essere recuperate e valutate in pochi millisecondi.

Tradizionalmente, soddisfare entrambi i requisiti significava mantenere sistemi separati: una pipeline batch per le feature di addestramento e un job di streaming scritto manualmente per il serving online. Questo crea una logica duplicata che può divergere nel tempo.

Feature Views elimina la necessità di definizioni di feature separate. Dichiari la logica una sola volta e Databricks la riutilizza sia nell'addestramento che nell'inferenza:

  • Le feature batch vengono materializzate in tabelle Delta offline per un addestramento corretto rispetto al punto nel tempo e in un online store per l'inferenza a bassa latenza.
  • Le feature di streaming vengono aggregate continuamente nell'online store, mentre i valori storici vengono calcolati in base al punto nel tempo a partire dagli eventi di origine per l'addestramento. A differenza delle feature batch, non vengono materializzate in uno store offline.

Al momento dell'addestramento, l' create_training_set API recupera i valori delle feature così come esistevano in corrispondenza di ciascun evento etichettato, prevenendo la perdita di dati futuri (data leakage). Al momento dell'inferenza, l'endpoint di Model Serving recupera le feature batch dall'online store utilizzando customer_id.

Entrambi i flussi di lavoro utilizzano le stesse definizioni di feature, evitando incoerenze tra trasformazioni offline e online implementate separatamente.

Raccomandazioni in tempo reale per la migliore offerta successiva

L'acceleratore implementa un sistema di raccomandazione in tempo reale della migliore offerta successiva (NBO) per il settore bancario al dettaglio. Mentre un cliente naviga tra i conti, esplora le carte di credito o utilizza un calcolatore di prestiti, il sistema classifica un catalogo di offerte, inclusi aggiornamenti di carte di credito, prodotti di risparmio e prestiti personali, per consigliare l'opzione più pertinente durante la sessione.

Il sistema di raccomandazione combina il contesto stabile del cliente, come saldi, spese, anzianità e fascia di rischio, con la recente attività di navigazione che cattura l'intenzione all'interno della sessione. Un unico modello di ranking utilizza entrambi i tipi di dati, mentre Feature Views mantiene le definizioni delle feature coerenti tra l'addestramento offline e il serving online.

Come lo abbiamo realizzato

L'acceleratore include tre passaggi, forniti come notebook eseguibili suddivisi in due parti che condividono catalogo, schema, online store e definizioni di feature.

Passaggio 1: Definisci le feature batch e di streaming

Feature Views consente di dichiarare feature su tabelle batch e flussi Kafka in tempo reale utilizzando lo stesso approccio:

Feature

Dichiarata come

Cosa fornisce al modello

Saldo medio a 30 giorni

SlidingWindow

Comportamento continuo 

Spesa a 90 giorni

TumblingWindow

Comportamento su periodo fisso

Livello di fedeltà, fascia di rischio, reddito, anzianità

ColumnSelection

Contesto stabile del cliente

Visualizzazioni di categoria negli ultimi 10 minuti

RollingWindow su un flusso

Intenzione in-sessione più recente

Interesse di categoria a 30 giorni

SawtoothWindow

Finestra lunga, componente principale recente

Rapporto spesa/reddito

CustomUDF

Derivata, calcolata per richiesta

Per le feature di streaming, punta la dichiarazione verso un argomento Kafka anziché su una tabella. Feature Views aggrega continuamente gli eventi nell'online store senza richiedere un job di streaming separato scritto manualmente o logiche di feature duplicate.

SawtoothWindow rende pratiche le finestre di streaming più lunghe. Ad esempio, il conteggio delle categorie a 30 giorni rimane aggiornato man mano che arrivano nuovi eventi, senza ricalcolare l'intera cronologia per ciascun evento.

Passaggio 2: Addestra con feature corrette rispetto al punto nel tempo

Utilizzando il Feature Engineering SDK, un join basato sul punto nel tempo ricostruisce il valore di ciascuna feature così come esisteva al momento dell'etichetta storica, prevenendo la perdita di dati futuri. Il set di dati di addestramento risultante alimenta un classificatore LightGBM registrato in Unity Catalog.

Poiché l'addestramento e l'inferenza utilizzano le stesse dichiarazioni di feature, queste non possono divergere a causa di trasformazioni offline e online implementate separatamente.

Passaggio 3: Offri raccomandazioni in tempo reale

Il modello di ranking viene eseguito su un endpoint di Model Serving ottimizzato per il percorso. Ogni richiesta contiene {customer_id, candidate offers, session context}. L'endpoint recupera le feature del cliente dall'online store tramite chiave e assegna un punteggio a tutte le 40 offerte direttamente, senza un passaggio aggiuntivo di restrizione dei candidati.

Un secondo endpoint di Feature Serving ottimizzato per il percorso espone i valori delle feature, consentendo all'applicazione di mostrare il motivo per cui è stata selezionata un'offerta senza dover interrogare direttamente l'online store.

Valutazione di latenza, freschezza delle feature e throughput

Due metriche contano di più per un sistema di raccomandazione in tempo reale: la rapidità con cui un clic diventa una feature visibile per il modello e la verifica che addestramento e inferenza producano valori di feature identici.

Abbiamo valutato l'acceleratore end-to-end utilizzando la sua configurazione più piccola: un endpoint di serving di piccole dimensioni e un online store a nodo singolo, senza ottimizzazioni. Gli eventi di streaming sono diventati visibili al modello in circa un decimo di secondo, mentre i percorsi di addestramento e inferenza hanno prodotto valori identici.

Figura 1: Tre latenze che definiscono un sistema di raccomandazione in tempo reale

Ogni coppia di barre mostra la mediana (p50) e il 95esimo percentile (p95) della latenza. Le prime due misurano la latenza delle richieste e sono direttamente comparabili. La terza misura la freschezza delle feature, dall'acquisizione dell'evento alla disponibilità online, anziché il tempo di attesa dell'utente. La linea tratteggiata indica il limite di 50 ms rispettato da entrambi i percorsi di serving.

Una richiesta di ranking completa, inclusi il recupero delle feature online e l'inferenza, rientra in un budget di 50 ms sull'endpoint più piccolo. L'aggiunta della feature di live streaming aumenta la latenza di soli 3-4 ms.

Pianificazione del throughput e della capacità

L'endpoint di ranking ha gestito circa 56 richieste al secondo (RPS), mentre l'endpoint di Feature Serving ha gestito circa 390 RPS prima che la latenza p95 superasse i 50 ms.

Il throughput misurato ha tracciato la concorrenza divisa per il tempo di servizio entro il 15%, fornendo una formula pratica per il dimensionamento:

required concurrency = 4 × ceil(target RPS ÷ measured RPS at your SLO)

In base a questi risultati, per supportare 150 richieste di ranking al secondo entro un obiettivo di livello di servizio (SLO) p95 di 50 ms è necessaria una concorrenza pari a 12.

Come abbiamo effettuato le misurazioni

Abbiamo utilizzato i notebook di benchmark dell'acceleratore con endpoint già avviati, un client nella stessa regione e un carico leggero. Con le chiavi delle richieste distribuite tra 2.000 clienti utilizzando una distribuzione di Zipf per aumentare i cache miss, la latenza di ranking misurata è stata di 33 ms p50 e 48 ms p95.

Abbiamo misurato la freschezza delle feature per evento, dalla scrittura su Kafka fino a quando il valore diventa leggibile nello store online. Per coerenza, abbiamo confrontato i valori materializzati offline con lo store online per ogni cliente utilizzando un'uguaglianza sicura per i valori nulli.

Questi risultati presentano due limitazioni. Innanzitutto, gli endpoint di ranking utilizzano lo scale-to-zero, quindi la prima richiesta dopo un periodo di inattività può comportare un avvio a freddo (cold start) di decine di secondi. In secondo luogo, la latenza riportata combina il recupero delle feature e l'inferenza. La misurazione di 27 ms non è quindi direttamente comparabile con i benchmark che riportano solo la latenza di lettura delle feature.

Il business case: iterazione più rapida, risultati misurabili

L'acceleratore dimostra un recommender in tempo reale funzionante, non un incremento dei ricavi garantito. Poiché utilizza dati sintetici, non dichiariamo miglioramenti nella conversione. Offre invece ai team un punto di partenza per misurare l'impatto sul business.

  • Minore manutenzione della pipeline: un unico livello di feature sostituisce tre pipeline gestite manualmente. Batch, streaming e serving condividono definizioni dichiarative, con governance e tracciamento della lineagistica in Unity Catalog per supportare gli audit nei servizi finanziari regolamentati.
  • Implementazione più rapida: clona il repository, distribuisci il bundle ed esegui. La Parte 1 fornisce un ranker governato con ricerche di feature online, mentre la Parte 2 aggiunge l'intento live della sessione senza uno stack di feature separato.
  • Una baseline per i test A/B: confronta il ranker di streaming consapevole dell'intento con un modello basato solo su batch utilizzando offerte accettate incrementali per sessione idonea e margine di contribuzione a valle, con i tassi di reclamo e rinuncia come barriere di sicurezza.

Prima di andare in produzione, i team devono anche implementare controlli di idoneità, consenso, conformità e soppressione. Il ranking delle offerte è un passaggio di modellazione, non una decisione finale sull'offerta. L'acceleratore dimostra l'ingegneria delle feature e l'infrastruttura di serving, non queste regole di business.

Inizia con il Solution Accelerator

L'acceleratore ti consente di iniziare con le feature batch, per poi aggiungere lo streaming in tempo reale senza dover ricostruire la tua infrastruttura di feature.

  • Parte 1 — Fondamenti di Feature Views: clona il repository, configura un profilo della Databricks CLI, distribuisci il bundle ed esegui la Parte 1 per creare un ranker governato con ricerche di feature online.
  • Parte 2 — Streaming in tempo reale: configura una connessione Kafka in Unity Catalog e la raggiungibilità di Amazon MSK, quindi esegui la Parte 2. Questo riutilizza il catalogo, le feature, lo store online e il ranker della Parte 1.
  • Demo e monitoraggio: avvia l'app Databricks di raccomandazione e apri la dashboard della latenza AI/BI.

Usa Declarative Automation Bundles (DABs) per distribuire l'acceleratore:

L'ordine di distribuzione è importante: l'app dipende dagli endpoint di serving della Parte 2, che i notebook creano a runtime. Distribuisci i processi, esegui la Parte 1 e la Parte 2, quindi distribuisci l'app. Tutto viene eseguito su compute serverless governato da Unity Catalog.

Scopri di più su Feature Views

Feature Views ti consente di definire le feature una sola volta per un addestramento corretto rispetto al punto temporale (point-in-time-correct) e un serving online a bassa latenza su AWS, Azure e GCP. Esplora l'acceleratore per vedere come le feature batch e di streaming si integrano in un recommender in tempo reale.

Domande frequenti

Che cosa sono le Feature Views?

Feature Views ti consente di definire le trasformazioni delle feature una sola volta e di riutilizzarle nell'addestramento del modello e nel serving online. Supportano feature batch e di streaming, con valori storici corretti rispetto al punto temporale per l'addestramento e accesso a bassa latenza ai valori correnti per l'inferenza.

In che modo Feature Views impedisce lo sfasamento tra addestramento e serving (train/serve skew)?

Feature Views utilizza definizioni di feature condivise tra addestramento e serving, evitando incoerenze causate dal mantenimento di una logica di trasformazione separata. L'API create_training_set utilizza anche join basati sul punto temporale (point-in-time joins) per ricostruire i valori delle feature così come esistevano per ogni etichetta storica, prevenendo la perdita di dati futuri (data leakage).

Feature Views supporta le feature di streaming in tempo reale?

Sì. Feature Views può aggregare continuamente eventi da Kafka in uno store online senza richiedere un processo di streaming separato scritto manualmente. L'acceleratore lo dimostra utilizzando RollingWindow per l'attività di sessione recente e SawtoothWindow per finestre storiche più ampie.

Quali prestazioni raggiunge l'acceleratore della prossima offerta migliore (next-best-offer)?

Nella configurazione di benchmark, l'endpoint di ranking ha raggiunto una latenza p95 di 34 ms, inclusi il recupero delle feature online e l'inferenza. L'endpoint di ranking ha gestito circa 56 richieste al secondo, mentre l'endpoint di Feature Serving ha gestito circa 390 richieste al secondo prima di superare il budget di latenza p95 di 50 ms.

Cosa serve per eseguire l'acceleratore della prossima offerta migliore?

Ti serviranno un workspace Databricks, un profilo della Databricks CLI configurato e il repository GitHub dell'acceleratore. La Parte 1 distribuisce il recommender di feature batch utilizzando i Declarative Automation Bundles. La Parte 2 richiede inoltre una connessione Kafka in Unity Catalog e la connettività ad Amazon MSK per incorporare l'attività di sessione live.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale

Tag correlati:

Data Science e ML e Servizi finanziari

Ricevi gli ultimi articoli nella tua casella di posta

Iscriviti al nostro blog e ricevi gli ultimi articoli direttamente nella tua casella di posta.