Adaptive Instructed-Retriever: ricerca di qualità all'avanguardia con una latenza 2 volte inferiore

Gli agenti di dati aziendali efficaci richiedono una ricerca che sia al contempo accurata e veloce. All'inizio di quest'anno abbiamo rilasciato Instructed-Retriever-1, un modello di retrieval in grado di integrare schemi di dati aziendali e istruzioni personalizzate, utilizzando al contempo il test-time scaling parallelo per migliorare l'accuratezza del retrieval con una bassa latenza. Questo approccio di ricerca single-step funziona bene per gran parte delle richieste degli utenti. Tuttavia, le domande multi-hop più complesse possono comunque beneficiare della ricerca sequenziale, in cui il modello raccoglie iterativamente le prove e perfeziona le sue query su più passaggi, a scapito di una latenza aggiuntiva.

Ecco perché oggi presentiamo Adaptive Instructed-Retriever, che unisce la velocità del retrieval parallelo alle prestazioni della ricerca sequenziale, mantenendo al contempo rigide garanzie in termini di costi e latenza. L'obiettivo è semplice: eseguire passaggi di ricerca aggiuntivi solo quando sono utili. Si tratta dello stesso problema di efficienza del retrieval affrontato da Genie Code, l'agente di dati di Databricks: deve trovare le tabelle, i notebook, le dashboard e i documenti corretti in uno spazio di lavoro ampio e in continua evoluzione, senza sprecare passaggi in esplorazioni a forza bruta. Adaptive Instructed-Retriever è progettato per questo livello di retrieval, rispondendo rapidamente quando le prove sono chiare e utilizzando la ricerca sequenziale solo quando una richiesta più complessa lo richiede. Come mostriamo in questo post, il modello addestrato eguaglia la qualità dei principali modelli di terze parti con una latenza inferiore di 2 volte e migliora notevolmente rispetto alla ricerca single-step sui nostri benchmark di retrieval.

Per creare Adaptive Instructed-Retriever, imponiamo un limite massimo fisso al numero di passaggi sequenziali e addestriamo l'agente a decidere in modo adattivo quanta computazione richiede ciascuna richiesta dell'utente. Quando sono già state trovate prove sufficienti, l'agente si ferma in anticipo e restituisce le prove pertinenti; quando è probabile che una ricerca aggiuntiva migliori la qualità del retrieval, può continuare a cercare fino al limite di passaggi stabilito.

Addestramento di Adaptive Instructed-Retriever

Per ottenere un migliore equilibrio tra la qualità del retrieval e il costo in termini di latenza dello scaling sequenziale, abbiamo addestrato Adaptive Instructed-Retriever, un piccolo modello personalizzato che supporta sia il retrieval parallelo single-step sia la ricerca sequenziale, operando a una latenza significativamente inferiore rispetto ai principali modelli di terze parti. Valutiamo il modello su un mix di benchmark di retrieval aziendali proprietari e pubblici, inclusi compiti che beneficiano del ragionamento multi-hop. In tutti questi benchmark, Adaptive Instructed-Retriever raggiunge prestazioni paragonabili ai principali modelli open source e di terze parti, offrendo al contempo una latenza inferiore di 2 volte.

Per preparare i dati di addestramento, ci basiamo su ambienti di retrieval aziendali sintetici e su un processo agentico di sintesi dei dati simile a Instructed-Retriever-1 e pubblicato nel report KARL . Riutilizziamo i dati di addestramento esistenti per Instructed-Retriever-1 per preservare la capacità del modello di eseguire ricerche parallele rapide single-step, e introduciamo inoltre domande multi-hop sintetiche che beneficiano maggiormente di più passaggi di ricerca agentica.

Partendo dal modello di base, utilizziamo l'apprendimento per rinforzo online (ORL) per insegnare al modello a eseguire passaggi di ricerca aggiuntivi solo quando è probabile che migliorino le prestazioni finali. Nello specifico, ottimizziamo il modello end-to-end utilizzando CISPO (Clipped Importance Sampling Policy Optimization), con un sistema di reward che bilancia la qualità della traiettoria rispetto al costo di ricerca: il modello viene premiato per le traiettorie ad alte prestazioni, mentre viene penalizzato per i passaggi di ricerca aggiuntivi che non portano a corrispondenti miglioramenti delle prestazioni.

Addestriamo il modello utilizzando AI Runtime (AIR). AIR è disponibile anche per i clienti Databricks, rendendo questo approccio pratico per lo sviluppo di modelli specializzati per i propri domini e carichi di lavoro. La ricetta di addestramento è intenzionalmente leggera: partiamo da un modello di base preaddestrato e utilizziamo una quantità modesta di dati sintetici per specializzare il suo comportamento di ricerca. Come dimostra la Figura 2, il nostro approccio leggero si generalizza bene a nuovi compiti e domini di ricerca.

La Figura 2 confronta Adaptive Instructed-Retriever con due dei principali modelli di terze parti (Claude Sonnet 5 e GPT-5.6 Luna) e un modello open source (DeepSeek-V4-Flash). Tracciamo la qualità del retrieval rispetto alla latenza media end-to-end per ciascun modello. La barra di colore chiaro mostra il punteggio di retrieval di un singolo passaggio di ricerca, mentre la barra di colore scuro mostra il risultato della ricerca multi-step, misurato rispetto all'asse sinistro (più alto è, meglio è); la barra tratteggiata mostra la latenza end-to-end rispetto all'asse destro (più bassa è, meglio è). Adaptive Instructed-Retriever eguaglia le prestazioni dei principali modelli open source e di terze parti, rispondendo in soli 5,8 secondi, ovvero oltre 2 volte più velocemente rispetto a Claude Sonnet 5, DeepSeek-V4-Flash o GPT-5.6 Luna.

Apprendimento per rinforzo online per trade-off personalizzati tra qualità e latenza

L'addestramento di Adaptive Instructed-Retriever ci consente di scegliere il trade-off tra qualità e latenza regolando l'entità della penale per step utilizzata durante l'ORL. Pertanto, possiamo addestrare una famiglia di checkpoint che alimenta Adaptive Instructed-Retriever e scegliere quello che meglio si adatta al carico di lavoro di produzione.

La Figura 3 mostra come, variando l'entità della penale durante l'addestramento ORL, otteniamo una famiglia di checkpoint, ciascuno posizionato in un punto diverso del piano qualità-latenza: il punteggio sull'asse y (più alto è, meglio è) rispetto alla latenza end-to-end sull'asse x (tracciata in modo che i valori più veloci si trovino a destra). La curva rossa collega questi punti operativi in una frontiera: una penale per step più leggera consente al modello di eseguire più passaggi e raggiungere punteggi più elevati, mentre una penale più pesante riduce la sua latenza.

L'intera frontiera dei modelli Adaptive Instructed-Retriever addestrati supera le alternative. Rispetto al modello di base Instructed-Retriever non addestrato, ogni checkpoint offre una qualità superiore a una latenza simile o inferiore, suggerendo che i miglioramenti derivino dall'apprendimento di quando cercare e quando no. Nella parte superiore della frontiera, il nostro modello raggiunge punteggi paragonabili ad altri modelli leader, pur essendo più veloce di oltre 2 volte. Poiché la frontiera addestrata include checkpoint con diversi trade-off, possiamo scegliere quello che meglio si adatta a ciascun carico di lavoro e budget, privilegiando la velocità per l'uso interattivo o la qualità per il retrieval offline più complesso.

Adaptive Instructed-Retriever formula una ricerca più efficiente e mirata

Mostriamo alcuni esempi che confrontano le policy di ricerca delle alternative con quelle del nostro modello Adaptive Instructed-Retriever addestrato. Questi esempi illustrano come Adaptive Instructed-Retriever esegua ricerche in modo efficiente su domande semplici e, su domande più difficili, possa utilizzare il budget di ricerca rimanente in modo più efficace.

Verificare una risposta negativa senza una ricerca esaustiva

Adaptive Instructed-Retriever raggiunge lo stesso reward un passaggio prima rispetto a Sonnet e due passaggi prima rispetto a Luna.

Domanda: La Società X riporta esplicitamente i costi di ristrutturazione come voce del conto economico per l'anno fiscale 2022 (FY2022)?

Usa il round successivo per cambiare strategia

Adaptive Instructed-Retriever impara a regolare la strategia di ricerca per migliorare il recall: passa da una scoperta ad ampio raggio a ricerche mirate sui conti. Ottiene la ricompensa più alta, a pari merito con Sonnet per il minor numero di passaggi.

Domanda: Quali clienti utilizzano o hanno preso in considerazione l'uso di LiteLLM Proxy?

Conclusione

Adaptive Instructed-Retriever estende il modello precedentemente pubblicato Instructed-Retriever-1 dal recupero parallelo a singolo passaggio alla ricerca adattiva a più passaggi, consentendo al modello di dedicare passaggi di ricerca aggiuntivi a query complesse in cui il ragionamento iterativo e la raccolta di prove possono migliorare sostanzialmente la qualità del recupero, ritornando invece anticipatamente sulle query più semplici per ridurre al minimo la latenza. Questo approccio adattivo offre prestazioni di recupero significativamente superiori rispetto alla ricerca a singolo passaggio, ottenendo al contempo prestazioni paragonabili ai principali modelli di terze parti con una latenza inferiore di 2 volte. Variando la penale per passaggio durante l'Online Reinforcement Learning, possiamo ottimizzare esplicitamente il compromesso tra qualità del recupero e costo di inferenza, producendo checkpoint in diversi punti lungo la frontiera qualità-latenza e selezionando il punto operativo che meglio si adatta a un carico di lavoro di produzione.

Il nostro contributo fornisce un blocco costitutivo pratico per il recupero destinato ai data agent di Databricks che operano su workspace di grandi dimensioni e in costante evoluzione. Esperienze come Genie Code, Genie One e Genie Agents devono trovare le tabelle, i notebook, le dashboard e i documenti corretti senza dedicare tempo e sforzi eccessivi a un'esplorazione approfondita. Adaptive Instructed-Retriever offre una policy limitata per questo scenario: è veloce nelle ricerche comuni, pur essendo accurato nelle attività di scoperta difficili, e controllabile entro un budget di latenza del prodotto. Più in generale, questi risultati illustrano la competitività di piccoli modelli specializzati\ anche per attività che richiedono un ragionamento a più passaggi. Databricks AIR consente ai nostri clienti di personalizzare modelli specializzati per i propri domini e requisiti prestazionali.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale