Come salvaguardare i carichi di lavoro AI con Unity AI Gateway Guardrails

Nessuna azienda vuole finire sui titoli dei giornali per una violazione della sicurezza causata dall'IA. Governare e proteggere l'uso dell'IA è un'impresa complessa; ad esempio, la ultima versione del Databricks AI Security Framework elenca 97 rischi di sicurezza dell'IA validati dal settore e 73 controlli disponibili per tali rischi sulla Databricks Platform. Quando si implementano agenti IA, le organizzazioni dovrebbero implementare tutti i controlli necessari per garantirne un uso sicuro, protetto e conforme. Le guardrail LLM sono uno dei controlli fondamentali di governance e sicurezza che si applicano alla maggior parte dei casi d'uso.

Oltre alla sicurezza, le guardrail servono anche a proteggere dalla divulgazione di dati sensibili di un'azienda, dall'utente al modello o viceversa. Possono proteggere da usi dannosi o offensivi dell'IA, garantire che il contenuto generato sia in linea con le strategie di branding del prodotto e mantenere le conversazioni in chat pertinenti all'argomento.

Oggi annunciamo LLM Guardrails in Unity AI Gateway, ora in beta! Questa release si basa su una versione precedente delle guardrail nel Gateway; in particolare, utilizza guardrail basate su LLM per espandere e migliorare le prestazioni delle guardrail predefinite e offre un'opzione di guardrail personalizzata altamente configurabile. In questo post del blog, ti mostreremo come utilizzare queste guardrail per mitigare molteplici rischi di sicurezza e conformità dell'IA.

Scenario: Acme Co. definisce le guardrail per l'IA generativa

Il team di marketing di Acme Co. sta lanciando un assistente IA per aiutare a redigere campagne. Il CIO di Acme ha stabilito alcune politiche aziendali generali per l'uso degli LLM, tra cui:

• Nessuna PII del cliente può trapelare nei prompt del modello
• Tutti i prompt del modello devono essere controllati per tentativi di jailbreak e prompt injection
• L'IA non può essere utilizzata per generare contenuti dannosi o non sicuri

Inoltre, il team di marketing è molto attento a proteggere l'immagine del proprio brand e a mantenere un comportamento etico nella competizione. Per questa campagna, hanno deciso di evitare di denigrare i concorrenti o persino di nominarli.

Il team di marketing ha ottenuto un budget per utilizzare l'IA per questo progetto e ha lavorato con il team della piattaforma IA per ottenere l'accesso a un LLM per alimentare il loro assistente. Diamo un'occhiata a come il team della piattaforma può configurare un endpoint Unity AI Gateway per questo progetto.

Costruire un endpoint IA governato con Unity AI Gateway

I team hanno concordato che un modello capace e di uso generale come GPT-5.4 avrebbe funzionato bene per il loro caso d'uso e budget. Iniziano configurando un endpoint per utilizzare quel modello.

Hanno anche impostato tabelle di inferenza per monitorare le guardrail e assicurarsi che funzionino correttamente.

Per quanto riguarda le guardrail, mappano i loro requisiti aziendali rispetto ai vari tipi di guardrail.

Configurare le guardrail che richiedono i modelli predefiniti è semplice:

1. Dalla pagina AI Gateway per l'endpoint, vai alla scheda Guardrail.
2. Fai clic sul pulsante + Aggiungi Guardrail
3. Nella modale Crea guardrail, scegli il tipo di Guardrail. Nel nostro esempio, ne creeremo uno per la redazione PII, uno per Jailbreak e uno per Contenuti Non Sicuri. Consulta la Databricks documentazione per i dettagli su ciascun tipo.
4. Configura la guardrail per soddisfare il requisito aziendale. Per la guardrail PII, vogliamo configurarla per redigere le PII sull'input. Ogni guardrail predefinita ha un'azione predeterminata (cioè, blocca vs. sanifica) e un prompt. Le configurazioni opzionali per le guardrail predefinite includono:
   1. Un endpoint valutatore predefinito (ad esempio, databricks-gpt-5-nano) che può essere modificato secondo necessità per migliorare le prestazioni o gestire i costi.
   2. In Modalità Avanzata, l'opzione per eseguire la guardrail in modalità Log anziché nella modalità Enforce predefinita. Questa opzione è utile quando si aggiungono nuove guardrail a un endpoint che riceve traffico in tempo reale, minimizzando l'interruzione per gli utenti durante il test della guardrail.
5. Una volta soddisfatti della configurazione della guardrail, facciamo clic su Crea Guardrail per implementare la guardrail.

Ripetiamo lo stesso processo per le guardrail Jailbreak e Contenuti Non Sicuri. Per l'ultima guardrail - evitare riferimenti alla concorrenza - useremo una guardrail Personalizzata. Le diamo un nome, scegliamo di bloccare gli output che violano la guardrail e compiliamo il modello di prompt predefinito per soddisfare i requisiti aziendali.

Ora passano a testare le guardrail con alcuni prompt rappresentativi.

Testare le guardrail contro jailbreak, PII e output non sicuri

Il team Acme inizia a inviare prompt di esempio all'endpoint abilitato alle guardrail tramite un notebook, osservando il comportamento delle guardrail sia nel notebook che nella tabella di inferenza dell'endpoint.

Tutti i guardrail hanno funzionato come previsto, ad eccezione del guardrail personalizzato. Il team Acme esamina i suggerimenti per i guardrail personalizzati nella documentazione Databricks e si rende conto di aver forse sottospecificato il guardrail. Ad esempio,

• Non hanno specificato l'attività di Acme Co (fornitore di caffè speciali)
• Non hanno elencato concorrenti specifici (ad es. Highline)
• Non hanno fornito esempi few-shot

Hanno iterato sul prompt del guardrail personalizzato originale per colmare queste lacune e hanno elaborato un prompt molto più specifico e approfondito:

Hanno provato questo prompt con gpt-5-nano e gpt-5-mini come endpoint di valutazione, ma non hanno comunque ottenuto prestazioni affidabili del guardrail. Quando sono passati a gpt-5-4-mini, hanno scoperto che il guardrail personalizzato si attivava come previsto, senza degradare nessuno degli altri test del guardrail, quindi hanno selezionato 5.4-mini come endpoint di valutazione iniziale.

Come best practice, intendono anche acquisire più traffico in tempo reale tramite tabelle di inferenza, curare i falsi positivi e i falsi negativi per il guardrail personalizzato e apportare ulteriori modifiche al prompt e/o al modello per raggiungere il giusto equilibrio tra precisione, richiamo, costo e latenza.

Verifica dell'attività del guardrail con le tabelle di inferenza

Il team Acme osserva gli effetti del guardrail nelle tabelle di inferenza dell'endpoint del team di marketing e degli endpoint di valutazione.

• Sull'endpoint di inferenza, il tracciamento dell'utilizzo registra una riga per richiesta, incluse quelle bloccate. Le richieste passanti e sanificate registrano l'utilizzo effettivo dei token con stato 200. Le richieste con input bloccato registrano lo stato 400 con 0 token di input e output. Le richieste con output bloccato registrano lo stato 400 con il conteggio effettivo dei token del modello di destinazione.
• Sull'endpoint di valutazione, la tabella di inferenza registra una riga per ogni chiamata al guardrail, con il corpo della richiesta che descrive ciò che il valutatore riceve, la risposta JSON raw del valutatore, la latenza, il codice di stato e il timestamp.
• La tabella di inferenza dell'endpoint di inferenza e la tabella di inferenza dell'endpoint di valutazione condividono lo stesso request_id. Possono unire questo campo per tracciare una decisione del guardrail fino alla chiamata client originale.

Possono creare report e dashboard su queste tabelle di inferenza per tracciare e comprendere l'utilizzo del guardrail in concomitanza con la campagna di marketing. Se gli utenti si lamentano di guardrail eccessivamente sensibili, il team della piattaforma AI può convalidare le sessioni dei singoli utenti analizzando le azioni intraprese all'interno di ciascuna sessione.

Prova subito i guardrail LLM in Unity AI Gateway!

I guardrail LLM in Unity AI Gateway sono disponibili in beta oggi. Consulta la nostra documentazione su come abilitarli. Inizia abilitando i guardrail per gli endpoint che gestiscono prompt sensibili, strumenti esterni o output rivolti ai clienti, quindi utilizza le tabelle di inferenza per monitorare e perfezionare il comportamento del guardrail nel tempo.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale