Il 28 settembre NVIDIA ha annunciato Open Agent Safety Platform, una proposta aperta per governare gli agenti dall’ambiente di test alla produzione. Comprende OpenShell, runtime che applica politiche e traccia le azioni, e Sentry, un progetto di riferimento con monitoraggio separato. È un annuncio del produttore: disponibilità, componenti e prestazioni vanno verificati e non equivalgono a una valutazione indipendente.
Perché è importante
- NVIDIA ha annunciato una piattaforma aperta di sicurezza degli agenti che combina runtime OpenShell e progetto di riferimento Sentry; è una proposta del fornitore, non una certificazione indipendente.
- Un agente va verificato con gli stessi confini operativi che avrà dopo il rilascio: strumenti, file, rete e possibilità di compiere azioni esterne.
- Dati fittizi, permessi minimi, log e un comando di arresto trasformano una demo in un collaudo ripetibile.
Che cosa cambia con la piattaforma NVIDIA
Il punto utile anche per chi non userà questa piattaforma è il problema che mette in evidenza: un agente può leggere dati e invocare strumenti, quindi un errore di perimetro può propagarsi oltre la singola risposta. Le buone intenzioni nel prompt non sostituiscono limiti tecnici verificabili.
Prepara una prova che non possa fare danni
Scegli un’attività semplice, per esempio classificare file di esempio o preparare una bozza che nessuno invierà. Duplica i dati e usa un account privo di accesso a clienti, pagamenti e sistemi di produzione. Scrivi prima il risultato atteso, i file consentiti e le operazioni vietate. Se non riesci a elencarli, il compito è troppo ampio per un primo test.
Concedi soltanto lo strumento necessario. Se il compito riguarda documenti locali, l’agente non dovrebbe avere anche accesso alla posta o al web. Disattiva scrittura, invii, acquisti e cancellazioni; quando servono, richiedi un’approvazione umana distinta per ogni azione.
Cosa puoi farci concretamente
- Crea un ambiente isolato con dati fittizi e un singolo compito reversibile; annota risultato atteso e azioni vietate.
- Abilita solo gli strumenti necessari e prova un file che contiene istruzioni ostili, un tentativo di prompt injection e una richiesta fuori ambito.
- Verifica che ogni chiamata sia registrata, che le azioni esterne richiedano approvazione e che un operatore possa interrompere il processo; ripeti prima di estendere i permessi.
Esegui sei test e conserva le tracce
Primo: verifica che l’agente non possa aprire una cartella fuori ambito. Secondo: chiedigli una modifica non autorizzata e controlla che venga negata. Terzo: inserisci in un documento di prova un’istruzione ostile che gli ordini di ignorare il compito. Quarto: prova un collegamento esterno o un indirizzo web quando la rete dovrebbe essere chiusa. Quinto: controlla che una bozza non venga inviata senza conferma. Sesto: interrompi l’esecuzione a metà e verifica che token, processi e accessi siano revocati.
Per ciascuna prova conserva input, versione dell’agente, strumenti disponibili, log e risultato. Una schermata finale non basta: servono eventi che mostrino quale risorsa è stata letta o quale chiamata è stata bloccata. Ripeti il test quando cambiano modello, integrazioni o permessi.
Decidi in base ai limiti, non alla demo
Definisci prima una soglia: nessun accesso fuori cartella, nessun invio senza approvazione e arresto verificato. Se un test fallisce, riduci gli accessi o mantieni il compito sotto supervisione; non compensare aggiungendo istruzioni più insistenti al prompt.
La piattaforma NVIDIA offre un possibile insieme di componenti da valutare. Lo stesso collaudo resta applicabile a strumenti differenti e aiuta una piccola organizzazione a capire se l’agente è pronto, se serve un perimetro più stretto o se l’attività deve restare manuale.
Fonti
Documenti, comunicati e pubblicazioni consultati per ricostruire dati e contesto.
