DeepSeek parlerà al Consiglio di sicurezza ONU dei rischi dell’AI

Perché l’AI arriva al Consiglio di sicurezza

Il Consiglio aveva già affrontato l’AI nel 2023, quando la discussione riguardava soprattutto rischi emergenti, uso militare e possibilità di un coordinamento globale. Ora il tema è più concreto: modelli collegati a strumenti, disinformazione su larga scala, cyberoperazioni e capacità che possono crescere più rapidamente dei controlli. La domanda diventa chi avvisa chi, con quali prove e in quale momento.

L’incontro mostra anche la dimensione geopolitica della tecnologia. Gli Stati Uniti chiedono cautela e trasparenza, mentre la Cina contesta l’idea che il rallentamento sia un modo per mantenere un vantaggio industriale americano. La contrapposizione rischia di ridurre ogni proposta a una gara di leadership, proprio quando gli incidenti richiederebbero canali tecnici comuni.

Perdita di controllo e uso malevolo non sono lo stesso rischio

Nel dibattito pubblico, perdita di controllo e uso malevolo vengono spesso mescolati. Il primo riguarda un sistema che esegue azioni oltre le intenzioni dell’operatore o che diventa difficile da fermare; il secondo riguarda persone o organizzazioni che sfruttano il modello per frodi, cyberattacchi o propaganda. Le misure possono sovrapporsi, ma la risposta operativa non è identica.

Per la perdita di controllo servono valutazioni sulle capacità, accessi limitati e arresti indipendenti. Per l’uso malevolo servono autenticazione, monitoraggio degli abusi e cooperazione tra piattaforme e autorità. Una dichiarazione generica sulla sicurezza non indica quale minaccia è stata testata. Le istituzioni dovrebbero chiedere scenari, soglie e risultati replicabili, non soltanto impegni di principio.

La discussione ONU può aiutare a definire un vocabolario comune. Un incidente dovrebbe avere una gravità, una descrizione tecnica e un tempo di notifica; un modello ad alto rischio dovrebbe avere controlli proporzionati alla capacità e al contesto. Senza definizioni condivise, ogni Paese pubblica solo ciò che gli conviene e il confronto internazionale resta una sequenza di comunicati.

Dalle dichiarazioni a un meccanismo di notifica

Un primo risultato pratico sarebbe un protocollo di notifica degli incidenti. Non serve aspettare una crisi per concordare quali dati condividere: tipo di modello, ambiente, azione osservata, target coinvolto, mitigazione e stato della verifica. Il protocollo può proteggere informazioni sensibili e, allo stesso tempo, permettere agli altri operatori di correggere una vulnerabilità simile.

Gli standard dovrebbero distinguere eventi interni, incidenti con terzi e campagne coordinate. Una fuga dalla sandbox non ha lo stesso impatto di un attacco riuscito, ma entrambi rivelano un limite che altri team devono conoscere. Anche l’incertezza va registrata: dire che un fatto è ancora in verifica è più utile che aspettare mesi per un resoconto perfetto.

La fiducia richiede verifica indipendente. Un Paese o un’azienda può dichiarare di aver fermato un sistema, ma un osservatore esterno dovrebbe poter controllare log, procedure e tempi di risposta con protezioni adeguate. Il modello di valutazione può includere laboratori accreditati e accessi limitati, così da evitare che ogni governo debba credere alla parola dell’altro.

Che cosa significa per chi usa AI in azienda

Le imprese non devono attendere un accordo internazionale per applicare controlli di base. Un servizio AI critico dovrebbe avere un proprietario, un registro degli strumenti collegati, una procedura di revoca e un piano quando il fornitore non risponde. La geopolitica può cambiare disponibilità, prezzi o accesso ai dati: la continuità va progettata prima dell’incidente.

È utile classificare gli usi per impatto. Una sintesi interna può avere un controllo leggero, mentre un agente che aggiorna sistemi, invia denaro o gestisce dati personali richiede approvazione, log e test avversariali. La classificazione deve essere comprensibile a chi acquista e a chi usa il servizio, non soltanto al team legale.

Il briefing ONU non produrrà da solo una soluzione, ma può spostare la discussione dal binomio USA-Cina a pratiche misurabili. Per chi adotta AI, la regola resta semplice: distinguere promesse, standard e prove; mantenere alternative; documentare gli incidenti. Un dialogo internazionale vale quando riduce il tempo tra un comportamento inatteso e la possibilità di avvisare, contenere e correggere il sistema.