Il 10 settembre Anthropic ha pubblicato un rapporto sull’abuso dell’IA. Descrive casi selezionati di persone che hanno usato modelli per attività dannose e gli interventi dell’azienda.

È un’indagine del fornitore stesso. La selezione dei casi non permette di stabilire la frequenza degli abusi né di confermare indipendentemente l’efficacia delle protezioni.

La nostra prospettiva: per un’organizzazione che impiega un agente è utile chiedersi se possa ricostruirne l’intero percorso operativo. Una risposta isolata può sembrare innocua, ma contano anche i dati precedenti, le autorizzazioni successive e chi ha approvato l’azione risultante.

Un progetto pilota sensato potrebbe quindi collegare i registri delle decisioni ai controlli degli accessi e all’approvazione umana dei passaggi sensibili. Il successo andrebbe misurato anche contando le attività legittime bloccate inutilmente e il tempo necessario a risolverle. Il test dovrebbe rispettare la riservatezza dei dipendenti.

La nostra stima editoriale ottimistica è di 1–3 mesi per valutare un flusso di lavoro limitato in un’organizzazione che disponga dei registri necessari. Il risultato mostrerebbe i punti deboli di quello specifico impiego; la resistenza generale agli abusi richiederebbe verifiche separate.