Avvelenare l'Intelligenza artificiale è l'ultima frontiera degli hacker/ Poisoning Artificial Intelligence is the latest frontier for hackers.[Multilanguage]

Bastano 250 file manipolati per sabotare il processo educativo di un'Intelligenza artificiale, compromettendola in modo impercettibile.

Questi attacchi possono inserire errori sistematici o elementi nascosti difficili da individuare.

Si parla di data poisoning quando la manipolazione avviene durante la fase di addestramento, e di model poisoning quando viene alterato il modello già formato.

I ricercatori hanno osservato che questi sabotaggi possono restare silenti a lungo, pronti ad attivarsi solo in presenza di una parola o di un codice specifico.

Tra le forme più diffuse di attacco c'è il cosiddetto "backdoor", che inserisce nel modello una sorta di comando segreto. In presenza di quel codice, il modello reagisce in modo anomalo, per esempio generando insulti o informazioni false.

Un modello compromesso può diffondere notizie false, generare contenuti manipolati o diventare un'arma di disinformazione di massa.

Dietro la potenza apparente dell'intelligenza artificiale, ancora si nasconde una grande fragilità strutturale.

Leggi l'articolo completo di seguito:

• Avvelenare l'Intelligenza artificiale è l'ultima frontiera degli hacker

Riferimenti:

• Focus