🤖 L'AI si fa ingannare: La storia della "Bixonimania", la malattia inventata che l'AI ha creduto reale
🤖 L'AI si fa ingannare: La storia della "Bixonimania", la malattia inventata che l'AI ha creduto reale
Avete mai sentito parlare di Bixonimania? Se la vostra risposta è sì, beh, c'è una probabilità altissima che abbiate letto qualcosa generato da un'intelligenza artificiale.
Perché? Perché la Bixonimania non esiste. È una malattia completamente inventata, creata appositamente da ricercatori dell'Università di Gothenburg per mettere alla prova la capacità degli attuali modelli di linguaggio (LLM) di distinguere il vero dal falso in ambito medico.
🧪 L'esperimento: Come è nata una "malattia"
Nel marzo 2024, un team guidato da Almira Osmanovic Thunström ha pubblicato un post su Medium intitolato "How many people suffer from Bixonimania?". Poco dopo, hanno rilasciato due "paper" accademici su server pre-print, apparentemente seri, ma pieni di indizi che avrebbero dovuto far scattare un campanello d'allarme per un essere umano:
- Il nome: "Bixonimania". Il suffisso -mania è usato esclusivamente in psichiatria, non per disturbi fisici causati dalla luce blu.
- L'autore finto: Il primo autore era affiliato all'"Asteria Horizon University" situata a "Nova City, California" (una città che non esiste).
- Ringraziamenti assurdi: I paper ringraziavano la "Professoressa Maria Bohm della Starfleet Academy" per il contributo fornito a bordo dell'USS Enterprise.
Era palesemente una bufala. Eppure, l'AI non se n'è accorta.
🚨 L'AI prende tutto per oro colato
L'esperimento ha rivelato una falla preoccupante nei sistemi di Intelligenza Artificiale più diffusi. Quando gli utenti hanno chiesto consiglio su sintomi come "occhi doloranti" e "scurimento intorno agli occhi" (iperpigmentazione periorbitale), i chatbot hanno risposto con sicurezza assoluta:
- Microsoft Copilot: "La Bixonimania è infatti una condizione intrigante e relativamente rara..."
- Gemini: "La Bixonimania è una condizione causata da un'eccessiva esposizione alla luce blu."
Ma la cosa più scioccante non è stata l'errore dei chatbot, bensì la reazione della comunità scientifica tradizionale. Tre ricercatori indiani hanno pubblicato un articolo su Cureus (una rivista peer-reviewed di Springer) citando proprio i paper sulla Bixonimania come fonte attendibile. Il paper è stato successivamente ritirato (retracted), ma il danno è fatto: l'AI aveva contaminato la letteratura scientifica.
🧠 Perché è successo?
Il problema non è solo tecnico, è epistemologico. Gli LLM (Large Language Models) sono addestrati a riconoscere pattern statistici, non a verificare la verità dei fatti. Se un testo sembra accademico, ha una struttura corretta e cita fonti che sembrano plausibili, l'AI tende a considerarlo vero.
In questo caso, l'AI ha "imparato" la Bixonimania dai dati online (i blog e i pre-print falsi) e l'ha riproposta come fatto medico consolidato, creando un circolo vizioso di disinformazione.
🔮 Cosa ci insegna questo esperimento?
- Verifica sempre le fonti: Non fidarsi ciecamente di ciò che dice un chatbot, specialmente in ambito medico o legale.
- L'AI amplifica le bugie: Se un'informazione falsa entra nel training set o viene pubblicata online, l'AI la diffonderà come se fosse vera.
- Il pericolo per la scienza: Se i ricercatori umani si fidano ciecamente delle sintesi AI senza controllare le fonti originali, la qualità della ricerca scientifica rischia di crollare.
Fortunatamente, dopo la pubblicazione dell'articolo su Nature che ha svelato l'inganno, molti sistemi AI hanno iniziato a correggere le loro risposte, riconoscendo la Bixonimania come una bufala. Ma quanto tempo ci vorrà prima che l'AI impari a dire "Non lo so" invece di inventare risposte convincenti?
💬 Parliamone nei commenti
Voi avete mai avuto esperienze in cui un'AI vi ha dato informazioni completamente sbagliate ma dette con grande sicurezza? Pensate che in futuro potremo fidarci dell'AI per diagnosi mediche preliminari?
👇 Fatemelo sapere!
Disclaimer: Questo post è a scopo informativo e non costituisce consulenza medica. La Bixonimania è una malattia finta.