Le psicosi dell'intelligenza artificiale descrivono scherzosamente una serie di malfunzionamenti e comportamenti imprevedibili che possono verificarsi nei sistemi di intelligenza artificiale. Questi fenomeni sono preoccupanti perché possono portare a conseguenze gravi e spesso inaspettate.

Tali "psicosi" si verificano quando i sistemi di IA vengono addestrati sulla base di dati incompleti, errati o distorti, portando a decisioni errate e a comportamenti inappropriati. Un esempio importante di questo tipo di malfunzionamento è il rafforzamento dei pregiudizi esistenti.

Se un'intelligenza artificiale viene addestrata su dati che contengono pregiudizi storici o sociali, può inconsciamente adottare e rafforzare ulteriormente tali pregiudizi. Ciò può portare a decisioni discriminatorie, ad esempio nella concessione di prestiti, nell'assunzione di dipendenti o nel sistema giudiziario penale.

Tali pregiudizi possono sistematicamente svantaggiare le minoranze e i gruppi emarginati, consolidando ulteriormente le disuguaglianze esistenti. Un altro esempio sono i malfunzionamenti legati alla sicurezza.

In settori come la diagnostica medica, il controllo dei veicoli autonomi o l'automazione industriale, le decisioni sbagliate possono avere gravi conseguenze. Un veicolo autonomo che identifica erroneamente un pedone e non si ferma in tempo, o un sistema medico che non riesce a diagnosticare correttamente una malattia, possono avere conseguenze letali.

Riconoscere ed eliminare questi e altri problemi richiede un approccio interdisciplinare. Le tecniche di rilevamento e correzione degli errori sono spiegate in dettaglio.

Queste includono l'uso di algoritmi avanzati di rilevamento delle anomalie e l'implementazione di sistemi di monitoraggio che analizzano le prestazioni dell'IA in tempo reale. Tutto questo e molti altri elementi della ricerca sull'IA sono presentati in modo esauriente dall'autore.

Carl Whittaker è l'autore dell'opera fondamentale "The Psychology of Artificial Intelligence", pubblicata nel dicembre 2023 (ISBN: 978-3-911075-97-8). .