Psykoserna inom artificiell intelligens beskriver på ett lekfullt sätt en rad funktionsstörningar och oförutsägbara beteenden som kan uppstå i AI-system. Dessa fenomen är oroande eftersom de kan leda till allvarliga och ofta oväntade konsekvenser.

Sådana "psykoser" uppstår när AI-system tränas baserat på ofullständiga, felaktiga eller partiska data, vilket leder till felaktiga beslut och olämpliga beteenden. Ett framträdande exempel på en sådan felfunktion är förstärkning av befintliga fördomar.

Om en AI tränas på data som innehåller historiska eller sociala fördomar kan den omedvetet anta och ytterligare förstärka dessa fördomar. Detta kan leda till diskriminerande beslut, t.

ex. vid beviljande av lån, anställning av personal eller i det straffrättsliga systemet.

Sådana fördomar kan systematiskt missgynna minoriteter och marginaliserade grupper och ytterligare cementera befintliga ojämlikheter. Ett annat exempel är säkerhetskritiska funktionsfel.

Inom områden som medicinsk diagnostik, styrning av självkörande fordon eller industriell automation kan felaktiga beslut få allvarliga konsekvenser. Ett autonomt fordon som felidentifierar en fotgängare och inte stannar i tid, eller ett medicinskt system som inte lyckas diagnostisera en sjukdom korrekt, kan få livshotande konsekvenser.

För att identifiera och eliminera dessa och andra problem krävs ett tvärvetenskapligt angreppssätt. Tekniker för feldetektering och felkorrigering förklaras i detalj.

Detta inkluderar användning av avancerade algoritmer för anomalidetektering och implementering av övervakningssystem som analyserar AI:ns prestanda i realtid. Allt detta och många andra delar av AI-forskningen presenteras utförligt av författaren.

Carl Whittaker är författare till grundverket "The Psychology of Artificial Intelligence", som publicerades i december 2023 (ISBN: 978-3-911075-99-2). .