AI kan ikke identificere trans- og ikke-binære mennesker
Rain Dove drikker i en bar og er nødt til at gå på badeværelset. Når hun går ned ad adgangskorridoren, skanner et kamera hendes ansigt for at låse op toiletdøren efter hendes køn. Hvilken dør ville Rain Doves ansigt låse op? Sandsynligvis den i mænds værelse.
Undersøgelser fra University of Colorado i Boulder, USA, fandt, at større kunstig intelligens-baseret ansigtsgenkendelsessoftware ikke kan identificere trans- og ikke-binære mennesker.
Mens cisgender-mænd og -kvinder blev klassificeret nøjagtigt i 98% af tilfældene, blev transpersoner (som ikke identificerer sig med deres fødselskøn) fejlagtigt klassificeret omkring 30% af tiden. I tilfælde af ikke-binære filer (som ikke identificerer sig som mand eller kvinde) gjorde maskinen alle forsøg forkert.
For at gennemføre undersøgelsen blev 2.450 fotos af ansigter på Instagram samlet med hashtags #woman, #man, #transwoman, #transman, #agenderqueer og #nonbinary. Efter at de grupperede eller halvt skjulte ansigter var slettet, blev resten opdelt i grupper på 350 billeder, der blev brugt til at teste ansigtsgenkendelsessoftware Rekognition (Amazon), Watson (IBM), Azure (Microsoft) og Clarifai.
Kunstig intelligens gentager fordomme
Forskere mener, at algoritmerne bruger forældede stereotyper, hvilket yderligere øger fejlprocenten. Et eksempel kom fra teamet selv: En af forskerne, der har langt hår, blev klassificeret som kvindelig af halvdelen af softwaren.
Der er ikke kun misforstået kønsaspektet: En MIT Media Lab-undersøgelse, der blev frigivet i januar, indikerer, at Rekognition identificerede sorte kvinder som mænd 30% af den tid, det fyrede af. Selvom mangler som disse ikke er korrigerede, forekommer fordommer de mest usædvanlige steder: i 2015 markerede Google Fotos ved hjælp af kunstig intelligens sorte bruger-selfies som gorillabilleder.
AI kan ikke identificere trans- og ikke-binære mennesker via TecMundo
