AI ei suuda tuvastada trans- ja mittebinaarseid inimesi

Rain Dove joob baaris ja peab vannituppa minema. Juurdepääsukoridorist alla kõndides skannib kaamera nägu, et tualeti uks lahti teha vastavalt tema soole. Millise ukse Rain Dove nägu lahti võtaks? Ilmselt see, mis asub meestetoas.

USA-s Boulderis asuvas Colorado ülikooli uuringus leiti, et peamine tehisintellektil põhinev näotuvastustarkvara ei suuda tuvastada trans- ja mittebinaarseid inimesi.

Kui 98% juhtudest klassifitseeriti õigesti mehed ja naised täpselt, siis umbes 30% ajast klassifitseeriti valesti transseksuaalid (kes ei samastu oma sooga). Kahekomponentsete failide puhul (kes ei identifitseeri end mehe ega naisena) tegi masin kõik katsed valesti.

Rain Dove on kõige kuulsam mittebinaarne Ameerika moemudel. (Allikas: Instagram / Rain Dove)

Uuringu läbiviimiseks koguti Instagramis 2450 fotot nägu koos hashtagidega #woman, #man, #transwoman, #transman, #agenderqueer ja #nonbinary. Pärast grupeeritud või poolt varjatud nägude kustutamist jagati ülejäänud osa 350-pildiliseks rühmaks, mida kasutati näotuvastustarkvara Rekognition (Amazon), Watson (IBM), Azure (Microsoft) ja Clarifai testimiseks.

Tehisintellekt kordab eelarvamusi

Teadlaste arvates kasutavad algoritmid aegunud stereotüüpe, mis tõstab veamäära veelgi. Näide tuli meeskonnast enesest: üks teadlastest, kellel on pikad juuksed, liigitati tarkvara järgi naiseks.

Ja mitte ainult ei mõisteta soolist valesti: jaanuaris avaldatud MIT Media Labi uuring näitab, et Rekognition tuvastas mustanahalisi naisi meestena 30% vallandamise ajast. Ehkki sellised vead on parandamata, ilmnevad eelarvamused kõige ebaharilikumates kohtades: 2015. aastal tähistas Google Photos tehisintellekti kasutades gorillapiltidena musta kasutaja selfisid.

AI ei suuda TecMundo kaudu tuvastada trans- ja mittebinaarseid inimesi