Apple iPhone X kan ikke fortelle Apart Chinese Faces, Refund Gitt

I forrige uke, i en storby i Nanjing, en storby i øst Kina, ble en kvinne ved navn Yan gitt to ganger tilbakebetalt fra Apple for sin feilaktige iPhoneX, som hennes kollega låste opp ved hjelp av ansiktsgjenkjenningsteknologi. Begge kvinner er etnisk kinesisk.

Yan fortalte lokale nyheter at den første gangen dette skjedde, ringte hun iPhone-hotline, men de trodde henne ikke. Det var ikke før hun og hennes kollega gikk til en lokal Apple-butikk og viste butikkens ansatte at de tilbød henne en tilbakebetaling, og hun kjøpte en ny telefon, og tenkte kanskje at et feil kamera skulle skylden.

Men den andre telefonen hadde det samme problemet, noe som tyder på at det ikke var et feil kamera, som butikkens arbeidere foreslo, men et problem med selve programvaren.

Dette ville ikke være det første tilfellet der ansiktsgjenkjennelsesprogramvare, og AI bak den, har hatt problemer med å gjenkjenne ikke-hvite ansikter.

I 2015 merket Google Photos ved et uhell et bilde av to afroamerikanere som gorillaer, mens i 2009 HP-datamaskiner http://www.youtube.com/watch?v=t4DT3tQqgRM) hadde problemer med å gjenkjenne og spore svarte ansikter - men ikke noe problem med hvite ansikter. Samme år ble Nikons kamera programvare fanget mislabeling et asiatisk ansikt som blinker.

Google Fotoer, du er helvete. Min venn er ikke en gorilla. pic.twitter.com/SMkMCsNVX4

- Jacky (@jackyalcine) 29. juni 2015

"Dette er fundamentalt et dataproblem," skrev Kate Crawford, en hovedforsker ved Microsoft og medformann for Obama White House Symposium on Society og A.I. "Algoritmer lærer seg ved å bli matet visse bilder, ofte valgt av ingeniører, og systemet bygger en modell av verden basert på disse bildene. Hvis et system er trent på bilder av mennesker som er overveldende hvite, vil det få en vanskeligere tid å anerkjenne ikke-hvite ansikter."

Jacky Alcine, Brooklyn-baserte programmør, hvis bilde var mislabeled av Google, ble enige om. Av hans erfaring sa han: "Dette kunne vært unngått med nøyaktig og mer fullstendig klassifisering av svarte mennesker."

Men rasismen som er kodet til AI, selv om den er utilsiktet, har implikasjoner utover bare ansiktsgjenkjenning.

En ProPublica-undersøkelse i 2016 viste at svarte kriminelle var dobbelt så sannsynlig å være feilaktig flagget som sannsynlig å tilbakestille forbrytelser enn hvite forbrytere, mens den voksende trenden med "prediktiv politisering" bruker algoritmer til å prognose kriminalitet og direkte politi ressurser tilsvarende.

Likevel har minoritetssamfunn blitt historisk overvåket, noe som fører til at "denne programvaren risikerer å fortsette en allerede ond syklus," sier Crawford.

Tilbake i Nanjing, Kina, mottok Yan en andre tilbakebetaling på hennes andre iPhoneX. Fra lokale nyhetsrapporter er det uklart om hun så kjøpte en tredjedel.

Det som var på spill, denne gangen, kan ha vært en eneste forbruker. Men Yan saken var et eksempel på det fortsatte behovet for teknologibransjen å designe med mangfold og inklusivitet i tankene.