FBIs ansiktsgjenkjenningsteknologier respekterer dine personvern og rettigheter

Hvem er vakthundens vakthund? Regjeringens ansvarskontor, som tittelen antyder. GAOs nylige rapport om regjeringens bruk av ansiktsgjenkjenningsteknologi fant veien til offentligheten onsdag. I hovedsak fikk vi oss en situasjon. En dårlig situasjon. Kort sagt: Med sine ansiktsgjenkjenningsprogrammer, bryr FBI brudd på ditt privatliv og forteller deg ikke om det. I tillegg tester FBI ikke for å sikre at disse programmene er nøyaktige og pålitelige.

FBI og biometri går langt tilbake - det kjærlige forholdet begynte med fingeravtrykkdatabaser. Men det går mye lenger enn det nå. "Biometrics", til FBI og i henhold til GAO, betyr "den automatiske anerkjennelsen av individer basert på deres biologiske og atferdsmessige egenskaper." I 2011 rullet FBI ut av piloten i sitt NGI-system (Next Generation Identification); fire år senere, i april 2015, var det fullt operativt.

NGI bruker delvis Interstate Photo System (IPS) for disse såkalte biometriene. Denne databasen - i tillegg til eksterne databaser fra private selskaper - gir myndigheter tilgang til over 411 million ansiktsbilder (den nåværende amerikanske befolkningen er bare 319 millioner). Justisdepartementet hevder at de fleste av disse bildene er fra krusslag - "Over 80 prosent av bildene i NGI-IPS er kriminelle" - men de samler også med mange stater om å få tilgang til førerkort og passfotografier. GAO sier at øyeblikket a mistenkt er "bestilt for en forbrytelse", er han eller hun i bøkene, det vil si i NGI-IPS.

Det som ikke er helt klart fra rapporten, er hvor mye FBI diddles med dine sosiale medier. FBI hevder at det ikke inkluderer dem i NGI-IPS, men det bruker dem:

"… bilder tatt fra sikkerhetskameraer eller sosiale medier bilder er ikke registrert i NGI-IPS … Ifølge FBI inneholder de eksterne fotodatabaser ikke privat innhentede bilder eller bilder fra sosiale medier, og FBI vedlikeholder ikke disse bildene; det søker bare mot dem."

Men det er verdt å merke seg hvor mye av en gullmine sosiale medier kan være. Datamaskinens bildeapp har muligheten til å gjenkjenne deg og dine venner. Facebook gjør det også, og det er forstyrrende å katalogisere hver person i et bilde. Hver gang du bruker en Snapchat-linse, kartlegger Snapchat ansiktets unike konturer. Og det stopper ikke der - disse teknologiene er praktisk talt overalt.

Uansett, det er ikke bare FBI som har det gøy med ansiktet ditt: tilgangen strekker seg ned til de lokale politiets avdelinger. (Det er også dette: "Forsvarsdepartementets forsvarsdepartement er brukt til å støtte krigsførere i feltet for å identifisere fiendtlige kampanter.") FBI er det eneste byrået med direkte tilgang, men alle andre kan bare be om tilgang. Når tilgangen er gitt, sender byrået et bilde til FBI og ber om et bestemt antall potensielle kamper. (Bildet kan være høyoppløselig, men å vite sikkerhetskameraer, er det sannsynligvis ikke.) Når det er, kjører NGI-IPS bildet gjennom databasen, og GAO sier at "menneskelig analyse må utføres." Et lag av "29 trente biometriske bilder spesialister i FACE Ansiktsanalyse Sammenligning Evaluering Services" gir deretter det endelige ordet. Til slutt finner det nødvendige antall potensielle kamper sin vei tilbake til byrået. Det er da opp til byrået å avgjøre om disse tilsynelatende mistenkte er faktiske mistenkte.

Slik fungerer det:

"Spesifikt, teknologien ekstrakter funksjoner fra ansiktene og setter dem i et format-ofte referert til som et ansiktsavtrykk-som kan brukes til verifisering, blant annet. Når ansiktsavtrykk er opprettet, kan teknologien bruke en ansiktsgjenkjenningsalgoritme for å sammenligne ansiktsavtrykkene mot hverandre for å produsere en enkeltpoengsverdi som representerer graden av likhet mellom de to ansikter."

Avhengig av din kjennskap til science fiction, kan det eller ikke virke som et pålitelig, pålitelig system. Det er ikke. Her er en seksjon overskrift i GAOs rapport:

"FBI har begrenset informasjon om nøyaktigheten av sine ansiktsgjenkjenningsteknologier."

Alt FBI vet er det når det gjorde teste programmets nøyaktighetsrate på 50 potensielle kamper - som det gjorde, unnervingly, med en testdatabase, og ikke den virkelige databasen - det var 86 prosent nøyaktig. FBI har "ikke vurdert nøyaktigheten av ansiktsgjenkjenningssøk av NGI-IPS i operativ innstilling - innstillingen der innmeldte bilder, i stedet for en testdatabase med bilder, brukes til å søke etter undersøkende potensielle kunder." Det gjør det heller ikke ta vare på hvor nøyaktige de ansattes private selskapers ansiktsgjenkjenningssystemer er: det er ingen revisjoner.

Åtti seks prosent nøyaktig. Med andre ord: omtrent fire av fem stjerner. Hvis din lokale sushi-restaurant hadde fire av fem stjerner, kan du vurdere å bestille takeaway. Men akkurat som et lite antall vurderinger kan skje en restaurants vurdering, så også en høy Antall potensielle kamper kan skje NGI-IPS nøyaktighet. Femti potensielle kamper er det maksimale byråer kan be om; systemet kan spytte ut så få som to. GAO sier at jo mindre listen, jo mindre nøyaktig systemet.

Det er også hele pesky false positive ting. "FBI-tjenestemenn uttalte at de ikke har vurdert hvor ofte NGI-IPS ansiktsgjenkjenningssøk stemmer feilaktig til en person i databasen (den falske positive frekvensen)." Falske positiver er - forkjenne mitt språk - seriøse opprør, fordi de "kan endre den tradisjonelle formodningen om uskyld i straffesaker ved å legge mer av byrden på saksøkte for å vise at han ikke er den som systemet identifiserer ham å være. "Systemet kan bryte ned i hver ende av ligningen: Hvis bildet er dårlig kvalitet, suksessfrekvensen plummet; hvis programvaren er dårlig kvalitet, faller suksessraten. Lav suksessrate betyr mange falske positiver.

GAO, etter å ha fullført sin rapport, ga amerikanske advokatfirmaet Loretta Lynch og FBI-direktøren James Comey seks anbefalinger. Kjernen: Justisdepartementet har et problem med opasitet. Publikum kan vite at personvernet brytes, men offentligheten vet ikke spesifikt hvordan dets personvern blir brutt. Også, Justisdepartementet må rette opp mangelen på tilsyn for å sikre at det er minimal personvern oversteps. Endelig må Justisdepartementet sørge for at disse programmene er pålitelige, om enn retroaktivt.

Justisdepartementet enige i sin helhet med en anbefaling. Det "delvis avtalt" med to, men avviste de resterende tre - to av dem forsøkte å etablere nøyaktighetsretningslinjer.