Microsoft Goes Precrime Med En App Som Predicts Recidivism

I en webcast med politi-avdelinger tidligere i år, la en ledende Microsoft-programmør slippe ut at selskapet var dypt inn i å utvikle en app som kan forutsi om en innsatt vil være tilbake bak stolpene seks måneder etter utgivelsen.

"Det handler om programvare som har evnen til å forutsi fremtiden," sa programmerer Jeff King.

Den ennå ikke-navngitte appen kjører ved å analysere innsatteens historie ved hjelp av - hva mer? - En komplisert algoritme, en som King sa er opptil 91 prosent nøyaktig. Noen få eksempler på faktorene King sa ville bli vurdert: gjengeledelse, deltakelse i et rehab-program, brudd mens de serverer sin tid, og timer i administrativ segregering. Det er ikke så langt, faktisk, fra de faktorer som parolestyrene vurderer når de bestemmer seg for å frigjøre innsatte.

De høres ut som rimelige prediktorer til du vurderer de innsatte som blir evaluert, kanskje ikke har mye valg i hvordan de har brukt sin fengsling. Som Økonomen notater, fengselsbengder var ikke engang til andre halvdel av det 20. århundre, da den fangerte befolkningen eksploderte og livet bak stolpene ble så farlig at man meldte seg på som en form for beskyttelse som vaktene ikke klarte å gi. Når det gjelder rehab, har de siste tiårene pengestrammede stater slått finansieringen av disse programmene med hundrevis av millioner - California i 2011 kuttet 250 millioner dollar fra rusmiddelbehandling, yrkesopplæring og utdanningsprogrammer. Det er i det minste delvis å skylde på at innsatte som har tatt et rehab-program, er mye lavere enn det var for 20 år siden. Å sette påstanden på innsatte for å bevise seg for hvordan de tilpasser seg fengselet mens de frigjør fengselet for politikk som er mer sannsynlig å øke tilbakefall, er i beste fall å fortelle halvdelen av historien.

Så er det spørsmålet om hva vi gjør med Microsofts Minoritetsrapport -verdige tall. Ville en ex-con få flere sosiale tjenester for å holde ham fra å fornærme? Ville parolestyrene vurdere algoritmenes mening? Vil en lav score brukes til å rettferdiggjøre lengre fengselsstraff? Hva med å rettferdiggjøre obligatorisk fengsel, en politikk som historisk har gjort mye mer skade enn godt.

Da han brøt Microsofts prediktive planer på Fusion, Daniel Rivero skrev at kongens tale hadde "nesten gått ubemerket", med rundt 100 visninger av YouTube-talen. (Godt øye, Daniel.) Kanskje det har gått under radaren fordi det bare ikke er så overraskende lenger. Kriminalitetsprediksjonsalgoritmer, og argumenter over deres nyanser og moralske implikasjoner, blir stadig mer vanlige. Japansk firma Hitachi har et halvt dusin amerikanske byer involvert i en proof of concept-test for et system som selskapet sier kan bidra til å forutsi forbrytelser ved å knuse tallene på historisk kriminalstatistikk, kollektivtransportkart, værmeldinger og til og med sosiale medier. På den lavere teknologiske enden opererer Chicago en "varmeliste" for potensielle lovbrytere som får tilfeldige politibesøk uavhengig av hva de har gjort. Og Los Angeles vurderer en automatisert leser å skanne nummerplaten til en hvilken som helst bil som bare kjører nær et område som besøkes av prostituerte og sender et "Kjære John" brev til navnet på kjøretøyregistreringen. Mer og mer, den beste prediksjonen vi kan gi deg er at fremtiden din skal bli sett og evaluert av en forferdelig masse fremmed intelligens. Men hei, i det minste har du et hoverboard.