Vår A.I. Politikken er fast i fortiden

Ed Felten, nestleder i USAs sjefsteknologsjef for Hvite husets kontor for vitenskap og teknologi, sier at mennesker har to hovedansvar når det gjelder utvikling og fremdrift av kunstig intelligens.

Den første, sier han, er "å gjøre fordelene med A.I. en realitet. "Den andre:" for å takle risikoen for A.I."

Felten snakket til et stort folk på New York Universitys Skirball Center for Performing Arts på A.I. Nå - en sommerforedragsserie med medsponsor fra Det hvite hus som forsøkte å undersøke og diskutere viktige spørsmål knyttet til fremtiden for A.I. teknologi.

A.I. er ved et veikryss, A.I. Nå påpekte Kate Crawford (forsker ved Microsoft Research) og Meredith Whittaker (grunnleggeren og lederen for Google Open Research). Privat og offentlig sektor må samarbeide for å skape en form for gjennomførbar A.I. Politikk. Men problemet er at mens teknologibedrifter gjør store fremskritt mot å fremme den faktiske koden og arkitekturen som går inn i å lage A.I. En allmektig kraft, våre nåværende politiske strukturer er utdaterte eller verre, ikke-eksisterende.

Altfor lenge, A.I. har blitt kastet til side som et futuristisk konsept, uanvendelig for den moderne tidsalderen. Men A.I. har tydeligvis manifestert seg i bypolitikk, siktet gjennom masse data og leverer tjenester til mennesker på en måte som bare menneskelig kraft er ute av stand til å oppnå. Felten sa eksempler på hvordan algoritmer kan bruke data for å knytte folk til rimelige boliger, eller håndheve åpenhet slik at publikum har tilgang til verdifull informasjon.

Det er ikke å si at A.I. er perfekt; det er veldig mye ikke. Under hovedpanelet for kvelden, Latanya Sweeney, en A.I. forsker ved Harvard University, diskutert en historie hun ringte, "The Day My Computer Was Racist."

En reporter som intervjuet Sweeney, søkte hennes navn gjennom Google og oppdaget at navnet hennes var popping opp under annonser for nettsteder som tilbyr å samle inn og dele kriminelle arrestordata. Sweeney hadde aldri blitt arrestert, og hennes navn var ikke engang en del av nettsidens database - men hennes navn ble sprengt fremtredende i annonsen. Som alle gode forskere tok Sweeney sin egen personlige erfaring og løp en studie og fant at disse annonsene var betydelig mer sannsynlig å liste navnene på svarte personer enn hvite personer. Grunnen? Googles levering av disse annonsene er resultatet av en algoritme som gir mer vekt på hva mennesker klikket på da annonser dukket opp. Når et svart navn var Googled, klikkte flere personer på disse annonsene. Systemet lærte mønsteret og begynte å levere disse annonsene i større frekvens.

Det er en verdifull leksjon å forankre løftet om A.I.: Mennesker er i siste instans energiteknologi, og rasistiske handlinger fra mennesker kan påvirke design og algoritmer og, ja, selv A.I.

Google kan lett oppdage disse forstyrrelsene i annonsetjenestene sine og jobbe for å rette opp dem. "De valgte ikke å," sa Sweeney.

Kan en mer moderne politikk ramme tvang Google for å rette opp dette problemet? Kanskje. Nicole Wong, som var Felts forgjenger fra 2013 til 2014, understreket at mange mennesker - inkludert A.I. forskerne selv - hadde en reell bekymring for en "voksende asymmetri i makt" mellom de som bruker store data og de som i siste instans påvirkes, som varierte fra dataene, eller de som er berørt av de vedtakene som er informert av slike data.

Disse bekymringene er ikke bare begrenset til privat sektor. Roy Austin, assisterende assistent til presidenten ved Det hvite huss interne rådsråd, berørte hvordan håndhevelsen kunne bli sterkt forbedret av A.I. - eller skape en massiv overreagring i makt og misbruk når det gjelder personvernet til sivile. "Spørsmålet blir," Hva gjør vi med disse dataene? ", Sa han. Det er en ting å ha data, men hvem har tilgang til det? Hvor lenge? Hvem vil få tilgang til det? Igjen har vi ikke politiske svar eller løsninger på disse spørsmålene og usikkerhetene - og det er urolig da vi tønner mot en fremtid mer og mer kontrollert av A.I.

En tredje søyle av bekymring hadde mindre å gjøre med falske bruksområder av A.I., og mer å gjøre med hvordan A.I. og autonome systemer forflytter mennesker fra jobber. Henry Siu, en A.I. forsker ved University of British Columbia, diskutert "rutinemessige" yrker (hvor ansatte utfører et svært spesifikt sett med oppgaver som nesten aldri avviker fra en fast rutine), og hvordan disse jobbenes tap er de mest sårbare for forstyrrelser i teknologi. Automatisering har skapt en nedslående nedtur i disse jobbene, og de kommer ikke tilbake.

Høres ut som den samme gamle historien om industrialisering, men det er ikke helt. Mens «denne revolusjonen kanskje allerede er her … det kan være mindre eksotisk enn vi hadde tenkt", advarer David Edelman, spesialassistent til presidenten for økonomisk og teknologipolitikk. Arbeidstap "vil ikke skje på en gang." Både han og Siu understreket at løsningen er å skape et pedagogisk klima der folk ikke slutter å gå på skolen, de får stadig nye ferdigheter og spesialiseringer som lar dem tilpasse seg med teknologi.

Det kan være trøstende for politikere å innse at USA ikke er alene i å takle disse problemene. Men hvis Amerika har til hensikt å fortsette å lede veien for A.I., må det gå opp i politisk arena.

Mustafa Suleyman, medstifter av Google DeepMind, diskuterte potensialet for A.I. å hjelpe helsevesenet systemer og la leger på maskinalgoritmer diagnostisere visse sykdommer og sykdommer - frigjøre tid for mennesker å komme opp med behandlingsmetoder. For Suleyman, hvem er britisk, virket det ikke som en farfetched idé om å få et system som dette satt opp på sykehus. Sweeney påpekte imidlertid at "i USA har du ikke kontroll over dine egne data" - det finnes ingen regulatoriske tiltak for å sikre at informasjon ikke misbrukes. Og det er en enorm problem.

"Jeg vil ha alt som jeg kan presse ut av enhver suksess med teknologi," sa Sweeney. "Problemet er ikke teknologisiden; problemet er at vi er ute av trit med offentlig politikk."