Musk, Wozniak, Hawking, andre genier er motsatte selvstyrte våpen

I flere tiår har AK-47 vært valgfri drapsmaskin i mange støvete hjørner av verden fordi den er billig, holdbar og allestedsnærværende. De samme faktorene, hevder at signatører av et åpent brev utgitt mandag fra Future of Life Institute, er årsaken til at autonome våpen er fulle av fare. Men det som skiller kunstig intelligensvåpen fra Kalashnikov er at den autonome maskinen kan "velge og engasjere mål uten menneskelig innblanding" - som i feil hender kunne utføre grusomheter som er langt større enn noe avkalkende rifle.

Undertegnene har deres arbeid kuttet ut for dem. Som mennesker er vi som helhet mye bedre til å reagere enn å tenke. Store spillere har vært sakte for å senke våre atomvåpen (og bygge autonome droner, tenkningen går, vil kreve en brøkdel av maskineri som går inn i å skape en nukle). andre steder, landminer fortsatt dot tiår gamle slagmarker. Når en teknologi sto for å revolusjonere krigføring - det være seg kryp eller naval dreadnoughts eller beriket uran - det har nesten aldri ikke vært et våpenløp.

FLI skiller mellom dronene vi har nå, pilotert eksternt av menneskelige hender, og en robot slått på og dro til sine egne mordiske enheter. Opprettelsen av sistnevnte ville gi et globalt AI-våpenløp som FLI hevder, og som Kalashnikovs historie demonstrerer, ville ikke ende vel:

Det vil bare være et spørsmål om tid til de vises på det svarte markedet og i hendene på terrorister, diktatorer som ønsker å bedre kontrollere deres befolkning, krigsherrer som ønsker å begå etnisk rensing, etc. Autonome våpen er ideelle for oppgaver som mord, destabiliserende nasjoner, undertrykke befolkninger og selektivt drepe en bestemt etnisk gruppe. Vi mener derfor at et militært AI-våpenløp ikke ville være gunstig for menneskeheten. Det er mange måter som AI kan gjøre slagmarker sikrere for mennesker, spesielt sivile, uten å skape nye verktøy for å drepe folk.

Dette er litt tøff. Og navnene bak denne advarselen er ikke din Skynet crackpots - de er skapere, ingeniører, forskere og filosofer som har bidratt til å forme hva vår teknologi ser ut til i dag. En del av navnene er: Apples Steve Wozniak, Skype Jaan Tallinn, Harvard-fysikeren Lisa Randall, en som er som av AI-forskere og robotister - inkludert Stuart Russell, Barbara J. Grosz, Tom Mitchell, Eric Horvitz - skuespillerinne Talulah Riley, Noam Chomsky, Stephen Hawking.

Hawking har litt på en pessimistisk bøyning i det siste, og påpeker også sine spådommer om farene ved å møte utenomjordisk liv. Han vil også svare på spørsmål om dette brevet og fremtiden for teknologi på Reddit denne uken - vi kan ikke være i stand til å kontrollere fiendtlige romvesener, men vi kan sette "onus på forskere i forkant av denne teknologien for å holde den menneskelige faktoren foran og sentrum av deres innovasjoner."

Du kan også legge til navnet ditt i brevet.