Pentagonen er bekymret for Killer Robots fra Kina og Russland

Kan vi sikre vår nasjonale sikkerhet uten å forfølge morderobotsteknologi? Pentagon tror ikke det.

Slik var diskusjonen på mandagets Nasjonalt Sikkerhetsforum ved Senter for New American Security, en D.C.-tanketank med spesialisering i militære problemer. Varselssekretær Robert Work var på plass for å si at menneskeheten sto på "et bøyningspunkt" med kunstig intelligens, og at fremtidens slagmark vil bli dominert av autonome mekaniske krigere. Arbeidet har snakket om det store teknologiske skiftet som skjer under militærens føtter for en stund nå. Han er ikke hakk ord.

"Vi vet at Kina allerede investerer tungt i robotteknologi og autonomi, og den russiske generalsekretæren Valery Vasilevich Gerasimov sa nylig at det russiske militæret forbereder seg til å kjempe på en roboticisert slagmark, og han sa, og jeg citerer:" I nær fremtid, er det mulig at en komplett robotisert enhet vil bli opprettet som er i stand til uavhengig å gjennomføre militære operasjoner, "sa Arbeid til den stadig mer nervøse publikum. Denne informasjonen gjorde lite for å frykte frykt: Selskapet bak Russlands nye Armata T-14-tank har lovet å rulle ut en hær av kamprobot prototyper de neste to årene.

Arbeidsforutsete autoritære regimer ville naturligvis svekke seg mot autonome design fordi de filosofisk ser folk med selvstendig tankegang som svake lenker. Logikken er der, men tanken er forferdelig, spesielt i løpet av et halvt århundre av borgerkriger kjempet med russisk-laget AK-47-er.

Dette er ikke å si at Amerika ikke er interessert i å styrke sine egne våpen med AI. Pentagon-tjenestemenn har allerede spådd flere jobber som sannsynligvis vil være bedre egnet til robot beslutningstakere i nær fremtid, fra cyberkrig og over horisonten målrettede slag hvor en menneskelig intelligens ville være for sakte til å reagere effektivt, for å fortelle F-35 piloter hva de skal målrette og bistå med flyging og landing, programmering av droner og båter.

Til tross for sine demokratiske idealer, kommer USAs autonome våpenforskning med sitt eget sett av foruroligende etiske forgreninger som førte til at Elon Musk og Stephen Hawking ringte for et "killer robot" -forbud i sommer. Spørsmålet er enormt. For eksempel: Hvis et autonomt våpen mottok en ulovlig ordre, ville den bli programmert med etikken til å avvise det? Det er den slags ting man må mølle før man selger en lastet bot.

Kunne maskiner selv begå krigsforbrytelser? Det er en annen.

Arbeidet viste virkelig omtanke på møtet, men ga heller ingen innsikt i om hans utenlandske kolleger hadde en lignende moralistisk tilnærming.