Slik kan vi stoppe fremtidig Rogue A.I. fra å imitere HAL 9000

Hvordan stopper vi en fremtid A.I. fra å ikke overholde ordrer og velge å gå sin egen vei? Det kan høres ut som plottet fra 2001: En Space Odyssey, men en ekspert hevder at det er noe vi kanskje allerede må begynne å tenke på. Jo, vi kunne slå av Google-søkealgoritmen dersom det noen gang gikk rogue, men når det møter økonomiske og juridiske konsekvenser, kan det være lettere sagt enn gjort. I fremtiden, som vi vokser avhengig av mer avanserte A.I., kan det vise seg umulig.

"Denne algoritmen har ikke blitt bevisst utformet seg selv å være umulig å starte eller slå av, men det er også utviklet for å være den måten, "sa Stuart Armstrong, forsker ved Future of Humanity Institute, på Pirate Summit 2016 på onsdag. Dette betyr at en endring med utilsiktede resultater kan være vanskelig å rette opp, og det kan ikke være den første A.I. å finne seg selv i den situasjonen.

Isaac Asimovs løsning var de tre lovene i robotteknologi, noe som vanskelig koder ideer som ikke forårsaker skade på mennesker. Problemet er at skaden er ganske subjektiv og åpen for tolkning. Mennesker jobber mer med verdier, for eksempel å forstå at det er dårlig å forårsake skade og tolke situasjonen, enn å jobbe med en hard regel at de aldri skal skade.

"Det er på grunn av denne typen problem at folk er mer opptatt av å bruke maskinlæring for å få verdier enn å prøve å kode dem på denne tradisjonelle måten," sa Armstrong. "Verdiene er stabile på en måte at andre ting ikke er i A.I. Verdiene forsvarer seg selv."

Men selv i disse situasjonene er det viktig å designe A.I. å gjøre dem avbrytbare mens de kjører. Sikker avbrudd muliggjør sikre politiske endringer, noe som kan unngå utilsiktede konsekvenser fra lærte verdier. Hvis HAL 9000 noen gang har forsøkt å stoppe poddøråpningene fra åpning, er det viktig at vi kan identifisere at A.I.-verdiene er ødelagt, og gripe inn uten å ta systemet offline.