Elon Musk sier DARPA A.I. Hacking Challenge vil lede til Skynet

Forsvarsforskningsprosjektet Agency har nylig annonsert Cyber ​​Grand Challenge, en sju lag, $ 3,75 millioner-premiebassenghacking-turnering som avsluttes i Las Vegas i august. DARPAs uttalte mål er å finne nye strategier for å motvirke cyberwarfare, men Elon Musk kjøper ikke den. Faktisk tror han Cyber ​​Grand Challenge kanskje bare forlater oss med noe som Skynet, den fiendtlige A.I. som rutinemessig forsøker å ødelegge menneskeheten i Terminator franchise. Musk tweeted en ikke-så-veiled advarsel torsdag morgen - og det er ikke første gang han har gått på platen som å være redd for en ondsinnet supercomputer.

På papir ønsker DARPA å bygge en automatisert kunstig intelligens som er i stand til å oppdage og løse feil i et datasikkerhetssystem. I hovedsak ønsker de å opprette en ikke-overvåket, autonom A.I. hacker ekstraordinaire som vil oppdage system sårbarheter og lapp dem selv. Som det står i dag, selvfølgelig, mennesker utføre de ofte takknemlige pliktene til cybersecurity. Ekspert hackere er dygtige til å finne og fikse susceptibilities, men da cyberwarfare blir mer utbredt, kan deres etterspørsel etter deres ferdigheter overgå tilbudet. Prosessen med å fikse en feil, skriver DARPA, "kan ta over et år fra første deteksjon til distribusjon av en løsning, hvorefter kritiske systemer kan ha blitt brutt."

Og etterspørselen etter raske løsninger til stadigvoksende sikkerhetsproblemer fortsetter å øke etter hvert som stadig flere enheter kommuniserer informasjon over internett. DARPA argumenterer for at en cybersikkerhet A.I. systemet ville være "den første generasjonen av maskiner som kan oppdage, bevise og fikse programvarefeil i sanntid uten hjelp," noe som gjør hele verden tryggere.

Eller, det kan også føre til systematisk ødeleggelse av menneskeheten på maskinens kaldt metallhender.

@TheHackersNews @defcon Det er alt moro og spill til …

- Elon Musk (@elonmusk) 14. juli 2016

Muskets tweet kan virke som om det er jest, men han har en lang oversikt over å være vakthund mot farene ved superkraftig kunstig intelligens. Han signerte et åpent brev advarsel om A.I. og har kalt teknologien vår "største eksistensielle trussel."

Musk vet at denne DARPA utfordringen sannsynligvis Skynet vil ikke gyte, men det virker viktig for ham at folk vurderer muligheten for ondskapsfull kunstig intelligens. Når vi som et samfunn frigjør et slikt dyr, sier doomsayers, det vil ikke være noe å holde det tilbake.