Elon Musk sier selv godartet A.I. Kunne ha en dårlig utfall

Dan Carlin: Hardcore History | Lex Fridman Podcast #136

Dan Carlin: Hardcore History | Lex Fridman Podcast #136
Anonim

Elon Musk har en godt dokumentert frykt for ond kunstig intelligens, så det er ingen overraskelse filmskaperen Werner Herzog søkte ham ut for Lo og Se: Reveries of the Connected World.

Men i Herzogs dokumentar er Musks frykt ikke alle mektige, Terminator -stil A.I. roboter. I stedet er tech mogul bekymret for A.I. det gjør alt som trengs for å utføre sin oppgave.

"Den største risikoen er ikke at A.I. vil utvikle egen vilje, sier Musk i et kort klipp av den nye filmen hentet av Formue. "Men snarere vil det følge viljen til sin bruksfunksjon eller optimaliseringsfunksjon."

Herzog, mannen som laget Grizzly Man, er mer tilpasset naturen enn fremtidige teknologier. Dømmer fra tidlige trailere og vurderinger fra dokumentarens premiere på Sundance Movie Festival i januar, hele dokumentarfilmen har litt av en Luddite tilt.

Det er fornuftig at Herzog ville nå ut til Musk for en dypere forståelse av hvordan verden vil bli som i fremtiden. Musk er trods alt mannen som forbereder verdens autonome elektriske kjøretøyer, romferie og Reddit-læring A.I. I tilfelle av A.I, ser Musk en trussel rundt hver linje av kode.

"Hvis det ikke er godt gjennomtenkt, selv om hensikten er godartet, sier Musk," det kan ha et ganske dårlig resultat."

Ta A.I. som forvalter et hedgefond eller private equity fond, foreslår Musk. AIs eneste oppgave er å maksimere fondets portefølje. Høres enkelt og uskyldig nok. Men si, A.I. innser den beste måten å lage en Michael Burry / Den store korte mengde penger er til korte forbrukerbeholdninger, gå lenge på forsvarslagre, og finne ut en måte å starte en krig (antagelig gjennom sine A.I. venner i Forsvarsdepartementet)?

Det er ikke at der ute av en ide. Det er litt av en glatt skråning, men ikke ufattelig. Selvfølgelig vil det ikke skje hvis mennesker bare tar Musks råd og bruker nevrale blonder til å integrere sømløst med A.I.

Lo og Se vil være i utvalgte teatre og tilgjengelig på Amazon, Google Play og iTunes 19. august.