Hvordan UC Berkeleys nye senter kunne forhindre en A.I. verdens undergang

University of California Berkeley har nettopp lagt sitt navn til en voksende liste over anerkjente institusjoner som arbeider for å forhindre ondskapsfull kunstig intelligens fra å ødelegge menneskeheten. Det nye senteret for menneskelig kompatibel kunstig intelligens, annonsert mandag, er ment å sikre at A.I. forblir gunstig, og også for å forhindre en A.I. verdens undergang.

Berkeleys egen A.I. ekspert, professor stuart russell, leder venture. Det åpne filantropi-prosjektet ga et beløp på 5,5 millioner dollar til senteret, og andre fliset også. Flere andre eksperter fra Berkeley, Cornell University, og University of Michigan vil tjene som medforskere.

Cornell professor Bart Selman fortalte Omvendt om senteret, A.I.s at vi bør frykt, og hvorfor verden sannsynligvis ikke er på vei til helvete i en håndkiste - enda.

Hva håper du å oppnå med Center for Human-Compatible A.I.?

Disse sentrene er en relativt ny utvikling. Folk lager investeringer - Future of Life Institute, for eksempel, har en investering fra Elon Musk, fra Tesla - for å håndtere spørsmålene om livets fremtid og mulige trusler mot livets og samfunnets fremtid. Det nye senteret i Berkeley er et annet eksempel på et slikt institutt.

Det er inspirert av den skiftende rolle kunstig intelligens og databehandling i vårt samfunn. Disse teknologiene flytter inn i vårt samfunn, og vil påvirke oss. Disse institusjonene er der for å bringe forskere sammen for å studere mulige negative konsekvenser, eller hvordan man skal sørge for at det ikke er noen negative virkninger.

Senterets veldig tittel antyder at A.I. og menneskeheten er iboende uforenlig. Er det ditt syn?

Det er den første reaksjonen folk har, at disse tingene kunne være uforenlige. Vi tror faktisk at med de riktige forholdsregler, riktige retningslinjer og forskning, kan vi virkelig tilpasse interessene og sørge for at disse teknologiene er fordelaktige. A.I. teknologien har enorme positive sider, og målet for samfunnet er å sørge for at vi blir på de positive sidene. Forskerne som er involvert i instituttet mener at det er mulig.

Hvis du kunne adoptere et doomsayer perspektiv, hva ville det mest sannsynlige A.I.-induserte doomsday scenariet se ut?

En klar risiko ville være en militær utvikling av kunstig intelligens, en som kunne føre til et A.I.-våpenarmtak mellom landene: Autonome våpen, autonome droner som følger egne kommandoer, utviklet av forskjellige land som er fiendtlige mot hverandre. Det er den mest konkrete risikoen jeg ser. Jeg tror A.I. utviklet for selvkjørende biler, for eksempel - for vanlige roller i samfunnet - vil være svært gunstig. Men det militære aspektet er en bekymringsfull komponent.

Er det allerede en oppoverbakke kamp?

Land vurderer faktisk dette problemet. I en viss forstand er det et oppoverbakke kamp: Militæret skyver frem for å utvikle A.I. teknologi. Men det har vært avtaler - for eksempel er biologiske våpen trolig det mest kjente tilfellet - der landene på et tidspunkt bestemte seg for at det ville være til nytte for alle land ikke å utvikle biologiske våpen i stor skala. Vi håper at landene vil innse at ulempen, for alle, er for stor til å gå inn i en all-out A.I. våpenkappløp.

Hvis begge sider utvikler denne teknologien, er ingen foran.

Er det noe annet jeg burde vite om Senteret, eller om ondsinnet A.I. generelt?

Det er viktig å gi den positive siden. Det er lett å understreke risikoen - og selvfølgelig er det delvis grunnen til at disse sentrene er etablert - men det er også viktig å påpeke at mange forskere mener at denne risikoen er håndterbar, og at oppsidene vil være enorme.

Du har allerede gitt dommedagsperspektivet. Hva er noen potensielle positive anvendelser av A.I. at du er veldig spent på?

De positive sidene vil være et samfunn der vi bistås av denne teknologien. Samtidige taleoversettelser - for eksempel kinesisk og engelsk, for eksempel - hvor folk bare kan snakke om, som om de snakket morsmål, med hverandre rundt om i verden. Eldreomsorg: Folk kan bli så lenge de vil ha i hjemmet, fordi de har en husstandassistentrobot som hjelper dem til å leve selvstendig.

Det vil trolig ha en ganske dramatisk innvirkning på livet generelt - så langt som sysselsetting, og hva vi prioriterer.

Ja. Det er sysselsetting debatten, som er slags en egen debatt skjer. Det vil være tilstrekkelige ressurser for å støtte alle, så det er spørsmålet om hvordan vi sikrer at alle drar nytte av denne utviklingen. Det vil bli en realisering av hva det betyr å jobbe, hva slags arbeid folk skal gjøre. Men i prinsippet vil folk ha mer frihet og mer tid til å gjøre aktiviteter de liker å gjøre, fordi maskiner vil hjelpe med mange andre mer verdslige, arbeid -type ting. Det vil ta litt tid, men vi tror at samfunnet vil tilpasse seg og langsomt innlemme disse endringene.

Dette intervjuet er redigert for tydelighet og tydelighet.