OpenAI: Elon Musks tidligere firma ligger på randen av en ny A.I. Era

OpenAI, nonprofitorganisasjonen som forsker kunstig intelligens, medgrunnlagt av Elon Musk i 2016, har gjort store fremskritt - selv etter at Musk har skilt seg mellom uenigheter om retningen. Forskere har utviklet systemer som kan spille spill, skrive nyhetsartikler, og flytte fysiske gjenstander med banebrytende nivåer av fingerferdighet.

OpenAI har forårsaket kontrovers med sin forskning. I forrige uke annonserte det utviklingen av en språkmodell, GTP2, som kan generere tekster med begrensede meldinger. Gitt den menneskelige skriftlige spørsmålet "Miley Cyrus ble fanget shoplifting fra Abercrombie og Fitch på Hollywood Boulevard i dag", produserte systemet en troverdig komplett historie som fortsatte med "den 19 år gamle sångeren ble fanget på kameraet som ble escorted ut av butikken av sikkerhetsvakter."

Det skapte også denne originale historien om å snakke unicorns basert på en kort melding:

"Jeg har ikke vært involvert nært med OpenAI i over et år og har ikke ledelse eller styretilsyn," Musk kommenterte på Twitter over helgen. "Jeg måtte fokusere på å løse et smertefullt stort antall ingeniør- og produksjonsproblemer hos Tesla (spesielt) og SpaceX. Også konkurrerte Tesla for noen av de samme personene som OpenAI & I ikke var enig med noe av hvilket OpenAI-team som ønsket å gjøre. Legg det hele opp og det var bare bedre å dele måter på gode vilkår."

Firmaet opprinnelig syntes en ideell måte for Musk å oppnå sine mål om å utnytte A.I. for menneskehetens gode. Entreprenøren har advart tidligere om den "grunnleggende risikoen" til sivilisasjonen som stammer fra supersmarte maskiner, og oppfordrer regjeringer til å regulere "som vi gjør mat, narkotika, fly og biler."

Musk lovet $ 10 millioner for å starte firmaet i utgangspunktet, og dens oppgaveoppgave fokuserer på "oppdage og vedta banen til sikker kunstig generell intelligens."

Det er ikke vanskelig å se hvordan programmer som gjør historier som den som deles av OpenAIs administrerende Greg Brockman, kunne brukes av et relativt lite antall personer til å påvirke meninger fra en mindre kyndig publikum.

En OpenAI-medarbeider har skrevet ut denne AI-skriftlige prøven og lagt den i resirkuleringsboks: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14. februar 2019

"På grunn av våre bekymringer om ondsinnede applikasjoner av teknologien, frigjør vi ikke den trente modellen," forklarte selskapet i et blogginnlegg. "Som et forsøk på ansvarlig avsløring frigjør vi i stedet en mye mindre modell for forskere å eksperimentere med, samt et teknisk papir."

Kunngjøringen førte til bekymringer teknologien kunne brukes til å generere falske nyheter. Analytics India advaret om at, med det kommende indiske valget senere i år, ble A.I. kan forårsake ødeleggelse med den demokratiske prosessen. OpenAIs forskere oppgir selv at, kombinert med forskning i produksjon av syntetisk lyd og video, "må publikum generelt bli mer skeptisk til tekst de finner online."

Ryan Lowe, en A.I. forsker og tidligere OpenAI-praktikant, oppsummerte trusselen om et program som dette brukes til å lage falske nyheter kortfattet i denne gjennomgående middels post:

…. En automatisert system kunne: (1) muliggjøre dårlige skuespillere, som ikke har ressurser til å ansette tusenvis av mennesker, til å dra i stor skala disinformationkampanjer; og (2) drastisk øke omfanget av disinformasjonskampanjene som allerede drives av statlige aktører.

Ikke alle OpenAIs forskning har vist seg å være så kontroversiell. Dactyl, avduket i juli 2018, kan tilpasse seg virkelige fysikk til å manipulere objekter i den virkelige verden. Robothånden er svært kompleks, med 24 grader frihet, men systemet kan enkelt bevege gjenstandene bare ved å bruke tre RGB-kameraer og koordinatene til roboten.

Robothånden utnytter de generelle algoritmer for forsterkning av læringsalgoritmer som brukes til å slå mennesker i videospill. "OpenAI Five" -laget møttes mot et team av profesjonelle Dota 2 spillere i 2018. Systemet ble utdannet i 180 år med spill, og utnyttet en svimlende 128.000 prosessorkjerner og 256 grafikkprosessorer. Mens det slo et menneskelig team av tidligere fagfolk og Twitch streamere, mislyktes det mot profesjonelle spillere.

Musk brukte Dota 2 kamper for å trekke oppmerksomhet til Neuralink, hans plan om å skape et symbiotisk forhold med A.I. ved å koble opp menneskelige hjerner og unngå robotovertak:

Flott arbeid av @OpenAI. Trenger den nevrale grensesnittet snart å aktivere human / AI symbiose.

- Elon Musk (@elonmusk) 6. august 2018

I sin tekstgenerator kunngjøring, sa OpenAI det planlegger å diskutere sin bredere strategi om seks måneder. Firmaet håper å gnist en nyansert diskusjon om farene ved kunstig intelligens, et trekk som kan unngå noen av katastrofescenariene som Musk forestiller. Men selv innrømmer selskapet at det er "ikke sikker på at" å beholde tekstgeneratoren "er den riktige avgjørelsen i dag." Med et skis som allerede er dannet mellom to store enheter som varsler om farene ved AI, er det lite sannsynlig at lovgivere vil ha det lett tid i å utvikle løsninger.