Elon Musks OpenAI kan være muskel for sikker kunstig intelligensforskning

Over helgen kunngjorde Elon Musk, Sam Altman og andre Silicon Valley bigwigs uventet lanseringen av OpenAI, et nonprofit selskap som beskriver sitt mål som: "for å fremme digital intelligens på den måten som mest sannsynlig vil være til gavn for menneskeheten som helhet, ubegrenset av et behov for å generere økonomisk avkastning."

"Siden forskningen er fri for økonomiske forpliktelser, kan vi bedre fokusere på en positiv menneskelig påvirkning. Vi tror A.I. bør være en forlengelse av individuelle menneskelige vilje og, i frihetens ånd, så bredt og jevnt fordelt som mulig."

Det er to store takeaways fra denne kunngjøringen. Den første er at Musk og selskap ser A.I. forskning akkurat nå som for begrenset fokusert på å oppnå kortvarig praktisk verdi, og de vil bidra til å skape fremadrettede tiltak som tar en bredere og bredere tilnærming til å utvikle A.I. systemer. Den andre, mer sløret takeaway er at Musk fortsatt er bekymret for A.I.s potensial til å gjøre skade hvis vi utvikler og introduserer halvbakte systemer. Musk har tidligere kalt A.I. "Vår største eksistensielle trussel" og foreslo at regelmessig tilsyn kan være nødvendig for å hindre potensielle farer. OpenAI kan være en måte å gi det tilsynet uten behov for en føderal vakthund.

Hva er Musk og hans kolleger som gjør det som er forskjellig fra hva andre har gjort. Tross alt, åpen kilde A.I. er ikke noe nytt. Google laget sin egen A.I. programvare åpen kildekode forrige måned, og dette har blitt ganske vanlig prosedyre. Men med en gave på $ 1 milliard er OpenAI allerede en av de største organisasjonene som arbeider med A.I. forskning, og ganske enkelt den største ideelle organisasjonen. Målet er å gjøre sine resultater offentlig tilgjengelige og alle patenter som er royaltyfrie. De har gulrot og en pinne og de har tenkt å bruke den til å styre en industri.

Tanken er å bruke OpenAI som en slags motvekt til større bedrifter, private forskningslaboratorier og til og med verdensregeringer som har enorme mengder penger og ressurser til å hælde inn i deres eget A.I. forskning som kanskje ikke er viet til vennlige formål, og i stedet kan føre til teknologier med falske applikasjoner. Forskere som arbeider med OpenAI vil i utgangspunktet forfølge "vennlig" A.I., uten press for å vise umiddelbare resultater. Det kan være et større hensyn til sikkerhets- og designfunksjoner som private bedrifter kan være tilbøyelige til å ignorere. Det vil ikke være et hvitt tårn hvor bare et fåtall styre banen til A.I. utvikling. Det kommer til å være en velkommen verden for alle.

I et intervju med Backchannel, Musk legger også vekt på et ønske om å lage et bredt utvalg av A.I. systemer. "Vi vil ha A.I. å være utbredt, sier han. "Vi tror trolig mange er gode."

Det er viktig, fordi det forteller seg kanskje den primære grunnen til at Musk og Altman vil demokratisere A.I. De tror den beste typen av A.I. - den typen som vil være til gavn for menneskeheten på en positiv måte uten å skape robotoverlatere - er den typen som virker som "en forlengelse av individuell menneskelig vilje", som Musk setter det på. Han fortsetter å si:

"Som i en A.I. forlengelse av deg selv, slik at hver person er hovedsakelig symbiotisk med AI i motsetning til AI som en stor sentral intelligens som er litt annen. Hvis du tenker på hvordan du bruker, sier, applikasjoner på internett, har du e-posten din, og du har de sosiale medier og apps på telefonene dine - de gjør deg superhuman og du tenker ikke på dem som å være andre, tenker du på dem som en forlengelse av deg selv. Så i den grad at vi kan lede AI i den retningen, vil vi gjøre det. Og vi har funnet en rekke like-minded ingeniører og forskere i AI-feltet som føler det samme."

I utgangspunktet er OpenAI-visjonen for A.I. forskning er et desentralisert samfunn som bidrar til å koble mennesker til hverandre og til verden selv.

Musk har ennå ikke skissert hvordan de ville hindre forskning innenfor OpenAI selv - eller repurposed av utenforgrupper - fra å gå i en farlig retning. Og det er noe annet verdt å merke seg her: Open source-systemer er bare fornuftige hvis dataene som brukes til å bygge maskinlæringsalgoritmer, deles fritt. Et intelligent system må lære hvordan å være intelligent, og for det gjør det, det trenger å lære av data og erfaring. Det er som å bygge en dam - du trenger både tegningene (algoritmen) og byggematerialene (dataene) for å faktisk lage noe som vil stoppe vann.

Derfor er folk fortsatt begrenset til hva de kan gjøre med Googles TensorFlow - de har ennå ikke de dataene Google har. Og med mindre samarbeidene bygget ut av OpenAI tillater fri tilgang til de samme dataene som de interne forskerne jobber med, vil Musks visjon ikke nødvendigvis bli realisert - eller i det minste ikke i måten han fremmer det.

Musk, Altman og de andre grunnleggerne av OpenAI har begynt noe som vil ha stor innflytelse på veksten av A.I. fra nå av. Samtidig må de være oppriktige i deres forpliktelse til å fremme et åpen kildeforskningsfellesskap, noe som betyr at de er offentlige om deres planer for ideelle organisasjonen, og er villige til å dele data. Ellers vil OpenAI ikke være mye forskjellig fra flokselskapene som ble designet for å besetning.