«Denne personen eksisterer ikke», Skaper avslører hans nettsteds skumle opprinnelseshistorie

Phillip Wang er den 33 år gamle programvareingeniør ansvarlig for å skape den kunstige intelligens-drevne nettsiden Denne personen eksisterer ikke som nylig gikk viral. Hver gang siden oppdateres, gir en algoritme kjent som et generativ adversarielt nettverk (GAN) (opprinnelig kodet av Nvidia) hyperrealistiske portretter av helt falske personer.

Stuntet ble utformet for å gi oppmerksomhet til A.I. stadig større kraft for å presentere som ekte bilder som er helt kunstige. Men som Wang forteller Omvendt, denne stunt har forgreninger som sprer seg langt utover, «hei, se på denne virkelige falske personen». I et samfunn hvor bilder og bilder er standard surrogater for "bevis" GANer - ved å automatisere arbeidet som en gang krevde omhyggelig arbeidskraft på Den delen av imaging eksperter - vil snart tillate noen å gi "bevis" at enhver tenkelig person gjorde noe tenkelig ting.

"Jeg er i utgangspunktet i det punktet i mitt liv hvor jeg skal innrømme at superintelligens vil være ekte, og jeg må bruke mitt gjenværende liv til det," forklarer han. "Reaksjonen snakker om hvor mye folk er i mørket om A.I. og dets potensial."

Nettstedet slo et akkord. Den tidligere Uber-programvareingeniør sier at siden lanseringen, Denne personen ikke eksisterer, har blitt besøkt om 4,2 millioner ganger, ikke dårlig for en engangsplass opprinnelig sendt til en lukket Facebook-gruppe. Wang brukte det i utgangspunktet som en måte å overbevise noen venner om å bli med på den uavhengige A.I. forskning han jobber for tiden med. Men innen en dag bestemte han seg for at et bredere publikum kunne dra nytte av å lære om potensialet til GANs. Han sa at reaksjonen ekko hvor viktig det er å informere folk om hvordan denne teknologien kan være både revolusjonerende og farlig.

Hvorfor falske ansikter representerer et skummelt gjennombrudd

Wangs nettsted benytter Nvidias StyleGAN-algoritme som ble publisert i desember i fjor. Potensialet, i hans oppfattelse, spenner fra det hjelpsomme og men-jordiske (tenk: strømlinjeformet tannkronimplantasjon) til den mer utbredt, for eksempel muliggjør fantasi av helt nye molekyler til å tjene i fremtidige stoffer. Men denne revolusjonerende teknologien vil også gjøre bedrag og misinformasjon enklere enn noen gang før.

Grunnen til at brukstilfeller er så mangfoldige er at det er mange, mange måter å bruke GANer på, som er opplært ved å pitte to nettverk mot hverandre: generatoren og diskriminatoren. Generatoren får reelle bilder som den prøver å gjenskape så godt som mulig, mens diskriminatoren lærer å skille mellom falske bilder og originaler. Etter millioner av millioner treningsøkter utvikler algoritmen overmenneskelige evner for å lage kopier av bildene den ble trent på.

Det er den samme metoden som skaper deepfakes, eller datamaskingenererte bilder som er lagt på eksisterende bilder eller videoer, og som ofte brukes til å presse falske nyhetsberetninger eller andre hoaxes.

Og mens Wang er fascinert av innovasjonen som det vil bringe på tvers av mange bedrifter, vil han også at folk skal være mer oppmerksomme på potensiell skade det kan føre til.

Som et eksempel kan en skuespiller skille en GAN-generert video eller et bilde som viser en falsk begivenhet for å fremkalle opptøyer, protester eller andre potensielt voldelige reaksjoner på nettet.

Siden prosessen er all automatisert, vil alle som trenger det, få tilgang til en rekke grafikkbehandlingsenheter (GPUer) eller grafikkort - hvilken maskinmaskin som lærer - og et datasett med bilder som begynner å svekke ut falskhet som clockwork.

På lengre sikt, mens StyleGANs er i stand til å skape stillbilder av folk som aldri eksisterte, gjør disse bildene snakkes og beveger seg naturlig, er bare noen få skritt videre enn det. Heldigvis bemerker Wang at bare å være informert om GANs vil folk få mindre utsatt for å bli lurt av dem. Høyere bevissthet vil gjøre det lettere for oss alle å nyte forbedringene til 3D-grafikk og medisin StyleGANs vil trolig føre til.

"Jeg håper bare at demonstrasjonen øker bevisstheten. De som er uvitende er mest utsatt for denne teknologien, sier Wang. "På forsiden, A.I. virkelig vil bringe mye godt til denne verden."

E-post forfatteren: [email protected]