"Vi ville lage en robot som ikke ville tillate seg å bli misbrukt"

Jonathan Nolan og Lisa Joy, skaperne av HBOs West, gjør den virkelige verden til en tjeneste. De gjør samfunnet til å spre det truende spørsmålet om hvordan man skal behandle kunstig intelligens. Nærmere bestemt snakker Nolan og Joy om robot samtykke. Det er en diskusjon de fiktive penger-sultne lederne av Westworld fornøyelsespark åpenbart aldri hatt.

Men over på Hanson Robotics, det Hong Kong-baserte firmaet som hevder å utvikle "verdens mest menneskelige roboter", kjenner Stephan Bugaj og hans team disse nye samtalene som ryggen i hendene, eller som den realistiske falske huden - "Frubber" - på roboter sine ansikter. Bugaj er visepresident for Creative hos Hanson, og han overvåker android personlighet design.

Han forteller Omvendt han har hatt glede av det West så langt, men kanskje ikke overraskende, sidder han sammen med kunstnerisk intelligente, robotte vertene av serien. Kanskje tenk på Hanson Robotics som den uoffensielle konkurrenten til det fiktive selskapet som driver den hedonistiske Westworld. Hanson er det offentlige biblioteket til Westworlds stripklubb.

Hanson ingeniører fungerer som om de er de bokstavelige foreldrene til androiderne de lager. "Folk må innse at en av meldingene til West er du høste hva du sår, sier Bugaj. "Etikken og moralene som du lærer en enhet er hva den lærer. Og så betaler du disse utbyttene."

"Det er opp til deg å velge hva slags moralsk og etisk kode du gir en robot, eller et barn, eller hunden din, eller hva som helst."

“ Hvis du oppretter dette slaveløpet og brutaliserer dem, hva vil en brutalisert slave gjøre? Bust ut, og muligens søke hevn. ”

Så langt i showet ser det ut til at Dolores Abernathy - en av parkens verter og West S sentrale karakter - kan avdekke og da bryte ut av hennes metafysiske bur. (Bugaj: "Ville du ikke bryte ut av buret hvis noen hadde deg i en? Hvis noen hadde meg som en sexslave, ville jeg sikkert som helvete prøver å buste ut.") Dolores har ikke til hensikt å å skade mennesker, men hvis hun tilfeldigvis må, så må hun tilfeldigvis. "Hennes mål er å redde seg selv."

Bare hvis programmererne ledet av Anthony Hopkins Dr. Ford, ville det bare ha gjort det mulig for Dolores å slutte.

Hanson Robotics håper å lage roboter som kan slutte, hvis det kommer til det.

"Vi ville lage en robot som elsker menneskeheten, og har en positiv moralsk og etisk kode, men vil ikke nødvendigvis tillate seg å bli misbrukt," forklarer Bugaj. De ville lage en Dolores, sier han, men de ville forlate Skynet: De ville brenne Dr. Ford og kanskje Bernard Lowe, og begge av dem virker nå som urettferdige. Gitt noen av de besøkende psykotiske oppføringene, ville Westworld-verter helt sikkert slutte - men de virker hardkodede for å være ureflekterende. Vertskapets reveries vil imidlertid etter hvert bli bedre for både Ford og Lowe.

Noen roboter i dag, forklarer Bugaj, allerede har primitive samtykkeformer: Isaac Asimovs "Three Laws of Robotics" er et slikt eksempel, og til og med feilsikre systemer "er en slags proto-samtykke tilnærming, eller i det minste en gjorde du -Regent-mener-den tilnærmingen. "(Dolores, hvis hun klarer å bryte ut av Westworld, vil trolig trenge å bryte alle tre Asimovs regler.)

Men Hanson går utover disse rudimentære nivåene. Bugaj sier at de gir sine roboter omfattende målsystemer, fylt med interne mål og interne overbevisninger, og "forsterkningssystemer for hva de tror, ​​hvordan man behandler det, hvordan de svarer." Til slutt vil de konstruere AIs som er "i stand til å vurdere hvordan de føler seg når de bestemmer seg, og hvorvidt de vil gjøre ting du vil at de skal gjøre, eller gjør det som er gjort for dem som du vil gjøre. "Det første trinnet er å bygge opp solide og etiske koder, og sterke personligheter, som disse dommene ville hvile på. Mye som prosessen med ansvarlig å heve et barn.

Problemet er nå at de fleste roboter er kjønn, og det kan også være gjenstander av tiltrekning. Det er usannsynlig å endre. Kjønne nøytrale roboter i West ville være antitetisk til parkens tema: debauchery. Men Hansons samvittighetsfaglige spesialister, til tross for å lage kjønnsroboter, motstår kjønnsstereotyper så mye som mulig.

"Vi prøver ikke å gjøre en fembot med Sophia," forklarer Bugaj. «Vi prøver absolutt ikke å lage en sexbot, men vi prøver ikke å gjøre 1950-tallet menneskets ideelle spillekvinne, enten som kokker og renser, og ler på alle sine vitser, og forteller ham at han er strålende. Vi prøver å lage en sterk kvinnelig karakter som har egne stillinger og egne perspektiver, som tenker på ting som hva det betyr for henne å være en android og også den menneskelige verden og hvorfor vi behandler hverandre måten vi gjør."

Hanson vil at robotene til en dag skal være drivkraften for meningsfulle diskusjoner, om ikke moderatorene. West Skaper å hevde spørsmål som Bugaj håper vi begynner å spørre oss selv, for eksempel: "Hvordan kan vi forvente at androider og roboter skal behandle mennesker godt hvis vi ikke selv? og burde vi ikke lede med eksempel?"

Han og hans team lager fremtidens roboter, og de vil arbeide for at disse robotene er tredimensjonale - at de vil "bry seg om ting som har betydning, ha perspektiver på dem, og noen ganger være utfordrende for mennesker, ikke bare lydig. Men ikke på en aggressiv måte.

"Du får verden du lager," sier Bugaj.