'Universal Robots' forestiller seg en verden hvor roboter tar over, men sakte

Science fiction forfattere har lenge akseptert at roboten overtakelse er uunngåelig. Det de ikke har avtalt er hvordan det kommer til å skje. Noen forutser at vår makt vil bli forstyrret fra oss med makt, mens andre forestiller seg at vi skal bli overrasket. Mac Rogers tilbyr både et scenario som gir skremmende realisme i sitt spill, Universal Robots.

Rogers forestiller livet på 1940-tallet med kunstig intelligens fra det 22. århundre, og menneskene som vitner om overtakelsen utfolder seg, er ikke forberedt på det endelige slag. Det begynner med oppfinnelsen av "automater" - allment feiret i Tsjekkoslovakia, hvor spillet er satt - mens trusselen om kommunisme har gitt Prahas kunstnere og intellektuelle mye å diskutere, sjef blant dem: Hva blir av drømmene våre hvis vi alle blir tvunget til hardt arbeid?

Karel Capek (Jorge Cordova) og søsteren Jo (Hanna Cheek) skriver et spill der en pille eksisterer for å fjerne menneskelig ambisjon, slik at hver familie kan heve en hardt arbeidende drøm for hver drømmer det bringer inn i verden. Men selv det virker urettferdig. Etter å ha sett spillet, presenterer en kvinne ved navn Helena (Brittany N. Williams) en løsning som gir "alt det gode uten noe av det dårlige." Sittende i rullestolen, snakker Helena om en "automat" - en humanoid robot programmert til å svare på menneskelige kommandoer.

Faktisk blir ikke maskinene referert til som "roboter" før Jo oppdager ordet, inspirert av det tsjekkiske ordet for "work" eller "drudgery" robota. (Den virkelige Karel Capek, en tsjekkisk dramatiker kjent for den seminske sci-fi-historien R.U.R., Først brukte ordet i 1921.) I begynnelsen er tsjekkene takknemlig, selvbevisste om konsekvensene av deres nye teknologi. Under tilsyn av dramatikere og president Masaryk (Sara Thigpen), blir automatene utviklet en masse av oppfinneren Rossum (Tandy Cronyn), men bare under visse forhold utformet for å minne oss om deres umenneskelighet.

Listen over regler representerer settet av egenskaper Rogers anser grunnleggende for vår art: Robotene må ikke kunne se farge eller tekstur, forstå språk eller reproducere. Manglende seksuelle organer, de er teknisk følsomme, og mennesker blir skjult for å henvise til dem ved å bruke kjønnsspronomen. Deres tale forsettlig "depersonalized", de snakker bare i den tredje personen, og bare for å bekrefte hva som er befalt av dem. De er "verktøy i menneskelig form, ingenting mer."

Samfunnets første svar på automatene, mer nysgjerrig enn forsiktig, gjenspeiler vår nåværende reaksjon på A.I. I en serie vignetter fra vitnesbyrd, roser Praha-borgere bruken av maskinene i husholdninger og byggeplasser. Men deres ledige øyne er ubehagelige og deres tungt avanserte tale er foruroligende. Vi vet at de ikke er menneskelige; er disse garantiene virkelig nødvendige? Det menneskelige ønske om å antropomorfinere - som allerede er synlig i dagens voksende humanoide robotindustri - korroderer de jernbundne reglene som først og fremst ble satt ned av Masaryk og Capekene, til slutt ødelegger dem. Programmeringsroboter for å se og konversere krever bare en enkel oppgradering. Før lenge blir sexroboter på gang med mennesker, og robotbarn gjenoppretter ødelagte familier.

Situasjonen er mer tøff enn noen er i utgangspunktet komfortabel med, men ingen kan komme med en god nok grunn til å hindre fremgang hvis roboter er overholdende av den gylne regelen - det vil si å adlyde noen kommando, bortsett fra å skade et menneske. Hver gang en konsesjon er gjort, er det et argument for å styrke beslutningen. Roboter er programmert til å føle smerte, slik at de bedre kan bevare seg selv (dette er begrunnelsen bak dagens svært liknende teknologi). De lærer å lære så vi trenger ikke å lære dem. Når, i en sentral scene, er Tsjekkoslovakia presset til å sende en robotarm for å bekjempe nazistene i Tyskland, er robotene omkonfigurerte for å ta menneskeliv. Det er ikke en enkel beslutning, men Masaryk og Karel finner en måte å rettferdiggjøre. Mennesker, Rogers advarer, vil alltid.

Det er lett å miste våre grenser når våre selvinteresser forvirrer utsikten. Hver gang Rossums roboter blir oppgradert, kvalifiserer de seg for mer arbeidskraft, noe som gir mennesker nøyaktig det de ba om - mer tid til å drømme. Men vi bør være forsiktige med hva vi ønsker. Før lenge tar roboter jobber fra folk som bare ville ha ferie; I mellomtiden har romaner lenge forestilt seg, forbli uskreven. Robotene, hvis "hoveddirektivet" er effektivitet, kan frigjøre tid, men ingen maskin kan garantere at vi vil bruke den tiden godt.

Som mange sci-fi-historier, Universal Robots er alarmistisk, og til tider blatant så. Men å se så mange av sine tidlige scenarier utfolder seg i virkeligheten, kanskje nå er det ikke på tide å søke nyanse. Mens Rogers ikke tror at historien sin forferdelige utfall noen gang vil spille ut i det virkelige livet, er han klar over at trinnene som førte til det, kanskje allerede finner sted.

Fortalte en tidligere diskusjon med et panel av robotikere, fortalte han Omvendt at den pågående sammenflyten mellom mennesker og roboter er mye mer sannsynlig å føre til en fredelig integrering i stedet for massemordet: "Vi er allerede så komfortable med teknologi i våre hender," sier han. "Jeg håper at neste spill ikke handler om singularitet, men sammenslåing av mennesker og roboter."

Universal Robots presenteres på Sheen Center for Thought and Culture (18 Bleecker Street mellom Bowery & Lafayette), 3.-26. juni.