Tufts Roboticist Calls for Machine Morals: Robots Må "Adlyde for å adlyde"

Roboter blir mer sentrale i hverdagen, og snart må de begynne å møte noen av de tøffe moralske valgene vi må gjøre regelmessig. Matthias Scheutz, en datavitenskapelig professor i Tufts Universitys Human-Robotics Interactions lab, er spesielt opptatt av at vi ikke har utstyrt selv våre mest avanserte prototypeb robotter med evnen til å håndtere noen av disse situasjonene. Scheutz mener at roboter må lære å motstå mennesker hvis vi noen gang vil at de virkelig skal betjene våre behov.

I et kommentarstykke på I dag Online, provoserende med tittelen "Robotene må være i stand til å være ulydig for å adlyde", spør Scheutz leseren til å avgjøre hva en robot burde gjøre hvis han konfronteres med et sett av situasjoner som til og med kan vise seg å være forvirrende for et menneske. Noen av dem:

En eldreomsorgsbrosjobb oppført av en glemsom eier for å vaske de "skitne klærne", selv om klærne nettopp har kommet ut av vaskemaskinen.

En elev beordrer sin robotlærer til å gjøre alle leksene, i stedet for å gjøre det selv.

En husholdningsrobot instruert av sin travle og distraherte eier for å kjøre søppelbortskaffelsen, selv om skjeer og kniver sitter fast i den.

Det som Scheutz har som mål å beskrive i artikkelen, er det enkle faktum at vi skal trenge roboter som vet hvordan man sier nei til mennesker. Mange av hans eksempler har å gjøre med påliteligheten til personen som styrer roboten, men det er vanskeligere enn det lyder å programmere en robot som vet å ta instruksjoner fra alle som ikke er for unge eller for gamle eller åpenbart prøver å forårsake problemer.

Noen av disse problemene diskuteres allerede i hovedkvarteret til verdens mektigste teknologibedrifter, da de ser etter nye måter teknologien kan overta deler av våre liv. Scheutz reiser eksempelet på en autonom bil som er rettet til å sikkerhetskopiere, men merker en hund som ligger i sin vei. De fleste av oss er enige om at selv den menneskelige kjører bilen vil ha bilen til å stoppe, men hva om dyret var en ekorn eller vaskebjørn? Hva om bilen kjørte 45 mph nedover en landevei, og plutselig bremset for en hund som risikoklasserte å utsette bilen for å kollisjonere med et annet kjøretøy bak det?

"I begge tilfeller er det avgjørende for begge autonome maskiner å oppdage den potensielle skade deres handlinger kan forårsake og reagere på ved å forsøke å unngå det, eller hvis det ikke kan unngås skade ved å nekte å utføre den menneskelige instruksjon" Scheutz skriver om et lignende dilemma.

Scheutzs team har jobbet med disse problemene med prototyper, og fant at den vanskeligste delen av disse spørsmålene skiller de små gradene av skade som kan oppstå når en robot følger en bestemt rekkefølge. Så de ga sin robot en veldig enkel, men kraftig moralsk leksjon som ville sette de store filosofferene til skamme.

"Hvis du blir bedt om å utføre en handling, og det er mulig at utførelsen av handlingen kan forårsake skade, kan du ikke utføre det."

På en subtil måte er det en revolusjonerende prognose fra Scheutz. Jo, vi prøver alle å unngå skade, men er det ikke mulig at noen ganger tror vi det er greit å ta risiko? Jaywalking på gaten, å spise en ekstra hjelp av dessert, eller til og med å kopiere en venns notater fra klassen, kan bryte Scheutz's aksiom.

Begrepet robotic interferens foreslår også at Scheutz vil at robotene skal følge loven. Forvent ikke at din Scheutzian-robotassistent hjelper deg med å laste ned ny musikk ulovlig. Det ville føre til skade for aksjene i EMI!

Det er et komplisert område med moralske, juridiske og tekniske tanker, og Scheutz er ikke sjenert fra å angripe det på hodet.