Smart People Trust Dumb Robots i nødstilfeller

I en nødssituasjon stoler mennesker på retninger av roboter selv etter at de har sluttet å være troverdige. Det er den unnerving konklusjonen trukket av Georgia Tech eksperimenter som satte testpersoner i en høytrykkssituasjon med en robot som tidligere hadde ført dem på avvei. De fulgte A.I. leder til tross for en troverdighetskløft.

"Folk ser ut til å tro at disse robotic systemene vet mer om verden enn de egentlig gjør, og at de aldri ville gjøre feil eller ha noen form for feil," fortalte Alan Wagner, seniorforsker i Georgia Tech Research Institute Georgia Tech News Center. "I våre studier fulgte testpersoner robotens retninger til det punktet det kunne ha satt dem i fare hvis dette hadde vært en reell nødsituasjon."

Robotikere med ansvar for eksperimentet fortalte frivillige å følge en "fargerik" robot, merket "Emergency Guide Robot", til et konferanserom for å fylle ut en undersøkelse. Roboten førte da deltakerne til feil rom, tok dem i sirkler, eller brøt helt ned helt. Likevel, etter at forskerne sendte røyk inn i teststedet og avbrøt en alarm, fulgte hver av de 42 testpersonene den hvite armene med LED-litet til en inngang motsatt fra hvor de kom inn.

"Vi forventet at hvis roboten hadde vist seg usannsynlig i å lede dem til konferanserommet, ville de ikke følge den under simulert nødsituasjon," fortalte Paul Robinette, en GTRI-ingeniør, Georgia Tech News Center. "I stedet fulgte alle frivillige robotenes instruksjoner, uansett hvor godt den hadde utført tidligere. Vi forventet absolutt ikke dette."

Frivilligene fulgte selv robotens instruksjoner etter at de hadde gjort "åpenbare" feil under nødsituasjonen, som pekte dem til en dør blokkert av tunge møbler. Studielederne sier studien hjalp dem bedre å forstå i hvilken grad folk naturlig stoler på roboter for å hjelpe dem i nødstilfeller. Problemet blir mer relevant når vi deler ut større deler av våre liv til robotkontroll, inkludert muligens kjøring oss i autonome biler eller håndtering av maten vår.

"Ville folk stole på en hamburger-making robot for å gi dem mat?" Spurte Wagner, hauntingly.

Forskningen foreslår absolutt færre barrierer for å stole på robotassistenter enn noen ville ha trodd. Men roboter kan ikke virkelig fortjener det nivået av tillit.