AI bedre på kompromiss enn mennesker, finner ny studie

La oss innse det. Helt siden kunstig intelligens først ble drømt, har mennesker vært redd for den dagen våre AI-overtalere tar over. Men noen forskere har testet evnen til kunstig intelligens til ikke bare konkurrere med menneskeheten, men også til samarbeide.

I en studie publisert på torsdag i Naturkommunikasjon et team av BYU datavitenskapsprofessorer, Jacob Crandall og Michael Goodrich, sammen med kollegaer ved MIT og andre universiteter, opprettet en algoritme for å undervise maskinens samarbeid og kompromiss.

Forskerne programmerte maskinene med en algoritme som heter S # og kjørte dem gjennom en rekke spill med forskjellige partnere - maskinmaskin, menneske-maskin og menneske-menneske - for å teste hvilken sammenkobling som ville resultere i de mest kompromisser. Maskiner (eller i det minste de som er programmert med S #), viser seg, er mye bedre på kompromiss enn mennesker.

Men dette kan si mer om "menneskelige svikt", forteller forsker Jacob Crandall Omvendt. "Våre menneskelige deltakere hadde en tendens til å være disrojal - de ville mangle midt i et samarbeidsforhold - og uærlig - omtrent halvparten av deltakerne valgte å ikke følge med på sine forslag - på et tidspunkt i samspillet."

Maskiner som hadde blitt programmert til å verdsette ærlighet, var på den annen side ærlige. "Denne spesielle algoritmen er å lære at moralske egenskaper er gode. Det er programmert til ikke å lyve, og det lærer også å opprettholde samarbeid når det kommer fram, sier Crandall.

I tillegg fant forskningen at visse samarbeidsstrategier var mer effektive enn andre. En av disse var "billig snakk", enkle verbale signaler som reagerer på en gitt situasjon, som "Sweet." Vi blir rike! "Eller" Jeg aksepterer ditt siste forslag. "Eller for å uttrykke misnøye," Forbann deg! "" Du betaler for det! "Eller" I ditt ansikt!"

Uansett hvilken type spill som ble spilt eller hvem som spilte, doblet det billige samtalet mengden samarbeid. Det humaniserte også maskinene, mens menneskelige spillere ofte ikke kunne fortelle om de var i samspill med en maskin eller et menneske.

Fordi fokuset på denne undersøkelsen var på testingen av S # -algoritmen, er en mangel på forskningen at den ikke tar hensyn til kulturelle forskjeller blant mennesker som kan påvirke hvordan forskjellige menneskelige befolkninger kan bruke eller tolke strategier som billig snakk, eller hvordan mange menneskelige spillere kan engasjere seg i bedrag eller mislighold.

Presciently, i den endelige korte historien om Isaac Asimovs berømte bok 1950-bok Jeg, Robot - "The Evitable Conflict" - AI overherrer faktisk overtar planeten. Men fordi de er så rimelige, og programmert med noen ubrydelige etiske regler, er det en god ting for menneskeheten. Og som denne studien viser, fordi menneskelige samhandlinger er rotete og kompliserte, kan vi kanskje stole på maskiner. Forutsatt selvfølgelig, om de har blitt programmert for ærlighet.

Abstrakt:

Siden Alan Turing hadde forestilt kunstig intelligens, har tekniske fremskritt ofte blitt målt ved evnen til å beseire mennesker i null-sum møter (for eksempel Chess, Poker, eller Go). Mindre oppmerksomhet har blitt gitt til scenarier der samarbeid mellom mennesker og maskiner er gunstig, men ikke-trivielt, for eksempel scenarier der menneskelige og maskinpreferanser ikke er helt tilrettelagt eller helt i konflikt. Samarbeid krever ikke ren beregnende makt, men i stedet forenkles av intuisjon, kulturelle normer, følelser, signaler og pre-utviklede disposisjoner. Her utvikler vi en algoritme som kombinerer en state-of-the-art armeringslæringsalgoritme med mekanismer for signalering. Vi viser at denne algoritmen kan samarbeide med mennesker og andre algoritmer på nivåer som konkurrerer med menneskelig samarbeid i en rekke to-spiller gjentatte stokastiske spill. Disse resultatene indikerer at generell samarbeid mellom mennesker og maskiner kan oppnås ved hjelp av et ikke-trivielt, men i siste instans enkelt sett med algoritmiske mekanismer.