Kunstig intelligens trenger gjennomsiktighet slik at mennesker kan holde det til konto, har en forsker hevdet. Virginia Dignum, lektor ved Delft University of Technology, fortalt et publikum ved New York University på fredag at hvis vi ikke forstår hvorfor maskiner fungerer som de gjør, vil vi ikke kunne dømme sine beslutninger.
Dignum sitert en historie av David Berreby, en vitenskapsforfatter og forsker, som ble publisert i Psykologi i dag: "Bevis tyder på at når folk jobber med maskiner, føler de seg mindre følelse av byrå enn de gjør når de jobber alene eller med andre mennesker."
Trolleyproblemet, Dignum forklart, er et område hvor folk kan sette blind tro på en maskin for å velge riktig utfall. Spørsmålet er om du skal bytte spaken på et hypotetisk rullebane slik at det dreper en person i stedet for fem. Folk forventer at maskiner skal løse problemet på den mest rasjonelle måten. Det kan imidlertid ikke alltid være tilfelle, og gjennomsiktighet vil bidra til å forklare hvordan maskinen kom til sin beslutning.
"Det er ikke bare en veldig dyp, neural nettverkskæde av hendelser som ingen kan forstå, men å gjøre de forklaringene på en måte som folk kan forstå," sa hun.
A.I. Det som gjør arbeidet klart er et område DARPA har utforsket. Byrået sendte en melding i august om at det var på utkikk etter lag som var interessert i forklarbare A.I. prosjekter, kjent som XAI. Disse systemene vil hjelpe forskere å forstå hvorfor en A.I. tok beslutningen om at den gjorde det, og gir mer mulighet til å bestemme hva de skal gjøre med den resulterende informasjonen i stedet for å stole på maskinen.
Med maskinlæring oppdaget Dignum at gjennomsiktighet er mer avgjørende enn noensinne. "Vi kan ikke forvente at systemene, og spesielt maskininnlæringsmaskiner, lærer, og å kjenne det med en gang," sa hun."Vi forventer ikke at våre sjåfører, når de kjører, skal ha full forståelse for trafikkloven. I mange land bruker de disse "L" -plattene til å vise, "Jeg lærer, unnskyld meg for de feilene jeg kan gjøre." "Å se AI, forstå hvordan det kommer til bestemte beslutninger og handle basert på det, vil være avgjørende for å stoppemaskiner som fremdeles lærer å gjøre dårlige beslutninger.
Apple Watch Series 4: Nye bilder viser hvorfor du trenger den større skjermen
Apple Watch er satt til å motta en større skjerm, men det kommer ikke til å gjøre enheten større. I oppbyggingen til Apples iPhone-event har lekkasjer avslørt hvordan selskapet planlegger å introdusere nye skjermstørrelser for sin fjerde generasjon smartwatch.
Hvorfor elsker du noen? det gode vs. det dårlige, og hvorfor mennesker trenger det
Et eldgamelt spørsmål, hvorfor elsker du noen, har mange svar. Noen grunner gode, andre dårlige. Til slutt, som mennesker, trenger vi kjærlighet i livene våre.
Hvorfor menn hater å bruke kondomer, og hvorfor du trenger en!
Menn hater å bære kondomer, men hvorfor er det? Og hvorfor skal en mann ha på seg kondom, selv om det fjerner gleden av sex? Finn ut mer om det her.