A.I. Algoritmen gjenkjenner Terrorist Propaganda med 99% Nøyaktighet

$config[ads_kvadrat] not found

Swiss try to stop terrorist propaganda on the internet

Swiss try to stop terrorist propaganda on the internet
Anonim

Det britiske selskapet ASI Data Science presenterte en maskinlæringsalgoritme onsdag som kan identifisere terroristprogagandavideoer med 99 prosent nøyaktighet.

Denne utviklingen markerer en av de første forekomstene av et selskap med vellykket bruk av A.I. å flagg ekstremistisk propaganda. Den islamske statsgruppen er beryktet for sosialmedias rekrutteringsarbeid, og denne algoritmen kan bidra til å begrense dem.

Mens forskerne ved ASI ikke ville diskutere noen tekniske detaljer av algoritmen, ser det ut til å fungere som andre typer A.I. anerkjennelse programvare. Algoritmen kan undersøke hvilken som helst video og bestemme sannsynligheten for at videoen er et parti av ekstremistisk propaganda. Ifølge BBC ble algoritmen trent på tusenvis av terroristrekryterende videoer, og det bruker egenskaper fra disse videoene for å tildele sannsynlighetspoeng.

Hvis en video er merket som svært høy sannsynlighet, er den merket for gjennomgang av en human content moderator. Fordi videoene ikke automatisk blir tatt ned, bør noen falske positive bli tatt før videoen fjernes feil. ASI sa at algoritmen kunne oppdage opptil 94 prosent av islamske statsopplastinger.

Algoritmen, som delvis er finansiert av den britiske regjeringen, ble hovedsakelig opprettet til fordel for mindre videoplattformer som ikke har ressurser til å opprettholde et stort innholdsmeddelingspersonell. Fordi disse nettstedene ikke grundig kan undersøke hver video lastet opp, er det lettere for terroristgrupper å plante propaganda på dem. Som forsker Marc Warner fra ASI fortalte BBC, "Det er over 1000 forskjellige videoer på over 400 forskjellige plattformer."

Det er ikke klart når den nye algoritmen vil bli distribuert på disse nettstedene. Når det endelig blir tilgjengelig, vil grupper som den islamske staten forsøke å endre måten de lager sine videoer på for å unngå deteksjon.

Forhåpentligvis kan datavitenskaperne være et skritt foran oss.

$config[ads_kvadrat] not found