YouTube, Facebook kan automatisk blokkere ekstremistisk tale i videoer

I et forsøk på å blokkere ekstrem, voldelig, hatefull tale på internett, ruller Facebook og Googles YouTube stille ut et system som automatisk stammer spredningen av ekstremistiske synspunkter uten helt å eliminere alt sammen.

Ifølge to kilder kjent med prosjektet som snakket med Reuters, teknologien ble opprinnelig utviklet for å squash videoer som overtrådte loven om opphavsrett.

Programmet ser etter "hashes", som er som et fingeravtrykk tildelt hver video, og når flere ganger av videoen er funnet, eliminerer programvaren automatisk opphavsrettsbeskyttet materiale. Den samme filosofien kan nå brukes på innhold som anses som hate speech eller propaganda av tech selskaper.

Videoene som er identifisert som "ekstremistiske" ville bli forhindret i å bli repostert andre steder på internett, men ville ikke automatisk ødelegge innhold som ikke har vært sett før.

Reuters sier at kilder ikke ville si hvor mye menneskelig gjennomgang går inn i prosessen, heller ikke ville de identifisere hvordan en video er flagget som ekstremist i utgangspunktet, noe som er absolutt det viktigste i kontroversen med denne programvaren.

Enten det er mennesker eller roboter som tar avgjørelsen, tegner teknologibedrifter en linje i sanden om hva som er fri og åpen tale og hva er "ekstremistisk tale", som gjelder for noen som helst fortalere av ytringsfrihet.

"Det er litt annerledes enn opphavsrett eller barnepornografi, hvor ting er veldig tydelig ulovlig," sa Seamus Hughes, nestleder for George Washington Universitets program for ekstremisme, fortalte Reuters. Han la til online ekstremistisk innhold eksisterer på et spekter og tech selskaper tegner linjen på forskjellige steder.

Programmet ser ut til å være et resultat av presset som ble brukt av Obama-administrasjonen og de europeiske lederne som holdt en samtale med teknologibedrifter, inkludert Alfabetets YouTube, Twitter, Facebook og CloudFlare tilbake i april.

Samtalen diskuterte utviklingen av programvare av Counter Extremism Project, som avslørte systemet tidligere denne uken, og oppfordret tech selskaper til å adoptere systemet. Facebook og YouTube ser ut til å ta saken i egne hender, og en Twitter-talsperson sa at de fortsatt vurderer å vedta Counter Extremism Project-programvaren eller ikke.