Hvorfor stoler vi fortsatt på Amazon? Hvordan Big Tech Giants unnlater å beskytte samfunnet

Amazon kan ha ventet mye offentlig oppmerksomhet da den annonserte hvor den ville etablere sitt nye hovedkvarter - men som mange teknologibedrifter nylig, antok det sannsynligvis ikke hvor negativt responset ville være. I Amazonas valgte territorier i New York og Virginia slo de lokale politikerne seg til skattebetalersfinansierte enticements lovet til selskapet. Journalister på tvers av det politiske spekteret panserte avtalene - og sosiale medier fylte opp med stemmen til New Yorkers og Virginians pantsettingsmotstand.

På samme måte viser åpenbaringer at Facebook utnytter antisemitiske konspirasjonsteorier for å underminere kritikernes legitimitet, at i stedet for å endre, vil Facebook heller gå på offensiven. Selv som Amazon og Apple så sine aksjemarkedsverdier kort over $ 1 billioner, ble teknologiledere trukket før kongressen, slitt for å konsekvent ta en holdning til hatespredning, ble fanget dekker seksuelt misbruk, og så sine egne ansatte protesterte på forretningsreiser.

I noen kretser blir dette sett som et tap av offentlig tillit til teknologibedrifter som lovte å gjenopprette verden - sosialt, miljømessig og politisk - eller i det minste som frustrasjon med måten disse selskapene har endret verden på. Men teknologiselskapene trenger å gjøre mye mer enn å gjenvinne offentlighetens tillit; de må bevise at de fortjente det i utgangspunktet - som, da de ble plassert i sammenheng med teknologikritikkens og skepsisens historie, gjorde de det ikke.

Ser bort fra problemene

Store teknologi selskaper pleide å ramme sine prosjekter i svakt utopisk, positiv lydende lingo som skjuler politikk og offentlig politikk, transcenderende partisanship og - praktisk - unngår gransking. Google pleide å minne sine arbeidere: "Vær ikke ond." Facebook jobbet for å "gjøre verden mer åpen og tilkoblet." Hvem kunne motsette seg disse idealitetene?

Vitenskapsmenn advaret om farene ved plattformer som disse, lenge før mange av deres grunnleggere ble til og med født. I 1970 forutslo sosial kritiker og historiker av teknologi Lewis Mumford at målet med det han kalte "computerdom" ville være "å forsyne og behandle en endeløs mengde data for å utvide rollen og sikre dominans av kraftsystemet. "Samme år advaret en frittstående essay av feministisk tenker Jo Freeman om de iboende maktobalansene som forblir i systemer som syntes å gjøre alle likeverdige.

På samme måte forutslo computerforskeren Joseph Weizenbaum i 1976 at folk i de siste tiårene ville finne seg i en nødstilfelle da de ble stadig mer avhengige av ugjennomsiktige tekniske systemer. Utallige lignende advarsler har blitt utstedt siden, inkludert viktige nylige stipend, for eksempel informasjonsforsker Safiya Nobles utforskning av hvordan Google søker replikerer rase- og kjønnsforskjeller og mediaforsker Siva Vaidhyanthans erklæring om at "problemet med Facebook er Facebook."

Teknologiselskapene er sterke og velstående, men deres dager for å unngå kontroll kan ende. Den amerikanske offentligheten synes å begynne å mistenke at teknologigigantene var uforberedt, og kanskje ikke villig til å påta seg ansvaret for verktøyene de løsnet på verden.

I etterkant av 2016 USAs presidentvalg, er det fortsatt høy bekymring at russiske og andre utenlandske regjeringer bruker enhver tilgjengelig sosial medieplattform for å si uenighet og misnøye i samfunn rundt om i verden.

Facebook har fortsatt ikke løst problemene i personvern og åpenhet som forårsaket Cambridge Analytica-skandalen. Twitter er den foretrukne megafonen til president Donald Trump og hjem for å forstyrre mengder voldsom hate speech. Fremtiden for Amazonas bedriftskontorer er å forme en flersidig slagsmål blant valgte embetsmenn og folket de angivelig representerer.

Er det uvitende eller Naivete?

Å se den nåværende situasjonen med historien om kritikk av teknologi i tankene, er vanskelig å ikke konkludere med at teknologibedrifter fortjener krisen de står overfor. Disse selskapene ber folk å betro dem med e-post, personopplysninger, nettbaserte søkehistorier og finansiell informasjon, til det punktet at mange av disse selskapene stolt over at de kjenner individer bedre enn de kjenner seg selv. De fremmer sine nyeste systemer, inkludert "smarte høyttalere" og "smarte kameraer", som forsøker å sikre at brukerne alle våkne øyeblikk - og sovemomenter også - kan overvåkes, og fôrer flere data i sine pengeproduserende algoritmer.

Likevel synes disse selskapene uunngåelig å vise hvor uverdig tillit de egentlig er, lekker data, deler personlig informasjon og unnlater å forhindre hacking, da de sakte fyller verden med en forstyrrende techno-paranoia som er verdig til en episode av "Black Mirror.”

Teknologireservenees svar på hver ny åpenbaring passer til et standardmønster: Etter at en skandale oppstår, uttrykker selskapet det som alarm, at noe gikk galt, lover å undersøke, og forplikter seg til å gjøre det bedre i fremtiden. Noen tid - dager, uker eller måneder - senere avslører selskapet at skandalen var et direkte resultat av hvordan systemet ble utformet, og stolt på en forferdelig leder for å uttrykke forferdelse på de ødeleggende bruksområdene som ble funnet for deres system, uten å innrømme at problemet er selve systemet.

Zuckerberg selv fortalte den amerikanske senaten i april 2018 at Cambridge Analytica-skandalen hadde lært ham "Vi har et ansvar for ikke bare å gi folk verktøy, men for å sikre at disse verktøyene brukes til gode." Det er en ganske grunnleggende leksjon å ha savnet ute mens du lager et multi-milliard-dollar selskap.

Gjenoppbygging fra det som er igjen

Bruke hvilken som helst teknologi - fra en kniv til en datamaskin - bærer risiko, men som teknologiske systemer øker i størrelse og kompleksitet, har omfanget av disse risikoene også en tendens til å øke også. En teknologi er bare nyttig hvis folk kan bruke det trygt på måter hvor fordelene oppveier farene, og hvis de kan føle seg trygg på at de forstår og aksepterer de potensielle risikoene. For noen år siden, Facebook, Twitter og Google, kan det ha vært de fleste som gode kommunikasjonsmetoder som brakte mer til samfunnet enn de tok bort. Men med hver ny skandale, og bungled respons, ser flere og flere mennesker at disse selskapene utgjør alvorlige farer for samfunnet.

Så fristende som det kan være å peke på "av" -knappen, er det ikke en enkel løsning. Teknologiske giganter har gjort seg til en del av stoffet i det daglige livet for hundrevis av millioner mennesker. Å foreslå at folk bare slutter, er enkle, men klarer ikke å gjenkjenne hvor avhengige mange mennesker har blitt på disse plattformene - og hvor fanget de kan føle seg i en stadig utålelig situasjon.

Som et resultat, folk kjøper bøker om hvor ille Amazon er - ved å bestille dem på Amazon. De gjennomfører Google-søk etter artikler om hvor mye informasjon Google vet om hver enkelt bruker. De tweet om hvor mye de hater Twitter og legger ut på Facebook-artikler om Facebooks siste skandale.

Teknologiselskapene kan finne seg selv hersker over en stadig forverret brukerbase, da deres plattformer spredte utilfredsheten lengre og bredere enn mulig tidligere. Eller de kan velge å forandre seg dramatisk, bryte seg opp, gjøre noen kontroll over til de demokratiske beslutningene til brukerne, og ta ansvar for den skade deres plattformer og produkter har gjort for verden. Hittil, selv om det ser ut til at industrien ikke har gått utover å tilby halvbakt unnskyldninger mens du fortsetter å drive forretning som vanlig. Forhåpentligvis vil det endres. Men hvis fortiden er en guide, vil det nok ikke.

Denne artikkelen ble opprinnelig publisert på The Conversation av Zachary Loeb. Les den opprinnelige artikkelen her.