Analys om , ,

Att moderera de sociala medieplattformarna är en utmaning för demokratin

USA:s förre president Donald Trump, som stängts av från Facebook, fick inte tillbaka sitt Facebook-konto. Brit Stakston analyserar vad beslut säger om de sociala mediebolagens framtid och om hur de digitala samtalen i kommentarsfält runt inlägg är vår tids studiecirklar.

I förra veckan kom så beslutet från Facebooks tillsynsråd gällande avstängningen av Trump. Rådet gav Facebook rätt gällande avstängningen och ansåg den befogad i relation till händelserna runt Kapitolium – men var kritiska till en avstängning ”på obestämd tid”.

Rådet har nu bett Facebook att inom sex månader själva fatta beslut i frågan – som alltså får tillbaka den heta potatisen.

Tillsynsrådet skapades och finansieras av Facebook för att hantera några av bolagets allra svåraste modereringsbeslut online. Deras beslut är ett sista avgörande och bindande för Facebook. Syftet är att genom oberoende experter från hela världen få hjälp i processen om vad man ska ta bort och vad man ska låta vara kvar och varför (läs mer om bakgrunden och Facebooks tankar när de själva överlämnade frågan om Trumps framtid på Facebook till Tillsynsrådet i vår text från förra veckan).

Beslutet gällande Trumps avstängning är hos Tillsynsrådet kategoriserat under etiketterna USA, Farliga individer och organisationer, Yttrandefrihet, Politik och Säkerhet. Ärendet har handlat om två inlägg som togs bort under stormningen mot Kapitolium med hänvisning till communityregler gällande: ”farliga individer och organisationer”.

Redan här förstår man varför det här beslutet – trots ifrågasättandet av Tillsynsrådets egentliga legitimitet eftersom de finansieras av Facebook – fått så stor uppmärksamhet över hela världen.

Processen och analysen runt Trumps omdiskuterade inlägg är ett stycke nutidshistoria en del av den föregående amerikanske presidentens användande av sociala medier som avslöjar de utmaningar för såväl techbolagen som demokratin har att hantera genom dessa direktkanalers plats i människors liv och med den enorma räckvidd de har.

I tillsynsrådets process avböjer eller fastställer de ärenden och valde alltså att fastställa själva beslutet att stänga av Donald Trump från Facebook där han hade 35 miljoner följare och Instagram med 24 miljoner följare. Såväl avstängningen för 24 timmar och förlängningen anser de var rätt under rådande omständigheter.

De konstaterar att val utgör en central del av demokratin och att de våldsamma händelser som inträffade den 6 januari 2021 skedde just under räkningen av elektorsrösterna i valet 2020. Beslutet om att avstängningen var därför korrekt fattat i relation till de våldsamheter som skedde och som hotade den konstitutionella processen.

Rådet menar att inläggen bröt mot Facebooks regler som förbjuder hyllande av och stöd för personer som utför våldsamma handlingar.

Tillsynsrådet lyfter också att regeln om våld och uppvigling har brutits: ”Rådet fann att Donald Trump, genom grundlösa påståenden om valfusk och ständiga uppmaningar till handling, skapade en miljö i vilken en allvarlig risk för våld förelåg.”

I det uttalande som Trump själv via sina medarbetare gjort i samband med tillsynsrådets bedömning hävdar de att Trump ”uppmanade de som var närvarande på och vid Kapitolium den dagen att vara fredliga, följa lagen och respektera polisen” och fortsätter att det är ”otänkbart att något av de två inläggen skulle kunna ses som ett hot mot allmän säkerhet, eller som en uppmaning till våldshandlingar”.

I stort anser de att Trumps ord inte på något sätt påverkade säkerheten och att ”dessa ord inte var avsedda eller kan tolkas ”av någon förnuftig betraktare” som en uppmaning till våld eller laglöshet.

Rådet fångar dock upp det faktum att några av de som deltagit i upploppet sagt att de gjort så på uppmaning av Donald Trump och citerar ur en video som en person på trappan till Kapitolium skriker till en polis om att de var inbjudna dit. ”We were invited here! We were invited by the president of the United States!”.

Däremot är Tillsynsrådet djupt kritiska till att Facebooks vanliga regler gällande avstängningar inte tillämpades. Normalt är att Facebook tar bort innehåll som bryter mot regler, inför tidsbegränsningar eller stänger av sidan och inaktiverar den permanent.

Tillsynsrådet skriver därför också i sitt beslut ”det var emellertid inte berättigat av Facebook att tillämpa den vaga och oreglerade påföljden med avstängning på obestämd tid.”

Den 7 januari förlängde Facebook den initiala 24-timmars avstängningen till att gälla ”på obestämd tid och åtminstone de närmaste två veckorna fram tills ett fredligt maktöverlämnande slutförts.”

Men de valde sedan att inte ställning i frågan om kontots framtid utan skickade ärendet till tillsynsrådet. Facebook förklarar det med hänvisning till att våldet med koppling till Trump inte upphörde.
De refererade till en bulletin från NTAS (National Terrorism Advisory System) som den 27 januari Department of Homeland Security (DHS) som beskrev en ”förhöjd våldsrisk i hela USA, vilken DHS anser kommer att kvarstå under veckorna efter det att presidentinstallationen genomförts” och att “drivkrafter till våld kommer att kvarstå under början av 2021 och att stormningen den 6 januari 2021 av Kapitolium i Washington D.C. kan ha uppmuntrat vissa personer till att angripa folkvalda ämbetsmän och myndighetsbyggnader”.

Beslutet i avstängningsfrågan skickade rådet nu tillbaka till Facebook och formulerar det som att ”Rådet insisterar på att Facebook granskar ärendet för att fastställa och motivera en proportionerlig åtgärd som är förenlig med de regler som tillämpas på andra användare av företagets plattform.”

Rådet menar att detta är en fråga som inte bordet lagts på deras bord överhuvudtaget och att Facebook på detta sätt försöker undkomma sitt eget ansvar: ”Avstängningar på obestämd tid finns inte beskrivna i företagets riktlinjer för innehåll.” Uppgiften att stänga av de som allvarligt bryter mot Facebooks regler är en fråga för dem och inte rådet att lösa.

Och här ska man nog särskilt notera formuleringen ”tillämpas på andra användare”. Detta är en av nyckelfrågorna som diskuteras i beslutet.

Vikten av att alla användare ska behandlas likvärdigt på plattformen är en utgångspunkt. Frågan är därför inte så enkel som att göra specialregler för politiska ledare eller andra inflytelserika användare. Rådet poängterar att även andra användare med stora målgrupper kan bidra till allvarlig skada. Sammanhanget är det angelägna för bedömningen av sannolikhet och övervägande risk för skada. Och att även statsöverhuvud eller högre regeringstjänstemän som upprepade gånger gör inlägg som ”medför risk för skada enligt internationella normer för mänskliga rättigheter” bör de stänga av kontot för en tillräckligt lång till tid som skyddar mot skador.

Värt att komma ihåg är att Facebook tidigare funnit fem andra brott mot communityreglerna i organiskt innehåll som publicerades på hans Facebook-sida, varav tre under 2020. De inläggen togs bort, men medförde inga begränsningar på kontonivå för Trump.

Facebook har ju själva också efterfrågat rekommendationer för avstängningar när användaren är en politisk ledare när de själva överlämnade ärendet till tillsynsrådet.

Rådet ger några rekommendationer och menar att om det finns en stor sannolikhet för nära förestående skada måste Facebook agera snabbt och verkställa sina regler. Rådet uppmanar Facebook att vidta åtgärder runt den osäkerhet som verkar gälla och inte prioritera potentiellt skadliga händelser på grund av principen om innehåll med nyhetsvärde.

Det finns ju ett undantag mot att innehåll som bryter mot reglerna kan få finnas kvar om Facebook anser att det är av nyhetsvärde och allmänt intresse.

Något av det mest intressanta för framtiden är den rekommendationen som rådet ger Facebook att de ska genomföra ”en ingående granskning av hur Facebook kan ha bidragit till ryktena om valfusk och de ökade spänningarna som kulminerade i våldsamheterna i USA den 6 januari. Detta bör göras som en öppen reflektion över utformningen och regelbesluten Facebook har fattat som kanske gjort det möjligt att missbruka plattformen.”

Här kanske Tillsynsrådets största nytta finns, att vi får en chans att se mer av hur Facebook arbetar internt och hur de ser på sin roll. Vi vet det sedan tidigare, och än tydligare under pandemin är frågan om hur algoritmerna exponerar innehåll. Det gemensamma beslut bland en mängd nätaktörer där beslutet om vilken information om Covid-19 som synliggörs mer eller vad för slags innehåll som mer trycks ner och dämpas i spridningsfastighet avslöjar algoritmernas betydelse för ryktesspridning och tillgång till korrekt information.

Kanske kan redovisningen av detta trots allt också avslöja det som Facebook alltid menat inte stämmer. De säger sig aldrig haft en allmän regel som är mer tillåtande för innehåll publicerat av politiska ledare. Men redan nu har det genom analysen av Trumps blockade inlägg framkommit genom information från Facebook att det trots allt gör korskontroller för framträdande konton vars inlägg flaggats. Rådet noterar den bristfälliga insynen i den här processen och flaggar för att otydligheten här innebär olika processer som kan leda till olika konkreta resultat.

Det här är ju interna processer som borde granskas ytterligare och närmar sig något av det mest besvärande av allt för Zuckerberg i efterspelet av tillsynsrådets beslut. Att beslutsprocessen ser annorlunda ut för framträdande användare är tydlig men hur och vem fattar då slutligen de avgörande besluten?

Rådet menar att den här bristen på transparens runt detta ”bidrar till uppfattningar om att företaget kan var otillbörligt påverkat av politiska och kommersiella överväganden”.

Ett faktum är att i detta ärende har Facebook undvikit att svara helt eller delvis på sju av de 46 kompletterande frågorna som Tillsynsrådet ställt till Facebook. De frågor som ej besvarats rör just detta om hur Facebooks nyhetsflöde och andra funktioner påverkade synligheten för Trumps inlägg och hur de undersökt och planerar att undersöka dessa designbeslut.

Andra frågor de inte besvarat rör avstängning av andra politiska personer och borttagning av annat innehåll, huruvida Facebook hade kontaktats av politiska ämbetsmän eller deras anställda om avstängningen av Trumps konton och huruvida avstängningar och borttagning av konton påverkar annonsörernas förmåga att rikta sig mot följares konton. Facebook avvisar att svara på några av dessa frågor för att de ”inte rimligen krävdes för beslutsfattande av stadgans syfte” och inte kunde besvaras med hänvisning till rätts-, sekretess-, säkerhets- eller dataskyddsrelaterade frågor.

Detta är ändå intressant och visar Tillsynsrådets begränsningar.

Tillsynsrådets arbete är att granska utvalda symbolärenden och avgöra om besluten som Facebook tagit fattats i enlighet med företagets angivna värderingar. När väl ett ärende tas upp av nämnden kan vem som helst inkomma med synpunkter. I det aktuella fallet var det drygt 9 666 framställningar från tredje part från hela världen och de finns att läsa här i sin helhet.

I rådets analysarbete finns många och långa resonemang om mänskliga rättigheter och Facebooks ansvar gällande dem. De lyfter också fram att politiska tal har ett högt skydd i människorättslagstiftningen. Och reflekterar över å ena sidan Trumps yttrandefrihet och människors rätt att höra vad politiska ledare har att säga. Å andra sidan förväntas också statstjänstemän enligt internationella normer ”att fördöma våld, tillhandahålla allmänheten korrekt information om ämnen av allmänt intresse samt korrigera felaktig information”.

Och även här lyfter rådet in den internationella lag som tillåter att yttrandefriheten kan begränsas om villkoren är tydliga och tillgängliga, utformade för ett berättigat ändamål och nödvändiga och stå i proportion till risken för skada. Det är dessa tre krav som rådet utgår från i sin analys.

De har också bedömt inläggens förmåga att skapa allvarlig risk för att uppvigla till diskriminering, våld och andra olagligheter utifrån de sex faktorerna som ligger till grund för ”The Rabat Action plan”. Det är en handlingsplan som FN:s högkommissarie för mänskliga rättigheter, OHCHR, tagit fram som ska försöka adressera skillnaden mellan just gränsen mellan yttrandefrihet och uppmuntran till hat.

Det sexstegs tröskeltest och rekommendationer, som även kan bli ett relevant och användbart verktyg för alla plattformar med moderering, användes för att analysera de aktuella stoppade inläggen.

Rabats handlingsplan för att på digitala plattformar kunna definiera gränserna mellan yttrandefrihet och uppmuntran till hat består bland annat av detta tröskeltest. Tillsynsrådet analyserade Donald Trumps blockerade inlägg utifrån dessa sex steg.

Det sexdelade tröskeltestet tar hänsyn till det sociala och politiska sammanhanget, talarens status, talarens avsikt att uppmana publiken i en viss riktning och mot en målgrupp, talets innehåll och form , omfattningen och räckvidden av inläggets spridning och sannolikheten för skada, inklusive överhängande risk.

Tillsynsrådets gjorde då följande analys:

  1. Den kontext som inläggen gjordes i var under en tid av stora politiska spänningar och centrerade kring ”grundlösa påståenden” om att valet hade stulits.
  2. Donald Trumps status som president och politisk ledare gav hans inlägg stort inflytande och som statsöverhuvud innebar också inläggen att han supportrar skulle tro att det kunde agera utan att det skulle få konsekvenser.
  3. På frågan om avsikt skriver rådet att det inte är i den positionen att de kan avgöra vilka Trumps avsikter var men menar att han borde eller troligen visste att de skulle legitimera eller uppmuntra till våld.
  4. Här lyfter de fram hur han hyllade och stödde personer som deltog i upploppen och att han ”använde sin kommunikativa makt som president till att stödja de som angrep Kapitolium” och försökte förhindra den lagenliga räkningen av elektorsröster.
  5. Omfattningen och räckvidden var stor både i de digitala kanalerna och dessutom plockas inläggen upp av traditionella medier och supportrars och får därmed än större räckvidd.
  6. Risken för överhängande skada var stor eftersom inläggen publicerades under en tid då våldshandlingar pågick och påverkade kongressens arbete med rösträkningen.

Så nu ligger bollen hos Facebook igen och bolaget ska inom sex månader återkomma till vilket deras beslut blir. Rådet skriver att ett eventuellt beslut om att öppna kontot igen måste basera sig på att Facebook t.ex. ”måste vara nöjda med att Donald Trump har upphört med att göra grundlösa påståenden om valfusk på det sätt som berättigade till en avstängning den 6 januari”.

Vad gäller frågan som Facebook bad rådet ge riktlinjer om gällande synen på politiska ledare svarar de att ”sammanhanget är viktigt i bedömingen av orsakssamband, sannolikhet och överhängande risk för skada” och att det viktiga är ”vilken grad av inflytande en användare har över andra användare”.

De betonar också vikten av att innehållsmodereringen sker av specialiserade medarbetare som har kunskap om den ”lingvistiska och politiska kontexten”. Det ska också vara medarbetare som är skyddade från politisk, ekonomisk och otillbörlig påverkan.

En fråga som blir tydlig genom den här djupdykningen i det enorma modereringsarbete som Facebook har att hantera varje dag är också den dominans plattformen har på marknaden. Deras moderering och hanterandet av mänskliga rättigheter samt bristande insyn i allt från korskontroller till exakt hur processen för varningar och påföljder ser ut får konsekvenser för demokratiska processer.

Det väcker också frågan om framtiden för sociala medier och internet i stort.

De digitala samtalen i kommentarsfält och runt inlägg är vår tids studiecirklar, det man förr lärde sig i grupp: att diskutera, debattera och lyssna på varandra. Att moderera dessa fria samtal på digitala plattformar är utmanande och måste hanteras med varsam hand. Men det är uppenbart att något hänt när det gemensamma lärandet förflyttats ut på nätet och när frågan om mer hälsosamma mötesplatser står högt på agendan hos fler än Facebook.

Kanske kan det som nu sker tack vare tillsynsrådet vara del av en process som gynnar utvecklingen av modereringsarbetet. Det är en tillgång för att möta problemet med hat och hot.

Inte för att stoppa inlägg men för att skicka en signal till alla användare och medborgare att man som plattformsägare tar sitt ansvar för de nya digitala torgen.

Foto: ABF Studiecirkel, Digitalt museum, public domain-märke 1.0.