JUDISK VANMAKT. Sociala medieföretags ”förintelsealgoritmer” är inte tillräckligt avancerade för att kunna identifiera endast ”förintelseförnekare”. Nu klagar allt fler ”förintelseupplysare” på censur.

Sociala medier. Foto: CC public domain.

Befintlig AI gäckar ganska ofta sociala medieföretag med ambitioner att detektera och rensa bort inlägg med oönskad information från sina plattformar.

I oktober, en dag efter att Facebook förra året kungjort att man kommer att bannlysa förintelseförnekande, erhöll judinnan Izabella Tabarovsky ett oväntat meddelande från plattformen.

Ett inlägg författat av henne där hon gillar en artikel hon själv skrivit om ”hågkomst av förintelsen” hade tagits bort, då den uppgavs bryta mot Facebooks ”standard för hatfulla kommentarer”.

Ingen ytterligare information gavs, och Tabarovsky kan inte minnas ha givits någon information om hur man kan överklaga beslutet. Hon vände sig till en talesperson för Facebook som hon fann på Twitter, men hon fick inget svar.

Facebooks beslut att förbjuda ”förintelsförnekande” kom efter att judisk lobby hade skambelagt den judisk-ägda plattformen för att tillåta ”hatfulla kommentarer”.

Judinnan skrev om ”förintelsen på sovjetisk mark” – blockerades
Men Tabarovsky är ingen så kallad förintelseförnekare. Hon är en judisk journalist som skriver om ”sovjetisk judenhet” och vad hon kallar ”förintelsen på sovjetiskt territorium”.

Artikeln i fråga hade titeln ”De flesta judarna mördades inte i dödsläger. Det är dags att vi börjar prata om den andra förintelsen”.

Rubriken kunde uppenbarligen detekteras av en algoritm avsedd att upptäcka ”förintelseförnekande” – med följden att Tabarovskys inlägg blockades. Men hon vet inte med säkerhet, eftersom hon aldrig hört något från Facebook.

— Vi har sett så mycket antisemitiskt tal. De kan inte bekämpa det, de kan inte ta bort det, och ändå tar de bort förintelseinlägg från 2019. Det är helt otroligt, kommenterar Tabarovsky till Jewish Telegraphic Agency (JTA).

Tabarovsky tillhör enligt JTA den stora gruppen sociala medieanvändare, vilkas ”anti-hatinlägg” av misstag fallit offer för de algoritmer som syftar till att rensa bort ”hatfulla inlägg”.

Företag som Facebook, Twitter och TikTok uppger att de har ”steppat upp sin kamp mot kränkande inlägg och desinformation”.

Men den artificiella intelligens som driver dessa system, vilka med JTA:s ord  syftar till att ”utrota rasism och uppmaningar om folkmord”, kan istället ”snärja ambitionerna att bekämpa dessa företeelser”.

Organisationer som fokuserar på ”upplysning” om den så kallade förintelsen menar att problemet är speciellt akut för dem, eftersom det dyker upp vid en tidpunkt då en stor andel unga av okänd anledning börjar ifrågasätta det föreskrivna narrativet om ”förintelsen” – och detta gäller, menar man, internetmiljön i högre grad än någonsin tidigare.

Michelle Stein, Chief Communications Officer för U.S. Holocaust Memorial and Museum, uppger för JTA att museets Facebookreklam ofta har refuserats – tillräckligt frekvent ”för att det ska utgöra ett verkligt problem för oss”.

— Alldeles för ofta går vår undervisningsinnehåll bokstavligt in i väggen, säger hon och fortsätter:

— Det är inte ok att reklam som visar en historisk bild på barn från 30-talet, vilka bär den gula stjärnan, refuseras – speciellt vid en tid när vi behöver undervisa allmänheten om vad det där gula märket representerade under förintelsen.

Inte bara ”förintelseupplysare” vid klagomuren
Så kallade förintelseupplysare är enligt JTA inte de enda som protesterar mot sättet på vilket sociala medie-algoritmer reglerar förmodat ”hatfullt” innehåll.

”Antirasistiska aktivister” har beklagat hur deras Facebook-inlägg behandlas som ”hatfulla” och man uppmanar nu plattformen att ändra sina algoritmer.

Judiska TikTok-användare uppger att de har censurerats efter att ha postat ”helt uppenbart projudiskt material”.

Under Israels senaste angrepp på palestinier i Gaza hävdade både proisraeliska och propalestinska aktivister att deras inlägg hade dolts eller tagits bort från Instagram och andra ställen.

Facebook (som äger Instagram) och TikTok förklarar båda för JTA att användare, vars inlägg har tagits bort, kan överklaga beslutet.

Men Stein menar att motivet till att inläggen är blockade är otydligt, och att överklagandeprocessen ibland kan ta flera dagar.

Om och när inläggen slutligen godkänts, förklarar hon, har deras relevans ofta redan försvunnit. Museet har försökt nå ansvariga på Facebook för en kommentar, men utan framgång.

— Det oklart vilken del av inläggen som är problemet, så vi är utelämnade till gissningar. Men av desto större betydelse, det hindrar oss från att få ut just det meddelandet i tid, resonerar hon och fortsätter:

— Den stora potentialen hos sociala medier är inte undervisning förankrad i ett klassrum, utan undervisningsögonblick förankrade i vad som händer där vi är – så när du måste avbryta så innebär det en stor förlust.

En talesperson för Facebook berättar för JTA att man använder ”en kombination av mänsklig och automatiserad kontroll” för att upptäcka ”hatfulla kommentarer”, samt att människor ”vanligtvis” granskar de automatiserade besluten.

I Facebooks definition av ”förintelseförnekelse” ingår inlägg som i något avseende ifrågasätter ”det faktum att förintelsen ägt rum, offrens antal, metoderna, samt dess avsiktlighet”.

— Vi förlitar oss inte exklusivt på specifika ord eller uttryck för att skilja mellan förintelseförnekelse och förintelseupplysning, förklarar talespersonen för JTA och fortsätter:

— Vi har även eskaleringsteam som kan lägga mer tid på innehåll och förskaffa sig ytterligare kontext så att vi kan ta mer grundade beslut.

TikTok säger även de till JTA att mänskliga moderatorer granskar innehåll som flaggats av deras AI-system, samt att man instruerar sina moderatorer att skilja mellan ”hatfulla kommentarer” och vad man kallar ”mot-tal”.

ADL: ”Följ vår policy & redogör för oss exakt hur ni arbetar!”
— Vi vet inte när de använder automatiserade verktyg, vem som bestämmer vad antisemitism är eller vem som beslutar vad anti-svart rasism är, förklarar Daniel Kelley, biträdande direktör för Anti-Defamation League’s Center for Technology and Society.

ADL var en av organisatörerna av en högprofilerad bojkott mot Facebook förra året i protest mot vad man förklarade vara ”en slapp policy mot hatfulla kommentarer”.

Senare samma år kungjorde så Facebook att man avsåg börja bannlysa ”förintelseförnekelse” samt ”slå ned på andra uttryck för hat”.

Både Facebook och TikTok säger sig vara angelägna att hålla ”antisemitism” borta från sina plattformar och TikTok uppger att man samarbetar med såväl ADL som World Jewish Congress för att forma sin moderering av antisemitiskt hat. WJC arbetar också med Facebook.

— Det är mycket svårare att hantera saker som ton eller kontext, och det är här som utveckling av AI är avgörande, och det är ett område som behöver utvecklas, men det kommer aldrig blir perfekt, förklarar Yfat Barak-Cheney, WJC:s internationella direktör.

— Nakenhet är till exempel lätt för maskiner att upptäcka – inlägg med nakna kroppar tas till 98 eller 99 procent bort automatiskt innan de når plattformen. Misstänkta hatfulla kommentarer, där faktorer såsom ton och innehåll har en större roll, är maskiner av idag normalt inte lämpade till att rensa bort, tillägger hon.

Barak-Cheney betonar att hennes organisation är tveksam att ”pressa plattformar till ett överambitiöst modererande av ämnen som förintelsförnekelse” – eftersom det är viktigare för dem att Facebook och andra sajter själva tar ansvar ”och rensar bort hatfulla kommentarer”.

Innan WJC firar sin årliga förintelsens åminnelsekampanj på sociala medier, kallad #WeRemember, kommer man skicka inlägg till sociala medieplattformar för ”för godkännande” – för att försäkra sig om att de inte blockeras sedan när de är avsedda att läggas upp.

— Det finns förbättringar att göra, men om vi drev på och sa ’Hej, ni borde tillåta mer innehåll’ skulle detta motsäga vår vädjan till dem att förvissa sig om att det inte finns något överträdande skadligt innehåll kvar, avslutar hon.

”Den missriktade censuren visar ändå att de är på tårna.”
Pawel Sawicki, talespersonen för Auschwitz-Birkenau State Museum, säger att om ”förintelseupplysande” inlägg blockeras, ”så är det åtminstone ett tecken på att plattformar tar saken på allvar”.

Sawicki förklarar att museet hittills inte fått sina inlägg blockerade, samt att ”potentialen hos förintelseförnekelse till spridning på sociala medier” oroar honom starkt – trots plattformarnas policies.

— Om sådant innehåll faktiskt försvinner, så visar det den roll som bortrensning kommer att spela på sociala medier, tillägger han och fortsätter:

— Saker och ting förändras, och vi hoppas att det innebär en verklig förändring av deras approach till hatfulla kommentarer mer universellt.

Ovan omskrivna Izabella Tabarovsky, hon som skrev om ”förintelsen på sovjetiskt territorium” stöder även hon fenomenet att sociala medieföretag ”agerar med kraft mot förintelseförnekelse och hatfulla kommentarer”.

Men hon skulle samtidigt vilja kunna förstå varför hennes egna inlägg blockerades, samt – helst – hitta ett sätt att undvika att det händer igen.

Förra veckan, efter att JTA frågat om Tabarovskys inlägg, och mer än sex månader efter att det togs bort, lade Facebook åter upp det på plattformen.

— Det blir bara galet när du har att göra med en robot som inte kan skilja mellan förintelseförnekelse och förintelseupplysning, säger Tabarovsky och avslutar:

— Hur hamnade vi som mänsklighet här, där vi lagt ut sådana viktiga beslut på robotar? Det är bara helt galet.

  • Publicerad:
    2021-07-01 11:20