Monika Hübscher: Så förstärks antisemitismen av sociala medier

SKMA Nyhetsbrev mars 2023

Sociala medier spelar en central roll för att sprida antisemitism. Genom det sätt som algoritmerna är utformade bidrar de till att främja och förstärka hatbudskap. Därför är det viktigt att utbildningssatsningar riktade mot antisemitism beaktar de sociala mediernas teknologi, verktyg och funktionssätt, skriver den tyska antisemitismforskaren Monika Hübscher.

Antisemitismen i sociala medier är ett globalt fenomen. Den framträder på många språk, känner inga geografiska gränser och tycks påverka samhället i dess helhet. Det är därför ingen överraskning att praktiskt taget alla rapporter på temat visar på en ökning av antisemitiska incidenter och vittnar om sociala mediers synnerligen oroväckande roll för att uppvigla till antisemitiskt våld.

Sociala medier är företag som för sina intäkter är beroende av användargenererade inlägg. Det finns två intäktskällor: användargenererat innehåll som, om det skapar mycket engagemang, blir attraktivt för annonsörer, vilket i sin tur betyder ökade intäkter för företaget. Ofta kommer dock intäkterna från annonser som baseras på användarnas personliga data, vilka sociala medieföretag samlar in och tjänar pengar på. Användarnas personliga data kan nyttjas för riktade annonser, vilket följande exempel visar:

2017 möjliggjorde Facebook för annonsörer att rikta sina erbjudanden till nyhetsflöden hos 2 300 personer som visat intresse för explicit antisemitiska teman. Bland de antisemitiska kategorier de intresserat sig för fanns till exempel ”Judehatare” och ”Historien om ’varför judar förstör världen’”, men även kategorier som inbegrep våldsamma hot och folkmordsinriktade tankar som ”Hur man bränner judar”. (Om bilder och texter med hatiskt innehåll återges utan att dekonstrueras så finns en stor risk att budskapet reproduceras. Av det skälet har de hatiska uttrycken här markerats genom överstrykningar.)

Det verkar inte som att Facebook lärt av denna incident. Under våren 2022, fem år efter de antisemitiska Facebook-annonserna, sammanställde en forskargrupp åtta verkliga exempel på hatpropaganda riktade mot rohingyer i Myanmar och skickade in dem i form av annonser. Alla åtta annonserna, som hade ett hatiskt och uppviglande innehåll, accepterades för publicering av Facebook.

Algoritmer organiserar innehållet i sociala medier och säkerställer att innehåll som genererar vinst får flest besökare. Genom dessa algoritmstyrda rekommendationer blir människor med samma preferenser artificiellt sammankopplade. En studie där Facebook och YouTube har använts som exempel har visat att rekommendations-algoritmer gradvis leder användare till mer extremt innehåll.[1] Användare har återkommande rapporterat att när de tittat på utbildningsmaterial om Förintelsen så har de efter ett tag exponerats för innehåll som förnekar Förintelsen.

Förstärker hat

Sociala medieföretag baseras på det som kallas ”uppmärksamhetsekonomi”. Genom gilla- och ogillamarkeringar, delningar och kommentarer skapas engagemang hos användarna, och just dessa verktyg fungerar som incitament för att generera mer material. När superstjärnan Kanye West (Ye) postade ett antisemitiskt inlägg i oktober 2022 kunde potentiellt alla hans 30 miljoner följare på Twitter läsa det. Efter att inlägget togs bort från plattformen fick hans insinuanta tweet som frågade vilka som skapat cancelkulturen och, en månad senare, en tweet som bara innehöll ordet shalom och en smiley runt 450 000 gillamarkeringar vardera.

Det polariserande och även hatiska innehållet på plattformarna väcker användares intresse och leder till massor av engagemang. Det är i synnerhet speciellt populära inlägg av detta slag som algoritmer ytterligare förstärker spridningen av, därför att ju mer och ju längre innehållet engagerar användare desto större intäkter kan sociala medieföretag få genom till exempel annonser.

Kanye Wests kändisstatus och de många gillamarkeringarna och kommentarerna under hans inlägg blir ett uttryck för bekräftelse och stöd. Under veckorna som följde fortsatte West att ge uttryck för sina antisemitiska uppfattningar. Hatet som West spred i sociala medier spillde även över i det verkliga livet. Hetsen ledde till att antisemitiska budskap som refererade till Wests inlägg i sociala medier visades på offentliga byggnader. Wests hatiska utspel och upptåg liksom den omfattande förekomsten av antisemitiska yttranden och bilder i sociala medier generellt har åtföljts av fysiska angrepp på den amerikansk-judiska befolkningen.

Sammanfattningsvis kan sägas att sociala medieföretag främjar, förstärker och profiterar på antisemitiskt hat. Algoritmer är skapade för att förstärka det mest sensationella och extrema innehållet därför att det är detta som vidmakthåller användarnas uppmärksamhet, håller dem klistrade vid sina skärmar och får dem att fortsätta scrolla igenom plattformar så att ytterligare värde kan utvinnas.

Receptionen av antisemitism i sociala medier

Enligt studier är sociala medier den plats där judar på det mest direkta sättet upplever sig utsatta för antisemitism. Andra undersökningar visar att mötet med antisemitism i sociala medier kan leda till ilska, nedstämdhet och chock liksom till ett förändrat beteende på nätet eller till att sociala medier helt undviks.

Människor som påverkats av hat i sociala medier beskriver angreppen med ett språkbruk   liknande det som används vid beskrivningen av fysiskt våldsamma handlingar. Att utsättas för hat i sociala nätverk kan resultera i känslor av rädsla och otrygghet, ökad oro och ångest, och sömnproblem. Att se eller utsättas för hat kan ha en djupgående påverkan på användares vardagsliv och hur de förhåller sig till sin sociala omgivning.

Med hänvisning till att judiska användare uppger att de upplever sociala medier som den sfär där de främst möter antisemitism genomfördes en intervjuundersökning med tre judiska sociala medieanvändare. Den visar att de utsätts för en stor mängd antisemitiskt hat på plattformarna. Som ett resultat av detta utvecklade alla tre strategier för att hantera situationen. De började dölja sin judiskhet, och att endast ha kontakt med andra judiska sociala medieanvändare. På så sätt skapades en judisk bubbla så att användarna skulle slippa bli måltavlor för antisemitism.[2]

I Tyskland, där unga människor växer upp i ett samhälle format av kunskaper, estetik och sociala praktiker som inrymmer spår av antisemitism, kan studien ”Antisemitism and Youth” från University Duisburg-Essen ge insikter om hur antisemitism uppfattas av icke-judiska användare.[3] Det förefaller som att sociala medier kan bekräfta och öka de kunskaper som delvis påverkats av antisemitism.

Till exempel uppger en ung intervjuperson att sociala medier för henne är en viktig källa till erfarenheter. Hon hade haft en temavecka i skolan om konspirationsmyter och hon tar starkt avstånd från antisemitism. Trots detta berättar hon om konspirationsmyter som återkommande förekommer i hennes flöde i sociala medier och att hon var osäker på om dessa var sanna eller falska. Hon berättar om en ö där barn kidnappas och försätts i chock så att de producerar adrenalin. Kändisar injicerar sedan ett så kallat ”adrenokrom” för att förbli unga. Efter att ha beskrivit den historia hon sett i sociala medier funderar hon på om detta kan vara sant eller inte. Varför, undrar hon, skulle någon hitta på en sådan här sak? Enligt henne arbetar inte så kallade konspirationsteoretiker för pengar. Ett konto på Instagram, som hon nämner som ett av sina favoriter, förmedlar de av henne beskrivna antisemitiska berättelserna om ritualmord.

I en engelskspråkig ljudfil med titeln “Beware, this will shock you. Rabbi Finkelstein Speech on Human Sacrifice” säger en påstådd rabbi Finkelstein från New York att hans församling köper surrogatbarn som sedan mördas. Han säger att deras blod används i bakning och att resten av kropparna skickas till McDonald’s för att bli hamburgare. Det tyska Instagramkontot har runt 10 000 följare, och bara antalet följare antyder legitimitet.

Syftet med att det moderniserade och anpassade narrativet om ritualmord ”berättas av en rabbin” är att ”bevisa” att människooffer är en del av judisk religiös praktik och det judiska folket således är omoraliskt och allmänt ondskefullt.

Algoritmer spelar avgörande roll

Analysen av Instagramprofilen visar att om man under uppväxten är omgiven av kunskap påverkad av antisemitism så kan det öka mottagligheten för antisemitiskt innehåll i sociala medier. Vidare kan sociala medie-verktyg som algoritmer, gilla- och ogillamarkeringar, delningar och kommentarer forma användarnas varseblivning och föreställningar. Den intervjuade personen tror att hon stötte på Intagramkontot i sin jakt på sanning, men i själva verket var det algoritmer som utifrån hennes preferenser bestämde att hon skulle se detta konto liksom att hon inte skulle se andra.

Även om hon uppfattar sig själv som kritisk till antisemitism gör återkopplingarna och bekräftelserna i form av besök på sajter, gillamarkeringar, delningar och kommentarer henne blind inför dessas antisemitiska prägel. Att inläggen på Instagram förmodligen överförts från amerikanska konton till ett tyskt sådant vittnar om antisemitismens tidigare nämnda globala omfattning i sociala medier.

Algoritmer spelar en avgörande roll för framlyftandet, främjandet och spridningen av antisemitiskt innehåll i sociala medier. Judiska sociala medieanvändare som drabbas förändrar sitt agerande på nätet och väljer, för att skydda sig, att dölja sin judiskhet. Med andra ord begränsas eller utesluts de från demokratiskt deltagande i sociala medier.

Exemplet från intervjustudien visar att användares konsumtion av antisemitiskt innehåll i sociala medier, påverkat av ”gillanden” som indikerar bekräftelse och stöd, sömlöst kan samexistera med en kritisk inställning till antisemitism i den sociala verkligheten. Därför är det synnerligen viktigt att de sociala mediernas teknologi, verktyg och funktionssätt beaktas i utbildningssatsningar riktade mot antisemitism i sociala medier.

Monika Hübscher

Monika Hübscher är doktorand vid University of Haifa och forskare knuten till University Duisburg-Essen. Hon forskar om antisemitism i sociala medier, algoritmisk antisemitism och antisemitism i Tyskland och är medredaktör för antologin ”Antisemitism on Social Media” (2022). Översättning: Lars M Andersson och Henrik Bachner.

[1]Munn, L. (2020). Angry by design: toxic communication and technical architectures. Humanities and Social Sciences Communications 7. https://doi.org/10.1057/s41599-020-00550-7

[2] Czymmek, Quint (2022). The Impact of Antisemitic Content and Hate Speech on Social Media on Young Jewish Social Media Users. I Hübscher, M. och von Mering, S. (eds.), Antisemitism on Social Media. London and New York: Routledge, s. 181–192. https://doi.org/10.4324/9781003200499-12

[3] Projektet “Antisemitism and Youth” vid University Duisburg-Essen är en kvalitativ empirisk studie som undersöker unga icke-judiska människors syn på judiskt liv, deras erfarenheter av antisemitism och av utbildningsinsatser riktade mot antisemitism. Studien är baserad på en tvåstegsanalys av data från narrativa intervjuer med unga vuxna icke-judar från olika regioner i Tyskland. Sammantaget intervjuades 31 personer mellan 17 och 25 år med olika utbildningsbakgrund och från olika delar av landet. Vid sidan av biografiska frågor inkluderade intervjuerna detaljerade frågor om erfarenheter rörande sociala medier och antisemitism. Genom att människor från olika samhällsgrupper inkluderades representerar urvalet det tyska samhällets kulturella och religiösa mångfald.