Algoritmer i sociala medier formar unga européers världsbild – nya rapport belyser logiken bakom sociala medier

Algoritmer i sociala medier formar unga européers informationsmiljö på sätt som de varken ser eller kan kontrollera. Detta utsätter dem för en snedvriden, känsloladdad och sensationslysten politisk informationsmiljö, vilket kan försvaga det demokratiska deltagandet.

Resultaten framgår av den nya rapporten Algoritmer och demokrati som sammanställts av Sitra, Behavioural Insights Team och Bondata. Rapporten visar också att varannan ung vuxen i Europa känner besvikelse, rädsla, ilska eller sorg när de stöter på politiska och samhälleliga diskussioner på sociala medier. Resultatet var likartat i alla undersökta länder: Finland, Frankrike och Rumänien.

Plattformar för sociala medier har snabbt vuxit fram som centrala informationskällor och diskussionsarenor i den digitala tidsåldern.

”Plattformarna är dock inte neutrala informationsförmedlare, utan de styr medborgardebatten, människors beteende och känslor med hjälp av ogenomskinliga algoritmer”, säger Kristo Lehtonen, direktör för internationell verksamhet på Sitra.

Sitra strävar efter att skydda och förnya den europeiska demokratin. Därför ville man belysa hur plattformarnas algoritmer serverar politiskt innehåll till unga européer och rekommendera lösningar för att göra den digitala offentliga debattarenan tryggare för demokratin och användarna. Rapporten Algoritmer och demokrati är en fortsättning på Sitras tidigare arbete med att förstå digital makt, det vill säga maktutövning som grundar sig på data och digitala teknologier.

Politisk snedvridning och sensationslystnad

I rapporten har två studier genomförts och kombinerats:

• Den första studien genomfördes av det ansedda global forskningskonsultbyrå Behavioural Insights Team (BIT). För rapporten skapade BIT avatarer, det vill säga virtuella karaktärer i åldern 18–24 år, på TikTok, Instagram och X och undersökte vilken typ av politiskt innehåll algoritmerna rekommenderar till avatarerna i Finland, Rumänien och Frankrike. Under testerna stötte avatarerna på sammanlagt 1 719 politiska inlägg på sociala medier, som forskarna klassificerade.
• Den andra studien är en enkätundersökning som genomfördes av det finländska företaget Bondata bland 18–29‑åringar i samma länder. Enkäten undersökte bland annat vilka känslor innehåll på sociala medier väcker hos unga vuxna i Europa.

Under studien mötte de avatarer som skapats av BIT i genomsnitt klart mer högerorienterat innehåll än vänsterorienterat eller mittenorienterat innehåll på sociala medieplattformar. Detta skedde även när avatarerna uttryckligen visade intresse för vänsterpolitik. Av de 1 719 politiska inlägg som avatarerna stötte på var 58 procent högerorienterade. Vänsterorienterade inlägg utgjorde 26 procent av alla inlägg och mittenorienterade 16 procent.

Forskarna på BIT observerade också en högerpolitisk bias i genomsnitt i Finland, men det fanns skillnader mellan plattformarna och mellan de två skilda forskningsomgångarna.

Resultaten visar också på en pågående försämring av innehållet på sociala medieplattformar. Plattformarna övergår från att prioritera användarupplevelsen till att maximera engagemang och kommersialisering. Hela 67 procent av allt politiskt innehåll som avatarerna stötte på var åsiktsbaserat och underhållande, och en typ av innehåll som inte kan faktagranskas. Många inlägg var sensationslystna, tillspetsade och presenterade ofta även extrema åsikter. Exempel på sådant innehåll var AI‑genererade videor där gorillor berättar misogyna och främlingsfientliga skämt, samt memer som uttryckte stöd för nazistisk ideologi.

”Sådant innehåll bryter inte mot plattformarnas regler och kan inte kontrolleras i fråga om sanningshalt. Som dominerande samhälleligt innehåll på sociala medier skapar det ändå en miljö där det är svårt att föra en konstruktiv medborgardebatt”, konstaterar Ilkka Räsänen, projektansvarig för Algoritmer och demokrati och direktör för EU‑ärenden på Sitra.

I Bondatas enkät uppgav över en tredjedel av unga vuxna i Finland att de regelbundet eller upprepade gånger möter misinformation, konspirationsteorier, hatretorik eller nedsättande språk på sociala medier. Hälften av svarspersonerna känner besvikelse, ilska, rädsla eller sorg när de följer politiska diskussioner på sociala medier.

Mot en hälsosammare digital miljö

Sitras rapport Algoritmer och demokrati ger beslutsfattare, myndigheter, pedagoger och sociala medieplattformar flera rekommendationer för hur den digitala miljön kan göras hälsosammare och tryggare för demokratin och användarna.

Europeiska kommissionen bör fortsätta den strikta tillämpningen av förordningen om digitala tjänster (DSA) för att öka plattformarnas transparens och ansvarstagande. Plattformarna bör införa standardinställningar som minskar automatisk uppspelning av innehåll och därmed tjänsternas beroendeframkallande karaktär. Standardinställningarna bör också göra det lättare för användare av sociala medier att påverka sina rekommendationsalgoritmer.

Unga européers digitala läskunnighet och demokratiska deltagande måste stärkas. En del av detta är att främja användningen av europeiska demokratiteknologier, såsom deltagandeplattformar, crowdsourcing‑verktyg och valkompasser.

Sitra rekommenderar också att EU‑länderna överväger att höja åldersgränserna för full användning av alla funktioner på sociala medier och att säkerställa en effektiv tillsyn av åldersgränserna, helst samordnat på EU‑nivå.