TikToks filter luras av enkla omskrivningar, som "unalive" istället för "döda"
Foto: AI-genererad illustration
Trots löften om säkrare plattformar har TikTok enorma luckor i sitt filtreringssystem, luckor som kringgås med enkla ordbyten. Det avslöjas i kölvattnet av Fagerstamordet, där den misstänkte gärningsmannen tros ha tagit del av och spridit våldsförhärligande innehåll via appen.
Filtret förstår inte koden som alla användare känner till
Det räcker med ett enda ordyte för att lura TikToks automatiska filter. Enligt SvD:s techanalytiker Björn Jeffrey fungerar omskrivningar som "unalive" istället för "döda" utan problem, eftersom systemet inte känner igen kodorden.
Jeffrey påpekar att TikTok samtidigt sparkar hundratals moderatorer och låter automatiserade system ta över mer av granskningsarbetet. Enligt The Independent har 300 moderatorer nyligen fått sparken, vilket försvagar den mänskliga kontrollen ytterligare.
En granskning av SR P3 Nyheter visar att nazistiskt och våldsförhärligande innehåll visas för vanliga användare redan efter några minuter på plattformen, utan att söka efter det.
Plattformen är byggd för att driva trafik mot extremt innehåll
Forskare och experter är samstämmiga: problemet handlar inte bara om bristande teknik, utan om hur plattformens affärsmodell fungerar.
– De vill fånga vår uppmärksamhet och de vill fånga vår data. För att det är så som de här plattformarna tjänar pengar, säger Petter Törnberg, forskare om högerextrema miljöer på sociala medier, till SR P3 Nyheter.
Helena Josefson på Center mot våldsbejakande extremism delar den bilden och beskriver hur algoritmen snabbt för användare från harmlöst innehåll till extremism.
– Det börjar med en meme och inom en kvart har du hamnat i en ekokammare med våldsförhärligande innehåll, säger hon till SVT Nyheter Västmanland.
Josefson anser att TikTok aktivt brister i moderering och att plattformen driver trafik mot extremt innehåll snarare än att motverka det.
Fagerstamordet sätter press på techbolagen
Fagerstamordet har satt frågan om sociala mediers ansvar högt på dagordningen i Sverige. Den misstänkte gärningsmannen kopplas till våldsförhärligande material som cirkulerat på TikTok, vilket har lett till ökad granskning av hur plattformen hanterar sådant innehåll.
Kritiken mot TikTok är inte ny, men kombinationen av nedskärningar bland moderatorer och ett filtreringssystem som enkelt luras av kodspråk gör att experter nu kräver tydligare åtgärder. EU:s digitala tjänstelag, DSA, ställer krav på stora plattformar att hantera illegalt och skadligt innehåll, och Europeiska kommissionen har tidigare inlett utredningar mot TikTok med hänvisning till just algoritmernas påverkan på unga användare.
