Rechtsextremisme op sociale media platforms en de invloed van het algoritme
Het vandaag verschenen rapport over online rechtsextremisme en de invloed van sociale media op rechtsextremistische radicalisering biedt waardevolle inzichten en haalbare handelingsperspectieven om gewelddadige rechtsextremistische radicalisering online tegen te gaan. Het onderzoek werd gedaan door het Verwey-Jonker Instituut en Textgain, in opdracht van het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC).
Er is specifiek gekeken naar hoe gewelddadig of terroristisch gedachtegoed zich online ontwikkelt en naar de invloed van aanbevelingsalgoritmen op sociale mediaplatforms. Ook is onderzocht in hoeverre offline contacten een rol spelen in rechtsextremistische radicalisering.
Veel verschillende risicofactoren in beeld
Het rapport benadrukt het complexe karakter van radicaliseringsprocessen en de vele risicofactoren die hieraan bijdragen. Zowel online als offline factoren spelen een cruciale rol en er is sprake van een wisselwerking tussen beiden. Dit onderstreept het belang van een dieper begrip van deze interacties, en het kabinet zal verder onderzoek dan ook stimuleren om deze dynamiek beter te begrijpen.
Rechtsextremistische individuen en netwerken hanteren verschillende online strategieën om hun gedachtegoed te verspreiden en de leefwereld van mensen binnen te dringen. Denk daarbij aan het vermommen van content door humor maar ook langdurige blootstelling aan content waardoor mensen er meer aan wennen. Met name alternatieve, kleinere platforms zijn een populaire voedingsbodem hiervoor, aangezien deze minder of niet worden gereguleerd. Niet-extremistische online subculturen en influencers fungeren als ingang naar extremistische ideeën.
Rol algoritme complex
Het onderzoek werpt licht op de bevinding dat keuzes en het zoekgedrag van gebruikers minstens zo belangrijk zijn als de mogelijke rol van aanbevelingsalgoritmen. Denk bijvoorbeeld aan het abonneren op bepaalde kanalen, het doorsturen van links naar extreme content naar familie en vrienden en het online ontmoeten van gelijkgestemden. Mensen gaan ook zelf op zoek naar dit soort content. Het is dan ook belangrijk om bij de aanpak van online radicalisering, extremisme en terrorisme te focussen op het persoonlijk surf- en zoekgedrag van gebruikers. Daarnaast is het vanwege de complexiteit van dit vraagstuk van belang om meer onderzoek hiernaar te doen. Nieuwe Europese wetgeving biedt daar mogelijkheden voor.
Borderline content
Een centraal punt in het rapport is de uitdaging rond 'borderline content' - content die als onwenselijk kan worden ervaren maar niet illegaal is. Denk hierbij aan polariserende content. Er blijft een grijs gebied over rond borderline content omdat deze niet op basis van de wet verwijderd kan worden. Het beoordelen van dergelijke content is complex en er is meer expertise nodig om dit adequaat te identificeren en aan te pakken. De komende jaren zal dit een belangrijke uitdaging vormen in de online aanpak.
Aanpak
Dit onderzoek komt zeer goed van pas bij de Versterkte Aanpak Online inzake extremistische en terroristische content. Een belangrijk onderdeel daarvan is de dialoog met de internetsector, de internationale inzet en het versterken van mediawijsheid en digitale weerbaarheid. De aanbevelingen van de onderzoekers gaan helpen om hierin verdere stappen te zetten.