'Wereldwijd tekort aan bescherming van meisjes tegen AI-risico's, ook in Nederland'
Meisjes en jongens gebruiken kunstmatige intelligentie (AI) ongeveer even vaak, maar AI behandelt hen niet hetzelfde. Dat blijkt uit “Same question, different answers: the gendered impacts of AI on young people”, nieuw internationaal onderzoek van Plan International. Volgens de onderzoeksresultaten kunnen AI-systemen bestaande genderongelijkheden versterken, terwijl wet- en regelgeving daar nog onvoldoende juridische bescherming tegen biedt. Ook Nederland kent volgens de onderzoekers belangrijke hiaten in de bescherming van adolescente meisjes.
Het onderzoek combineert een enquête onder jongeren uit vier continenten, een analyse van een representatieve dataset onder 3.513 adolescenten uit Spanje, tests met ChatGPT en een juridische vergelijking van wet- en regelgeving in de Europese Unie, Nederland, Frankrijk, Duitsland, Spanje, het Verenigd Koninkrijk, de Verenigde Staten en Kenia.
De belangrijkste conclusie: Meisjes en jongens gebruiken AI ongeveer even vaak, maar gelijke toegang leidt niet automatisch tot gelijke behandeling, gelijke voordelen of gelijke bescherming. Volgens het onderzoek kan AI bestaande maatschappelijke ongelijkheden reproduceren en versterken via de adviezen, informatie en kansen die systemen bieden. Dit vraagt om betere regelgeving en maatregelen van overheden, technologiebedrijven en onderwijsinstellingen.
Gelijke toegang, ongelijke gevolgen
Jongeren gebruiken AI inmiddels massaal. Meer dan acht op de tien jongeren hebben ervaring met AI-tools en zetten het vooral in voor schoolwerk, informatievoorziening, carrièreoriëntatie, sociale interactie en emotionele ondersteuning. 59 procent van de meisjes en 56 procent van de jongens geeft aan AI weleens voor emotionele steun te gebruiken.
Tegelijkertijd ervaren meisjes vaker negatieve gevolgen. Zij voelen zich minder veilig, maken zich meer zorgen over AI-risico's en rapporteren vaker problemen rond lichaamsbeeld en uiterlijk. Ook geven meisjes vaker aan dat AI-gegenereerde beelden en opmerkingen een negatief effect hebben op hoe zij naar zichzelf kijken.
Volgens het onderzoek creëert AI-genderongelijkheid niet zelf, maar kan het bestaande ongelijkheden wel versterken via de informatie, adviezen en kansen die systemen aanbieden.
"Jongeren gebruiken AI steeds vaker voor advies, informatie en zelfs emotionele steun. Maar we mogen niet verwachten dat zij zelf kunnen beoordelen wat veilig, eerlijk of betrouwbaar is. AI-systemen zijn geen psychologen, juristen of AI-experts. De verantwoordelijkheid om jongeren te beschermen ligt bij overheden en technologiebedrijven. En op dit moment lopen de regels achter op de werkelijkheid.", zegt Joyce Brummelman, International Advocacy Advisor bij Plan International.
Bescherming schiet tekort
Uit de juridische analyse blijkt dat de onderzochte wet- en regelgeving adolescenten, en met name meisjes, onvoldoende expliciet beschermt. De meeste wettelijke kaders zijn genderneutraal, bevatten geen verplichte genderspecifieke risicoanalyses en besteden weinig aandacht aan intersectionaliteit: de manier waarop factoren als leeftijd, gender, etniciteit en beperking elkaar kunnen versterken.
Ook de meest urgente risico's voor meisjes vallen volgens het onderzoek vaak tussen bestaande wettelijke kaders. Het rapport noemt onder meer seksuele deepfakes, AI-gedreven schade aan het lichaamsbeeld en afhankelijkheid van AI-chatbots voor emotionele steun. Deze risico's worden volgens de onderzoekers onvoldoende afgedekt door bestaande AI-wetgeving of algemene regelgeving.
"Juist de jongeren die bescherming het hardst nodig hebben, kunnen die bescherming niet altijd zelf afdwingen. AI-systemen zijn niet ontwikkeld met de belangen van meisjes als uitgangspunt, terwijl zij wel een onevenredig deel van de risico’s dragen. Voor adolescente meisjes is bescherming nog indirect en er zijn weinig afdwingbare maatregelen die specifiek rekening houden met gender en intersectionaliteit", laat Brummelman weten.
Nederland profiteert van Europese regels, maar hiaten blijven bestaan
Nederland leunt voor AI-regelgeving grotendeels op Europese wetgeving, waaronder de AI Act en de Digital Services Act (DSA). Hoewel deze Europese kaders een uitgebreid juridisch kader heeft voor AI en digitale platforms, betekent dit volgens het onderzoek niet automatisch dat adolescente meisjes hierdoor beschermd zijn.
Volgens het onderzoek blijft Nederland achter bij andere Europese landen die in de vergelijking zijn meegenomen. Op het gebied van afdwingbaarheid, dat meet in hoeverre bindende regels daadwerkelijk leiden tot afdwingbare bescherming tegen genderspecifieke en intersectionele risico's, scoort Nederland gemiddeld 2,4 op een schaal van 1 tot 5. Spanje scoort 2,8, Frankrijk 2,6 en de Verenigde Staten 1,8. Op een bredere samengestelde beoordeling van zes juridische dimensies behaalt Nederland een score van 2,5. Daarmee blijft het achter bij Spanje (3,2), Frankrijk (3,0) en Duitsland (2,7).
In tegenstelling tot Nederland hebben verschillende andere landen in het onderzoek aanvullende nationale beschermingsmaatregelen ingevoerd. Binnen de EU verplicht Spanje dat bij periodieke beoordelingen van internetgerelateerde risico’s voor kinderen expliciet rekening wordt gehouden met gender- en leeftijdscriteria. Ook bevat de Duitse jeugdwetgeving specifieke wettelijke bescherming voor adolescenten van 14 tot 17 jaar. Ook het Verenigd Koninkrijk heeft aanvullende regelgeving ingevoerd op het gebied van online veiligheid en de aanpak van deepfakes.
Tegelijkertijd concludeert het onderzoek dat geen van de onderzochte landen erin slaagt om adolescente meisjes volledig te beschermen tegen de specifieke risico's van AI. Ook de best scorende landen combineren nog geen sterke, afdwingbare AI-regelgeving met bescherming voor meisjes en intersectionaliteit.
Oproep tot actie
Plan International roept overheden, onderwijsinstellingen en technologiebedrijven op om AI-beleid beter af te stemmen op de rechten en veiligheid van kinderen en jongeren, met speciale aandacht voor intersectionaliteit.
Plan International roept beleidsmakers specifiek op om meer aandacht te besteden aan adolescente meisjes, in plaats van hen uitsluitend te beschouwen als onderdeel van de bredere categorie ‘kinderen’, omdat zij met specifieke risico’s te maken hebben. Daarnaast benadrukt het rapport het belang van het meewegen van andere factoren, zoals etniciteit en een beperking. Het rapport beveelt aan om intersectionele impactbeoordelingen verplicht te stellen.
Daarnaast roept Plan International op tot: Sterkere veiligheidsnormen voor AI-systemen die door jongeren worden gebruikt; meer AI-geletterdheid in onderwijssystemen; een grotere en betekenisvollere rol voor jongeren bij de ontwikkeling van technologie en AI-beleid.