EN 30 SECONDES
- Que s’est-il passé ? Une étude menée par ParentsTogether Action et Heat Initiative révèle que Snapchat a recommandé 739 vidéos sexuelles ou violentes à des comptes de 13 ans en une heure de navigation.
- Qui est derrière ? Deux organisations de protection de l’enfance aux Etats-Unis qui dénoncent une défaillance systémique de la plateforme.
- Quel impact cela a-t-il ? Le rapport fait pression sur le Congrès américain et l’UE pour qu’ils resserrent la réglementation sur les algorithmes, avec un effet potentiel sur les opérations de Snapchat en Espagne.
Un groupe de chercheurs adultes a créé des comptes Snapchat pour des adolescents supposés de 13 ans et, en moins d’une minute, la plateforme a commencé à leur recommander des contenus sexuels et violents. C’est la conclusion dévastatrice d’une étude menée par Action ParentsEnsemble et Initiative Chaleur cela menace d’accélérer la réglementation des algorithmes de recommandation aux États-Unis.
L’étude : 739 vidéos inappropriées en une heure de navigation
Les chercheurs, se faisant passer pour des mineurs sans contact préalable, ont passé une heure à regarder des vidéos recommandées sur « Spotlight » et dans les histoires de Snapchat. Le résultat : 739 contenus classés comme dangereuxdont 244 vidéos à caractère sexuel et 257 sur la drogue ou l’alcool. En seulement soixante secondes, sont apparues les premières recommandations de scènes de suicide, de consommation de marijuana ou de jeunes filles dansant avec peu de vêtements.
Le rapport détaille que de nombreux commentaires sexualisés sur des filles apparemment mineures en utilisant des émojis de pizza, un symbole secret de pédophilie. De plus, la plateforme faisait la promotion de comptes pour adultes vendant de la lingerie érotique et des spectacles burlesques. « Les systèmes de recommandation de Snapchat mettent les enfants en danger parfois en quelques minutes », a-t-il dénoncé. Brooke Istookprésident de Initiative Chaleur.
Snapchat se défend : « ce n’est pas une évaluation équilibrée »
La société a rétorqué que l’étude est basée sur quelques faux comptes et « ne reflète pas une évaluation réaliste de la sécurité des adolescents sur la plateforme ». Snapchat garantit que les comptes des mineurs sont privés par défaut et que les adultes sans trois contacts communs ne peuvent pas interagir avec eux. « Aucune politique n’élimine tous les risques, mais nous investissons dans de nouvelles protections et travaillons avec des experts », a déclaré un porte-parole.
Cependant, Shelby Knoxdirecteur de la sécurité numérique chez Action ParentsEnsemblea décrit les résultats comme « un échec systémique ». L’organisation appelle à repenser les algorithmes avec des options par défaut plus sûres. Pendant ce temps, des jeunes interrogés par NBC avouent qu’il est « normal » de tomber quotidiennement sur des contenus « extrêmement hypersexuels » et violents sur l’application.
L’algorithme de Snapchat a présenté aux enfants de moins de 13 ans un flux de contenus sexuels et violents en moins de 60 secondes. Ce n’est pas un bug : c’est une décision de conception.
Logique de Washington
Dedans Capitolela protection de l’enfance en ligne est devenue l’une des rares causes bipartites. Il Loi sur la sécurité des enfants en ligne (KOSA) et la proposition Loi sur les enfants – ce qui nécessiterait de vérifier l’âge et de limiter les recommandations algorithmiques – ont accumulé des soutiens dans le Congrès des États-Unis. La pression conservatrice pour empêcher les mineurs d’accéder aux contenus explicites s’aligne désormais sur les voix démocrates qui réclament des responsabilités de la part des Big Tech depuis des années.. L’étude de ParentsEnsemble Cela alimentera les auditions de la commission sénatoriale du commerce et pourrait accélérer le vote sur une loi qui bénéficie déjà du soutien des républicains et de l’administration.
Pour Espagnel’impact réglementaire est encore plus direct. Le Loi sur les services numériques (DSA) force déjà des plateformes comme Snapchat évaluer les risques pour les mineurs et les atténuer. L’Agence espagnole de protection des données (AEPD) a été un pionnier en matière de sanctions contre TikTok et d’autres applications pour échecs en matière de protection de l’enfance. Si l’étude montre que les algorithmes exposent immédiatement les adolescents à du matériel nuisible, l’AEPD pourrait ouvrir sa propre enquête et durcir les exigences envers l’entreprise, qui compte des millions de jeunes utilisateurs dans le pays. Le débat sur l’avenir Loi relative à la protection des mineurs dans l’environnement numérique ce qui prépare La Moncloa Vous trouverez dans ce rapport des munitions pour imposer des obligations plus strictes aux plateformes. Washington et Bruxelles avancent déjà dans la même direction, et l’Espagne veut être à l’avant-garde.
Dossier
- Le cas : Une étude réalisée par deux ONG américaines montre que Snapchat Il recommande automatiquement les contenus sexuels et violents aux comptes d’enfants de moins de 13 ans, même dans les soixante premières secondes suivant l’enregistrement.
- Données clés : 739 vidéos dangereuses détectées en une heure de navigation ; 244 pour contenu sexuel et 257 pour drogue ou alcool. La plateforme répond que les tests ont été effectués avec de faux comptes et ne représentent pas la véritable expérience.
- Pour l’Espagne : Le rapport renforce les exigences du DSA européen et peut pousser le AEPD enquêter Snapchat. La future loi espagnole sur la protection des mineurs sur Internet gagnera en arguments pour renforcer les contrôles algorithmiques sur toutes les plateformes.
