Fût un temps où recommander à son enfant de ne pas accepter de bonbons de la part d’un inconnu semblait suffire. Et puis en 2004, Facebook est né. S’il n’est pas le premier réseau social du net, il est celui qui en a démocratisé l’usage à travers le monde, abolissant les frontières, territoriales, mais aussi générationnelles. Aujourd’hui, en France, l’âge moyen de la première inscription sur un réseau social est de huit ans et demi. 87% des 11-12 ans déclarent utiliser régulièrement un réseau social. Les 16-25 ans y passent entre 3 et 5 heures par jour.

Et si les vidéos de chats tiennent bien le haut du pavé en termes d’audience, la pornographie (et la pédopornographie), la violence (voire même plutôt l’ultra-violence), le cyberharcèlement, sont le quotidien de beaucoup d’utilisateurs. Selon le Ministère de l’Education, Un enfant sur cinq a déjà été victime de harcèlement en ligne. Si les réseaux sociaux ont eux-mêmes ouvert la boîte de Pandore, ils cherchent aujourd’hui les moyens technologiques et juridiques de protéger leurs abonnés, en en particulier les plus jeunes. Et ça n’est pas tout à fait un hasard si c’est le réseau social Yubo qui a contacté l’Afnor pour développer une Spec sur la prévention des risques et protection des mineurs car ce réseau social est dédié à la socialisation des adolescents. Et si le réseau n’a eu de cesse de renforcer la modération et la sécurité des utilisateurs depuis sa création en 2015, il n’en a pas moins été exposé aux mêmes problèmes que les autres : présence de groupes pédocriminels, images à caractère sexuel, fausses photos de profils, fraude sur l’âge.

En mars 2023, l’Afnor a réuni autour de la table la plupart des acteurs : les réseaux sociaux ayant des équipes en France (Yubo mais aussi DailyMotion, Meta, Mym), des entreprises proposant des solutions technologiques telles que Bodyguard, capable d’identifier des contenus toxiques, ou Yoti, dans le domaine des cartes d’identité numériques, et enfin des associations impliquées dans l’éducation des jeunes au numérique.  Six mois et une centaine de réunions plus tard, cette équipe était prête à publier une Spec, organisée en quatre thématiques :

1. La question de la vérification des comptes, en particulier concernant l’âge et l’identité des utilisateurs, et jusqu’où il est possible d’aller tout en prenant en compte la protection des données personnelles.

2. La détection et la modération des contenus inappropriés. Comment détecter les contenus inappropriés ou illicites ? Quels outils peut-on utiliser pour détecter du contenu ? « Daily Motion nous a beaucoup apporté sur ce sujet, la CNIL également, qui nous éclairé sur la détection des contenus inappropriés mais aussi sur l’obligation du signalement par les plateformes », rappelle Sharon Franco, Head of Legal and Public Policy chez Yubo.

3. La transparence et la sensibilisation : Comment communiquer auprès des utilisateurs ? Quel niveau de langage adopter ? Quels sont les partenariats possibles avec les associations ?

4. Le cadre juridique applicable : L’état des lieux des normes, règlements et lois applicables, le cadre pénal étant déjà très complet.

Ce guide de bonnes pratiques à destination des plateformes numériques doit permettre d’assurer la sécurité et la confiance des utilisateurs. « Ce guide arrive assez vite », souligne Samuel Comblez, Directeur des Opérations chez E-Enfance, « seulement dix neuf ans après la création de Facebook ». Et de rappeler cette célèbre phrase de Winston Churchill : « mieux vaut prendre le changement par la main avant qu’il ne nous prenne à la gorge ».

Cette Spec n’est qu’une première étape, tous les domaines ne sont pas couverts, ce qui laisse la voie ouverte à d’autres pistes de travail. Lors de l’événement de lancement du guide,  organisé par le Club des Adhérents Afnor dans les locaux de Yubo, Yves le Querrec, Président du Cos Information et Communication Numérique, a par exemple remarqué que la question de la publicité à destination des jeunes publics ne faisait pas partie du scope de la Spec 2305.

« La prochaine étape », explique Julie Latawiec, Responsable développement chez AFNOR Normalisation et qui a encadré la préparation de la Spec 2305,  « c’est d’en faire une norme internationale ». Il existe déjà un CWA sur la vérification de l’âge, basé sur la norme IEEE 2089. « Nous sommes d’ailleurs en train de traduire la Spec en anglais », ajoute t-elle.

Eleanor Linssel, directrice exécutive de WeProtect Global Alliance, elle aussi présente à la réunion de lancement, a quant à elle souligné que « nous investissons beaucoup dans la détection et la modération mais pas assez avant que le mal ne se produise ». « Comment perturber des comportements préjudiciables avant qu’ils ne se produisent », s’interroge t-elle. Une question aujourd’hui rhétorique car si un jour la technologie permet de déceler des comportements criminels avant qu’ils ne se produisent, c’est que nous serons entrés dans le monde de Philip K. Dick¹. Avant d’en arriver là, il faudra continuer à encadrer, éduquer… voire débrancher.

¹ Voir Minority Report, dystopie dans laquelle des êtres humains mutants peuvent prédire les crimes.