Lutter contre la haine en ligne

L’espace public numérique est un espace de liberté d’expression et de création auquel chacun doit pouvoir accéder. En revanche, les propos haineux ou discriminatoires et les appels à la violence n’y ont pas leur place. Ils peuvent conduire au pire et nécessitent une réponse judiciaire rapide et efficace.

Éduquer à la citoyenneté en ligne

L’initiative "Civisme et jeu vidéo : réinventons les codes"

En juin 2022, en partenariat avec la DITP et la DINUM, la DILCRAH a lancé une démarche collaborative de promotion du civisme en ligne dans l’univers du jeu vidéo et du e-sport. Ce travail de co-construction a réuni pendant plusieurs mois, des acteurs publics et privés, issus de l’écosystème du jeu vidéo, de l’e-sport et du numérique, de la lutte contre la haine en ligne ainsi que des joueuses, des joueurs, des étudiantes et des étudiants.

Le projet CL&É pour sensibiliser la jeunesse à la citoyenneté numérique

Ce travail collaboratif s'inscrit dans le cadre de la mesure 3.6 du Plan national de lutte contre le racisme, l'antisémitisme et les discriminations liées à l'origine (2023-2026), dans le prolongement du projet « Civisme et jeu vidéo : réinventons les codes ». Il réunit une multitude d'acteurs, qu'ils proviennent du secteur public, privé ou associatif, ainsi que des collégiens, des lycéens et des étudiants. L'OSINT est une technique d'investigation numérique qui permet d'analyser les informations issues de sources ouvertes pour en vérifier l'authenticité et distinguer le vrai du faux. À cet effet, des ateliers de sensibilisations sont organisés dans les collèges et les lycées pour élaborer collectivement des scénarios d'enquêtes sur des thématiques telles que le racisme, l'antisémitisme, les discriminations liées à l'origine, la haine anti-LGBT+ et la désinformation. 

Le pôle national de lutte contre la haine en ligne (PNLH) 

La loi contre les contenus haineux sur internet dite loi Avia a permis la création d’un parquet spécialisé dans les affaires de numérique, le PNLH, pour améliorer la répression des discours de haine en ligne. Au sein du parquet de Paris, le PNLH centralise le traitement des affaires les plus significatives et complexes en la matière. Le parquet de Paris apporte ainsi son expertise à l'ensemble des juridictions et peut se saisir de toute affaire relevant de la lutte contre la haine en ligne.

Un observatoire de la haine en ligne

L’observatoire de la haine en ligne, dont l’instauration est prévue par l’article 16 de la loi du 24 juin 2020 et mis en place par l'Arcom vise à lutter contre les contenus haineux sur internet, est composé d’opérateurs, d’associations, d’administrations dont la DILCRAH et de chercheurs concernés par la lutte et la prévention de la haine en ligne. 

La  mission de l’observatoire de la haine en ligne est triple :

• analyser et quantifier les contenus haineux en ligne ;
• suivre l'évolution de la haine en ligne pour mieux comprendre son fonctionnement ;
• partager les informations des différents acteurs concernés, publics et privés.

La plateforme PHAROS

Le ministère de l'Intérieur a mis en place un dispositif permettant le signalement des faits illicites de l'internet.

La  Direction Centrale de la Police Judiciaire  (DCPJ) dispose d'une section nationale à vocation interministérielle et opérationnelle, destinée à lutter contre la criminalité liée aux technologies de l'information et de la communication. 

Il s'agit de l' office central de lutte contre la criminalité liée aux technologies de l'information et de la communication  (OCLCTIC).

Cet office met à la disposition des internautes la plateforme PHAROS  , (Plateforme d'Harmonisation, d'Analyse, de Recoupement et d'Orientation des Signalements), qui permet de signaler en ligne les contenus et comportements illicites de l'internet.

Que peut-on y signaler ?

• Expression du racisme, de l'antisémitisme et de la xénophobie (Loi n° 90-615 du 13 juillet 1990)
• Incitation à la haine raciale, ethnique et religieuse (Loi du 29 juillet 1881- art 29)
• Terrorisme et apologie du terrorisme (Loi n° 2014-1353 du 13 novembre 2014)

Qu'ils soient présents sur des sites, blog, forum, tchat, réseaux sociaux, etc.

Qui traite les signalements ?

Des policiers et gendarmes affectés à la plateforme PHAROS vérifient que les contenus et comportements signalés constituent bien une infraction à la loi française.

Leur mission est de les traiter et d'alerter les services compétents tels la Police nationale, la Gendarmerie nationale, les Douanes, la Direction Générale de la Concurrence, de la Consommation et de la Répression des Fraudes ( DCCRF ) en France et à l'étranger (en passant par Interpol).

Une enquête est alors ouverte sous l'autorité du Procureur de la République.

Cette enquête nécessite un certain délai, aussi les contenus peuvent continuer à apparaître après signalement. Pour autant, il n'est pas nécessaire de refaire un signalement sur les faits relevés, un seul signalement suffit pour saisir les enquêteurs de l'Office central de lutte contre la criminalité liée aux Technologies de l'information et de la communication (OCLCTIC).

PHAROS enregistre les adresses IP (internet protocol) des émetteurs dont seuls les fournisseurs d'accès et de service sur internet connaissent les titulaires.

Uniquement dans les cas exceptionnels, pour les besoins d'une enquête et après autorisation du Procureur de la République, les services compétents peuvent demander l'identification du numéro IP.

Les participantes et participants se sont mobilisés sur une série d’ateliers pour proposer des solutions justes, et notamment des campagnes digitales autour d’un code de modération des joueurs. Cette action innovante est pérennisée dans le cadre du plan 2023-2026 de lutte contre le racisme, l’antisémitisme et les discriminations liées à l’origine.

Retour sur une initiative inédite et collective, portée par la DILCRAH en partenariat avec la DITP et la DINUM

En avril 2022, la Délégation interministérielle à la Lutte contre le Racisme, l'Antisémitisme et la Haine anti-LGBT (DILCRAH) et la Direction interministérielle de la transformation publique (DITP) ont lancé un groupe de travail réunissant acteurs institutionnels, éditeurs de jeux, représentants de plateformes de streaming, représentants de l’eSport, acteurs de la société civile, chercheurs et joueurs. La feuille de route de ce groupe de travail visait 3 objectifs :

• identifier les déterminants du comportement toxique dans les jeux vidéo ;
• recommander des leviers pour lutter contre les comportements toxiques ;
• établir des principes et des conseils pratiques pour la création et la diffusion d'un code de conduite commun.

Ce rapport de diagnostic réalisé par l’équipe sciences comportementales de la DITP a alors proposé des pistes de solutions présentées lors des ateliers de co-construction.

Plusieurs ateliers se sont ensuite tenus pour co-créer des outils permettant de préserver l'expérience de jeu. Résultat : un tutoriel de bonnes pratiques et des propositions de campagnes de sensibilisation digitale par les étudiants de l’école Sup de pub. 

 Le Digital Services Act

L’Union européenne vient de déployer un nouvel outil pour lutter contre la haine en ligne et la désinformation : le Digital Services Act (DSA). Entré en vigueur le 25 août dernier, le DSA doit permettre de protéger les internautes contre les propos haineux et les opérations de désinformation en ligne

Que va changer le DSA ?

Le Digital Services Act prévoit de nombreuses mesures, graduées selon les acteurs en ligne en fonction de la nature de leurs services et de leur taille. Les très grandes plateformes et les très grands moteurs de recherche sont soumis à des exigences plus strictes. Tous les acteurs en ligne vont devoir désigner un point de contact unique ou, s'ils sont établis hors UE, un représentant légal et coopérer avec les autorités nationales en cas d'injonction. Les autres obligations peuvent être classées en trois catégories.