Mettre fin à l'irresponsabilité des grandes plateformes
Les réseaux sociaux occupent une place considérable dans la vie publique et privée.
Ils permettent de s'informer, de communiquer, de créer et de participer au débat.
Mais ils peuvent également faciliter la diffusion de menaces, de harcèlement, d'escroqueries, de contenus intimes non consentis ou d'activités criminelles.
Nous voulons que les plateformes assument pleinement leurs responsabilités.
Nous ne voulons pas leur imposer une obligation impossible de supprimer instantanément tout contenu illégal.
Mais nous voulons qu'elles disposent de moyens humains et techniques suffisants pour prévenir et traiter les risques dont elles ont connaissance ou qu'elles sont légalement tenues d'évaluer.
Ces obligations devront être adaptées à leur taille, à leurs fonctionnalités et aux risques propres à leurs services.
Une petite plateforme ne peut pas nécessairement disposer des mêmes moyens qu'un groupe numérique mondial.
Mais les grands acteurs qui organisent une part importante de la circulation des contenus doivent être soumis à des exigences élevées.
Exiger une modération réellement efficace
Nous voulons renforcer les capacités de détection et de traitement des contenus et comportements les plus graves.
Cela concerne notamment les menaces, le harcèlement coordonné, les escroqueries, la prédation sexuelle, les contenus intimes diffusés sans consentement et certaines incitations dangereuses.
Les plateformes devront utiliser des moyens adaptés, y compris les technologies d'intelligence artificielle lorsqu'elles améliorent réellement l'efficacité de la modération.
Mais nous ne voulons pas nous satisfaire de l'existence d'un dispositif automatisé.
Il faudra évaluer les résultats.
Une plateforme qui possède un système sophistiqué mais laisse durablement se multiplier des activités manifestement illégales ne doit pas pouvoir considérer qu'elle a rempli toutes ses obligations.
Nous voulons également renforcer la coopération avec les autorités compétentes pour préserver les preuves et traiter rapidement les signalements relevant de la loi.
Combattre l'utilisation des plateformes par les réseaux criminels
Les organisations criminelles utilisent désormais les outils numériques pour recruter, vendre des produits illégaux, organiser certaines activités et communiquer avec leurs clients.
Le narcotrafic constitue un exemple particulièrement préoccupant.
Nous voulons que les espaces publics ou semi-publics des réseaux sociaux, services vidéo, petites annonces et messageries prennent les mesures nécessaires contre la vente et la livraison de stupéfiants.
Les plateformes devront pouvoir détecter et retirer les contenus manifestement illégaux, limiter la reconstitution des réseaux supprimés et coopérer rapidement avec les autorités dans le respect de la loi.
Nous voulons également éviter que des comptes et des circuits criminels réapparaissent indéfiniment sans action suffisante.
Mais les obligations devront respecter les conditions légales d'accès aux données et de confidentialité des communications.
Nous ne voulons pas instaurer une surveillance généralisée de toutes les conversations privées.
Prévoir des sanctions réellement dissuasives
Les obligations numériques n'ont de valeur que si leur non-respect entraîne des conséquences.
Nous voulons donc faire appliquer les sanctions prévues par les cadres européens et nationaux.
Lorsqu'une plateforme commet des manquements graves ou répétés, les autorités compétentes devront pouvoir utiliser une réponse progressive.
Les injonctions, les audits, les astreintes et les amendes proportionnées à la taille économique de l'entreprise devront être mobilisés.
Pour les manquements systémiques particulièrement graves facilitant durablement le narcotrafic, nous voulons également prévoir, dans un cadre juridiquement sécurisé, la possibilité de suspendre temporairement certaines fonctionnalités facilitatrices.
En dernier ressort, lorsqu'une plateforme persiste dans des violations systémiques graves malgré les mesures précédentes, un blocage judiciaire temporaire et proportionné pourra être recherché selon les conditions du droit applicable.
Cette possibilité ne constituera pas une sanction générale pour une erreur de modération ou un manquement isolé.
Elle devra être encadrée par une procédure contradictoire, un contrôle judiciaire effectif et des garanties proportionnées aux conséquences de la mesure.
Nous ne voulons pas organiser la coupure générale d'Internet ou des communications.
La gravité des mesures devra correspondre à la gravité des manquements.
Garantir le droit des utilisateurs à une modération juste
Une modération plus efficace peut aussi produire des erreurs.
Des contenus licites peuvent être supprimés. Des comptes peuvent être suspendus injustement. Des utilisateurs peuvent perdre leur visibilité ou leur activité économique à la suite d'une décision automatisée incorrecte.
Nous voulons donc que les obligations de modération s'accompagnent d'un droit réel à la correction.
Lorsqu'un contenu, un compte ou une fonctionnalité fait l'objet d'une restriction contestée, l'utilisateur doit pouvoir recevoir une explication suffisamment précise.
Il doit également disposer d'un recours simple.
Les décisions automatisées contestées doivent pouvoir faire l'objet d'un véritable examen humain accessible lorsque la situation le justifie.
Nous voulons définir des délais maximums proportionnés à la gravité et aux conséquences des restrictions.
Les paramètres exacts devront être précisés juridiquement.
Lorsqu'une erreur est reconnue, la plateforme devra restaurer autant que possible le contenu, le compte et les fonctionnalités concernés.
Nous voulons également que la restauration porte sur la visibilité normale et les interactions lorsque celles-ci ont été affectées par la décision erronée et peuvent techniquement être rétablies.
Une simple levée de suspension ne suffit pas toujours à réparer une décision ayant injustement privé une personne de son audience ou de son activité.
Les grandes plateformes devront publier des indicateurs audités sur les délais de modération, les recours et les erreurs corrigées.
Notre objectif est double : mieux protéger les victimes et mieux protéger les utilisateurs contre les décisions injustifiées.
Protéger les mineurs contre les mécanismes dangereux
Nous voulons également agir sur la conception même des services.
Pour les mineurs, les paramètres protecteurs devront être activés par défaut lorsque les risques le justifient.
Nous voulons renforcer la maîtrise des recommandations et réduire les mécanismes favorisant une utilisation excessive ou dangereuse.
La protection ne doit pas dépendre uniquement des capacités des parents à comprendre toutes les fonctionnalités des plateformes.
Mais nous ne voulons pas interdire indistinctement les outils numériques utilisés par les adolescents.
Nous privilégions les protections adaptées aux risques et aux fonctionnalités.
Les obligations devront être évaluées selon leurs résultats concrets sur la sécurité des mineurs.
Préserver la liberté d'expression et refuser l'identification obligatoire de tous les utilisateurs
Nous voulons également rappeler une limite fondamentale.
La lutte contre les comportements illégaux ne doit pas conduire à considérer toute parole contestable comme devant être supprimée.
La liberté d'expression protège aussi les opinions impopulaires et les débats vigoureux, dans les limites fixées par la loi.
Nous ne voulons pas confier aux plateformes un pouvoir général d'arbitrage politique sur les opinions.
Les obligations de modération devront respecter les droits fondamentaux et les possibilités de recours.
Nous n'instaurerons pas non plus une obligation générale de publier sous une identité certifiée.
Cette proposition a été examinée puis abandonnée.
L'anonymat et l'utilisation de pseudonymes peuvent répondre à des besoins légitimes de protection de la vie privée ou de liberté d'expression.
Les auteurs d'infractions devront pouvoir être identifiés par les autorités compétentes dans les conditions légales.
Mais cette exigence ne justifie pas la constitution d'un système national d'identification obligatoire pour tous les utilisateurs.
Renforcer la transparence face aux contenus artificiels
L'intelligence artificielle facilite également la production de contenus synthétiques, notamment d'images, de voix et de vidéos pouvant être particulièrement réalistes.
Nous voulons appliquer efficacement les obligations européennes de transparence et de traçabilité.
Les utilisateurs doivent pouvoir disposer d'informations pertinentes lorsqu'un contenu artificiel présente un risque de tromperie.
Mais les usages criminels de ces technologies resteront traités dans les politiques de sécurité et de justice.
Les manipulations du débat démocratique, les opérations d'influence et la protection des élections relèveront de notre politique consacrée à la démocratie et aux médias.
Nous voulons éviter de multiplier les régimes concurrents et les administrations chargées des mêmes missions.
Notre objectif est de faire respecter aux plateformes des obligations réellement contraignantes, tout en protégeant les libertés et en préservant un Internet ouvert.