Rédefinir le terrain de jeu numérique : une croisade pour la sécurité des jeunes sur les médias sociaux

Les récentes auditions du Sénat sur les médias sociaux ont été à la fois acrimonieuses et convaincantes. Les sénateurs ont confronté les PDG de grandes entreprises telles que Meta, X, TikTok, Snap et Discord, leur posant des questions difficiles et exigeant des comptes sur l’impact de ces plateformes sur les jeunes utilisateurs. Les parents assis derrière les dirigeants de la technologie, dont les enfants sont morts en lien avec l’utilisation des médias sociaux, ont ajouté une toile de fond poignante à ces procédures. Leurs histoires déchirantes ont donné une dimension profondément personnelle et tragique aux discussions.

Les entreprises de médias sociaux sont sous le feu des critiques pour leur indifférence perçue face aux préjudices qu’elles causent. Les conséquences de leurs opérations s’étendent à une gamme de problèmes graves, notamment le harcèlement, le suicide des adolescents, les troubles alimentaires, le comportement violent et la radicalisation, entre autres.

En réponse à ces préoccupations pressantes, le Sénat a été proactif dans l’élaboration du Kids’ Online Safety Act (KOSA), une législation complète visant à traiter les nombreux dangers auxquels les enfants sont confrontés en ligne. Cette loi, le résultat d’années de délibération et de nombreuses révisions, représente un effort législatif pour obliger les entreprises de médias sociaux à prendre plus de responsabilité pour la sécurité et le bien-être de leurs plus jeunes utilisateurs.

Mais est-ce suffisant ?

Non transformationnel, mais un premier pas crédible

Sans analyser en détail le KOSA, il est clair que la loi introduit des mesures innovantes, notamment en définissant un “devoir de soin” qui oblige les plateformes à réduire les risques pour les mineurs. Cependant, la portée du KOSA est limitée.

Si le Congrès adopte le KOSA sans prendre d’autres mesures, ses déficiences pourraient permettre aux effets négatifs des médias sociaux sur les jeunes utilisateurs de se multiplier. En particulier, le KOSA n’empêche pas les adultes de cibler les enfants via ces plateformes, car il ne restreint le contenu pour adultes que pour les utilisateurs identifiés comme mineurs, sans mettre en œuvre une vérification obligatoire de l’âge – une disposition susceptible de susciter une controverse significative.

Malgré ces limites, le KOSA représente un premier pas positif vers la protection des enfants en ligne. Ses failles ne sont pas irréparables. Il est important que la législation soit considérée non comme une solution finale, mais comme le début d’un effort soutenu et pluriannuel pour réformer les pratiques des médias sociaux et diminuer leurs impacts nocifs sur les enfants. Le chemin vers un environnement en ligne plus sûr pour les mineurs nécessite plus qu’un effort législatif ponctuel ; il exige un engagement et une adaptation continus.

Une forte opposition est à prévoir

Le KOSA a commencé au bon endroit, le Congrès américain. Mais étant donné la portée mondiale de ces plateformes, une réglementation efficace nécessitera un soutien fédéral et transnational, tel que celui de l’Union européenne, pour assurer une surveillance complète. Sans un tel soutien législatif, il est peu probable que les plateformes de médias sociaux mettent en œuvre des changements qui pourraient potentiellement diminuer leurs métriques d’engagement parmi les jeunes démographiques.

La législation fédérale, même à une échelle modeste, offre une approche plus unifiée par rapport à une collection disparate de lois étatiques, qui pourrait permettre aux procureurs généraux de faire avancer des objectifs politiques. Un cadre fédéral assure un terrain d’entente pour toutes les plateformes à travers les États, empêchant les entreprises conformes de subir des désavantages concurrentiels. Cependant, l’élaboration d’une telle législation est un processus délicat, car elle doit résister aux défis juridiques de diverses parties, notamment les défenseurs des droits, les grandes entreprises de médias sociaux et les fournisseurs de contenu pour adultes, qui sont tous prêts à défendre vigoureusement leurs intérêts.

Le défi de prévenir les réactions juridiques est aggravé par la réticence des parties prenantes à compromettre. Une stratégie radicale, mais potentiellement efficace, pourrait consister à forcer un dialogue entre des parties diverses, telles que l’ACLU, les défenseurs des droits, les avocats constitutionnels et les défenseurs de la sécurité des enfants, avec une directive selon laquelle personne ne part avant qu’un consensus ne soit atteint.

La question de la manière dont la législation devrait régir l’utilisation de la technologie pour la vérification de l’âge ou de l’identité est cruciale. La comparaison des médias sociaux avec les services publics souligne l’argument en faveur d’une réglementation stricte : bien qu’ils offrent des services essentiels, ils posent également des risques importants. Cette analogie invite à réévaluer le rôle et la fonctionnalité des médias sociaux, notamment en considérant la manière dont les algorithmes peuvent conduire les utilisateurs vers des contenus de plus en plus extrêmes, alimentés par la poursuite d’un engagement et de revenus publicitaires plus élevés. Cette dynamique peut conduire les enfants à s’isoler dans des chambres d’écho en ligne qui exacerbent la haine et le mécontentement, les éloignant encore plus des perspectives plus saines.

Mais un changement radical dans les médias sociaux ne se produira pas en un seul événement. Le KOSA représente un premier pas important, mais il ne constitue qu’une pièce d’un puzzle complexe. Il a le potentiel de provoquer un changement, mais cela se produira par étapes.

C’est un marathon, pas un sprint

Les complexités de la garantie de la sécurité en ligne tout en défendant les libertés constitutionnelles sont compliquées. Le succès sera probablement atteint par des progrès progressifs et réfléchis sur plusieurs années.

La collaboration, le compromis et la construction de consensus seront essentiels au succès du KOSA. C’est un objectif admirable, mais atteindre un consensus en une seule fois est peu probable. Une attente plus réaliste est que le KOSA subisse des révisions et des améliorations continues au fil des ans. Ces ajustements seront éclairés par les expériences de l’année précédente, s’adaptant aux changements technologiques, aux modèles d’abus et permettant à l’industrie suffisamment de temps pour s’adapter aux nouvelles réglementations.

Idéalement, le premier cycle, KOSA 2024, devrait englober les notations de contenu, la vérification de l’âge et l’opt-out/in, les avertissements et la censure en spécifiant :

• Quel contenu est inacceptable et/ou illégal ;
• Quel contenu peut et doit être bloqué par les plateformes ;
• Précisément comment étiqueter le contenu qui est toxique mais ne peut pas être bloqué ;
• Comment avertir les utilisateurs et les parents, et quels obstacles mettre autour du contenu sensible ;
• Réglages par défaut de l’opt-out (des blocs de contenu).

La réforme de l’algorithme : controversée mais potentiellement transformationnelle

La prochaine phase du KOSA en 2025 se concentrera sur l’amélioration de la responsabilité et l’établissement de sanctions plus strictes pour les plateformes et les individus qui s’engagent dans ou facilitent des activités illégales. Cela vise à limiter non seulement la diffusion de contenu illégal mais également à traiter les comportements qui contribuent à la crise de santé mentale chez les jeunes, tels que la lecture excessive et la plongée dans des environnements en ligne nocifs.

En regardant plus loin, les itérations ultérieures pourraient marquer un changement crucial dans le fonctionnement même des plateformes de médias sociaux, potentiellement centré sur “l’inversion des algorithmes” qui guident actuellement les utilisateurs, en particulier les jeunes, vers des espaces en ligne négatifs et risqués. L’ambition ici est de ne pas seulement prévenir l’exposition à un contenu nocif mais d’orienter activement les utilisateurs vers des interactions en ligne plus sûres et plus positives.

Bien que potentiellement controversée, l’inversion des algorithmes ouvre une voie pour que les plateformes se réinventent. En anticipant ces changements, les entreprises de médias sociaux peuvent se préparer à adapter leurs modèles d’affaires. L’objectif est de rester rentable tout en favorisant un environnement qui donne la priorité au bien-être de ses utilisateurs, en particulier aux plus jeunes. Cette stratégie prospective suggère un scénario gagnant-gagnant : protéger la santé mentale des utilisateurs et assurer la viabilité à long terme des plateformes de médias sociaux en cultivant une communauté en ligne plus saine et plus engageante.

Le changement est longtemps attendu

Le témoignage des familles lors des auditions du Sénat souligne la nécessité de plus que des changements incrémentiels dans la réglementation des médias sociaux. Une réforme robuste, commençant par le KOSA 2024, est essentielle pour se protéger contre les menaces évolutives de l’intelligence artificielle et des influences externes. Le processus nécessitera des ajustements continus, similaires à ceux de la SEC et de la FDA.

Mais l’inaction n’est pas une option.

Une stratégie à long terme et ciblée est cruciale pour assurer la sécurité de nos jeunes sur les plateformes de médias sociaux. En lançant des réformes complètes et en affinant continuellement ces mesures, nous pouvons atténuer les préjudices et finalement tenir la promesse originale des médias sociaux – améliorer nos vies à travers la connexion.