Qu'est-ce que l'effet "terrier du lapin" sur les réseaux sociaux ?

L'impact des algorithmes de recommandations de TikTok sur les jeunes en souffrance psychique inquiète Amnesty international et la Commission européenne, qui lance une enquête au nom du Digital Service Act. Un premier pas pour mieux encadrer l’économie de l’attention ?

Publié le: 17 septembre 2024

Mis à jour le: 01 octobre 2024

Par: Sandrine Warsztacki

9 min

Photo : © Adobe Stock - La personnalisation des contenus sur les réseaux sociaux peut avoir des effets pervers sur certains ados fragiles

C'est quoi l'effet terrier ?

Quel impact pour la santé mentale ?

Les nouvelles règles européennes

L'article en résumé

Dans le conte de Lewis Caroll, Alice poursuit un lapin blanc et chute dans un monde parallèle – mi fantastique, mi cauchemardesque – dont elle ne parvient plus à s’extirper. Francis, lui, est tombé dans une bulle virtuelle de tristesse. Point d’animal à l’horizon, il a juste suivi le fil des vidéos recommandées par les algorithmes de TikTok. "Quand j’aime une vidéo triste qui me parle, tout à coup, toute ma page 'Pour toi' est triste. Je me retrouve dans le TikTok triste. Ça affecte mon humeur", témoigne l’étudiant philippin dans une enquête menée par Amnesty international.

"Un tunnel toxique d'attention"

Le phénomène dit "terrier du lapin" (rabbit hole) a été documenté par les chercheurs et les journalistes dans un contexte de propagation des fake news. Conçu pour retenir l'attention, les algorithmes de recommandations des réseaux sociaux se nourrissent des données personnelles des utilisateurs pour prédire les contenus les plus susceptibles de leur plaire. Vous aimez la broderie, les mangas et les chatons ? L'algorithme vous en propose toujours plus ! Jusque-là, rien de dramatique, si ce n’est que vous avez sans doute scrollé plus de temps que prévu (et visionné au passage les pubs personnalisées dont les plateformes tirent leurs revenus).

La mécanique devient plus perverse quand l'algorithme repu de données intimes se met à pousser des contenus toujours plus douteux et sensationnalistes : théories complotistes, propagande d’extrême droite, idéologies radicales... Ou, dans le domaine de la santé mentale, des vidéos encourageant les idées dépressives, l’automutilation, le suicide. Lisa Dittmer, chercheuse pour Amnesty, ne cache pas le trouble qu’elle a ressenti en visionnant les contenus récoltés pour l’enquête : "Aucune de ces vidéos ne proposait des conseils. Au contraire, toutes me disaient que parler à quelqu'un ne servirait à rien, que ma peine ne prendrait fin que le jour où je serai devenue une étoile dans le ciel !"

Un jour je suis angoissé et je veux tel type de contenu. Un autre, je me sens très heureux, mais le truc c'est que je continue de voir le contenu super triste et ça me fiche en l'air

Luis

Si la romantisation du suicide n'est pas neuve – lisez Goethe – les algorithmes lui confèrent une caisse de résonance inédite : après seulement 12 minutes d’utilisation en moyenne, montre l'étude, la moitié des vidéos recommandées sur les comptes simulant le profil d’un enfant de 13 ans intéressé par la santé mentale affichait des contenus nocifs ! Et une fois ce "tunnel toxique d'attention" activé, difficile d'en sortir : "Un jour je suis angoissé et je veux tel type de contenu. Un autre, je me sens très heureux, mais le truc c'est que je continue de voir le contenu super triste et déprimant, et ça me fiche en l'air", confie Luis, 21 ans, diagnostiqué bipolaire.

Réseaux sociaux et santé mentale, un débat à nuancer

La responsabilité des médias sociaux dans le mal-être de la jeunesse fait l'objet de débats animés : sur Google Scholar, les mots clés "social media / mental health / youth" recensent près de 300.000 articles scientifiques dont les résultats se contredisent fréquemment !

Les statistiques convergent sur l’apparition d’une "épidémie" de troubles de santé mentale chez les jeunes depuis une décennie. Il serait tentant, mais réducteur, d'y voir un lien direct avec l'arrivée des smartphones. Dans un monde traversé par les crises, les causes de cette anxiété généralisée ne sont pas seulement à chercher dans les poches des jeans...

"Les médias sociaux ont été les premiers, avant les médias classiques, à proposer un discours militant inclusif, donnant la voix aux minorités et promouvant l’acceptation de soi"

Pascal Minotte, psychologue

Et ces réseaux tant décriés offrent aussi un espace bénéfique en matière de liberté d’expression et de sociabilisation, contrebalance aussi Pascal Minotte, codirecteur du Crésam, centre de référence en santé mentale. "Les médias sociaux ont été les premiers, avant les médias classiques, à proposer un discours militant inclusif, donnant la voix aux minorités et promouvant l’acceptation de soi", relève le psychologue. Une étude américaine du Pew Research Center le corrobore : la moitié des jeunes de la génération Z déclare se sentir mieux accepté et soutenu en ligne que dans la vie réelle !

Dans la boite noire des algorithmes

Au bout du compte, les dernières méta-analyses se montrent rassurantes : le temps passé sur les réseaux n'aurait pas ou peu d’impact sur le bien-être des digital native. Mais ce constat général ne doit pas masquer les effets pervers qui se révèlent lorsque les chercheurs s’intéressent à des publics et des usages plus spécifiques (types de plateformes, de contenus, d’interactions, etc.), nuance le magazine Epsilon dans une enquête datée de janvier. "Le bénéfice du doute plane. Ou plutôt le maléfice...", commente la rédactrice en chef pour y dénoncer la manière dont l’opacité soigneusement cultivée par l’industrie numérique entrave le travail des chercheurs.

Une jeune femme sur trois juge qu'Instagram a dégradé l’image qu’elle avait de son corps.

En 2021, le scandale des "Facebook Files" éclate outre-Atlantique. L’entreprise est accusée par une ex-employée d’être parfaitement au courant des effets néfastes de ses algorithmes et de ne rien faire pour les contrôler. Pour preuve, la lanceuse d’alerte divulgue des milliers de documents accablants, dont une étude interne concluant qu’une jeune femme sur trois juge qu'Instagram a dégradé l’image qu’elle avait de son corps. L'ensemble de ces révélations a poussé une quarantaine d’États américains à lancer une action en justice, accusant Facebook et Insta de nuire à la "santé mentale et physique de la jeunesse".

La Commission européenne enquête

Avec ses formats vidéo courts qui défilent à l'infini, TikTok, propriété de l’entreprise chinoise ByteDance, s’est hissée au rang de plateforme préférée des ados pendant le confinement. "Ils ont mis la barre très haut en termes de design addictif, au point qu’on assiste à une forme de 'tiktokisation' de la concurrence qui tente de copier la recette", analyse Lisa Dittmer pour Amnesty.

Dans la foulée des travaux menée par l’ONG, en février, la Commission européenne a annoncé l’ouverture d’une enquête visant TikTok pour manquement présumés en matière de protection des mineurs, de transparence de la publicité, d’accès aux données pour les chercheurs et de gestion des risques liés à la conception addictive.

Si l'affaire reste en cours, l'entreprise a d'ores et déjà apporté une série de modifications : possibilité de "rafraichir" son fil pour effacer la personnalisation, d’activer un filtre pour exclure les vidéos tagués avec certains mots clé, limitation du temps d'écran pour les mineurs... Autant de mesures qui sont faciles à contourner et reposent sur une démarche volontaire des utilisateurs, regrette Amnesty, pour qui la réponse n’est pas à la hauteur des enjeux. "Ces mesures ne sont ni efficaces, ni réalistes. Faire porter la responsabilité sur des parents et des ados en détresse, c'est trop facile", renvoie Lisa Dittmer.

Il faut rendre aux utilisateurs leur pouvoir de consentement!

Lisa Dittmer

Et l'ONG de plaider pour un changement de modèle, dans lequel l'utilisateur serait seul aux commandes de ses données et indiquerait de manière volontaire et active les préférences qu'il souhaite ou non partager. "On doit rendre aux utilisateurs leur pouvoir de consentement ! Certes, ce modèle serait moins rentable, mais beaucoup plus sain. On ne peut pas accepter que trois entreprises dans le monde dominent notre attention !"

L’économie de l’attention en question

Adopté en 2022, le Digital Service Act (DSA) impose aux plateformes de plus de 45 millions d'utilisateurs actifs dans l'Union européenne de prendre des mesures pour lutter contre les contenus illicites ou dangereux. Dans un monde 2.0 ou l’absence de règles était la norme, cette nouvelle casquette de gendarme numérique endossée par l’Europe marque un tournant qui n’est pas que symbolique : les récalcitrants s'exposent à des amendes allant jusqu'à 6 % de leur chiffre d'affaires !

Au printemps, cette législation a déjà poussé TikTok à suspendre TikTok Lite en Europe, un programme de "fidélisation" via des récompenses financières, décrié pour son potentiel fortement addictif. Fondé sur la récolte massive de données personnelles, le modèle économique des plateformes entraine de manière inhérente des risques de violations des droits humains comme le droit à la vie privée et à la santé, dénonce Amnesty. Si l'ONG se félicite des avancées engrangées dans l'espace numérique européen, elle rappelle que 90 % des adolescents vivent dans des pays en développement et que "les entreprises ont la responsabilité de respecter tous les droits humains, où qu’elles opèrent dans le monde". Pour que Alice, Luis, Fabrice, et tous les autres, puissent profiter d’internet sans risquer de tomber dans le terrier.

Accompagner l'utilisation des écrans chez les ados

Découvrez nos conseils pratiques sur le blog santé de la MC

Si les études récentes se montrent rassurantes sur l'impact général des réseaux sociaux sur le bien être des jeunes, ce constat général ne doit pas cacher les effets nocifs qui apparaissent quand on s'intéresse à des usages et des publics spécifiques.

Ce qu'il faut retenir en résumé :

Instagram a dissimulé des études internes révélant qu'une jeune fille sur trois estime que la plateforme a contribué à dégrader l'image qu'elle a de son corps.
Amnesty International démontre que les algorithmes de TikTok amplifient la diffusion de contenus dangereux, notamment liés à la dépression, l’automutilation et le suicide auprès des jeunes souffrant de trouble de santé mentale.
Le Digital Service Act, adopté en 2022 par l'Union européenne, impose aux plateformes de prendre des mesures pour prévenir les contenus dangereux, sous peine de sanctions.
En février 2023, la Commission européenne a ouvert une enquête contre TikTok pour manquements présumés dans la protection des mineurs
En réponse, TikTok a introduit des fonctionnalités permettant de rafraîchir son fil, limiter le temps d’écran pour les mineurs et filtrer certains contenus par mots-clés.
Pour Amnesty, les mesures actuelles ne suffisent pas. Il est essentiel de s'attaquer à l'économie de l'attention en donnant aux utilisateurs un contrôle réel sur leurs données personnelles.