Alors que Meta s'efforce d'aligner sa fortune sur la ruée vers l'or de l'IA - introduisant récemment des chatbots inspirés de célébrités avec lesquels les utilisateurs peuvent interagir - elle reste confrontée à un problème plus fondamental avec son modèle économique : les enfants adorent ses plateformes.
Une coalition de 34 États américains poursuit maintenant le géant des médias sociaux, alléguant que Facebook et Instagram manipulent de manière inappropriée les enfants qui les utilisent.
Les procureurs généraux des États, dont la Californie, New York, l'Ohio, le Dakota du Sud, la Virginie et la Louisiane, accusent Meta d'utiliser ses algorithmes pour encourager une utilisation compulsive et nuire à la santé mentale des enfants avec des fonctionnalités telles que le bouton «J'aime», selon un rapport de Deadline.
La plainte de plus de 200 pages appelée procès affirme que les affirmations de Meta concernant une expérience sécurisée pour les jeunes utilisateurs sont fausses et trompeuses.
«Au cours de la dernière décennie, Meta - lui-même et par le biais de ses principales plateformes de médias sociaux Facebook et Instagram (ses plateformes de médias sociaux ou plateformes) - a profondément modifié les réalités psychologiques et sociales d'une génération de jeunes Américains», indique le dépôt légal. «Meta a exploité des technologies puissantes et sans précédent pour attirer, engager et finalement piéger les jeunes et les adolescents.»
Meta a déjà exploité l'IA pour résoudre les problèmes de confiance et de sécurité sur ses plateformes, notamment en modérant le contenu nuisible, en empêchant les adultes de harceler les mineurs via des messages privés, et en détectant et supprimant le contenu d'exploitation des enfants.
Dans une réponse fournie à Decrypt, un porte-parole de Meta a déclaré que l'entreprise partage les mêmes préoccupations que les procureurs généraux des États en ce qui concerne des expériences sûres et positives pour les jeunes, affirmant avoir «déjà introduit plus de 30 outils pour soutenir les adolescents et leurs familles».
«Nous sommes déçus que, au lieu de travailler de manière productive avec les entreprises de l'industrie pour créer des normes claires et adaptées à l'âge pour les nombreuses applications utilisées par les adolescents, les procureurs généraux aient choisi cette voie», a ajouté le porte-parole.
Meta a également affirmé que les recherches sur l'impact négatif des médias sociaux sont inconclusives et ne soutiennent pas l'idée selon laquelle l'utilisation des médias sociaux cause des problèmes de santé mentale chez les adolescents. L'entreprise a également déclaré qu'elle permet aux utilisateurs de masquer le nombre de likes afin qu'ils ne soient pas visibles par les autres.
Meta a déclaré avoir apporté plusieurs modifications afin que «les adolescents puissent s'exprimer dans un environnement sûr», notamment la vérification de l'âge, le paramétrage automatique des comptes des adolescents en privé, des interventions automatisées pour empêcher les adultes suspects d'interagir avec les adolescents, et l'interdiction de contenu promouvant le suicide, l'automutilation et les troubles alimentaires.
Néanmoins, les plaignants gouvernementaux poursuivent leur action en justice.
«Cette action est dans l'intérêt public des États demandeurs», écrivent les avocats généraux. «Les actes et pratiques illégaux de Meta affectent un nombre important de consommateurs dans les États demandeurs et ces actes et pratiques ont causé et continueront de causer des effets néfastes aux consommateurs dans les États demandeurs.»
Les avocats des États demandent des dommages-intérêts, une restitution et une compensation d'un montant variable pour chaque État mentionné dans la plainte, allant de 5 000 $ à 25 000 $ par incident présumé.
Meta affirme que la meilleure voie à suivre est de développer des politiques larges et universelles qui s'appliquent à toutes les plateformes sociales.
«Les problèmes identifiés par les avocats généraux se prêtent à des normes intersectorielles pour les jeunes et à la nécessité de travailler avec des entreprises de l'industrie pour aborder ces sujets», a déclaré Meta dans un e-mail.
Meta fait partie de plusieurs géants de la technologie, dont Microsoft et Google, qui investissent massivement dans l'intelligence artificielle générative.
En septembre, lors de sa conférence annuelle Meta Connect, le PDG Mark Zuckerberg a annoncé plusieurs nouvelles applications basées sur l'IA qui seront ajoutées à sa suite de plateformes de médias sociaux, y compris 28 personnages IA avec lesquels les utilisateurs pourront interagir, joués par Snoop Dogg, Tom Brady, Kendall Jenner et Naomi Osaka.