Le PDG de Roblox David Baszucki s'exprime sur les accusations de prédateurs d'enfants sur Roblox

Roblox Corporation a récemment lancé une fonctionnalité de reconnaissance faciale dans le cadre de ses efforts pour améliorer la sécurité des enfants. Le PDG David Baszucki est très enthousiaste à propos de cette initiative, mais dans le dernier épisode du podcast Hard Fork, ses réponses paraissent intenses et questionnables. Baszucki discute avec les journalistes du New York Times, Casey Newton et Kevin Roose, dans un épisode publié le 21 novembre. Leur conversation s’étend des fonctionnalités de reconnaissance faciale aux divergences d’opinion sur l’utilisation de l’IA dans la modération de contenu.

Roblox utilise les technologies les plus récentes pour détecter l’âge des utilisateurs et renforcer la modération afin de protéger les enfants. Selon Baszucki, l’entreprise utilise désormais une estimation d’âge basée sur l’IA à partir de photos de visage pour compléter le système de modération existant. Par exemple, les filtres de texte sont continuellement améliorés car les utilisateurs essaient souvent des astuces comme écrire “###” pour contourner le filtre. « Avec l’IA, ces filtres deviennent de plus en plus performants », déclare-t-il, en soulignant que l’objectif principal est actuellement de bloquer les tentatives malveillantes et le partage d’informations personnelles interdites, dont l’efficacité est sans cesse améliorée.

Réponse de Baszucki sur les prédateurs d’enfants

Newton ouvre l’interview en évoquant les accusations selon lesquelles Roblox serait un « lieu où les prédateurs cherchent des enfants ». Baszucki rejette immédiatement cette idée. Il décrit plutôt cette situation comme un dilemme qui « n’est pas seulement un problème, mais aussi une opportunité ». Selon lui, permettre aux enfants de « se rassembler, communiquer et construire ensemble » sur la plateforme est une chose positive. Baszucki souligne de nombreux bénéfices de la communication entre utilisateurs sur Roblox : beaucoup d’enfants isolés trouvent des amis et une communauté importante sur la plateforme. Il affirme même que certains parents ont dit que leur enfant « n’aurait peut-être pas survécu » sans avoir une communauté comme Roblox.

Baszucki affirme également que Roblox porte une grande responsabilité pour concevoir un système utilisable par tous les parents, pas seulement ceux qui comprennent la technologie. Il mentionne que son équipe a développé des technologies avancées dans divers domaines (allant des filtres de texte à la vérification d’images) pour assurer la sécurité des jeunes utilisateurs sur la plateforme.

Innovation dans la modération basée sur l’IA

Au cours de la conversation, Baszucki continue d’exprimer sa confiance dans la sophistication de la technologie. Il rejette fermement les allégations dans une récente plainte selon lesquelles des prédateurs « utilisent Roblox pour cibler des enfants », et affirme que sa plateforme est « très innovante » et continue d’évoluer pour protéger les jeunes utilisateurs. Il donne l’exemple que chaque fois qu’une modération manuelle est effectuée, passer à l’IA améliore en fait son efficacité. L’analogie qu’il utilise est celle de la chaîne de montage automobile : si auparavant elle était manuelle, une chaîne de montage automatisée (IA) est clairement plus efficace tout en nécessitant moins de travail humain. En d’autres termes, Baszucki estime que l’utilisation de l’IA pour examiner chaque image et texte est bien meilleure que de se fier uniquement à la vérification humaine. Il plaisante même en se demandant si cette conversation est une interview secrète où les deux intervieweurs soutiennent en réalité toutes les décisions de Roblox — un moment tendu qui montre que Baszucki est un peu nerveux mais reste enthousiaste.

Idée de marché prédictif sur Roblox

Au milieu de la discussion sérieuse, une question légère est posée sur la possibilité d’un marché prédictif dans Roblox, où les enfants pourraient « parier » avec la monnaie Robux. Kevin Roose le considère comme une « mauvaise idée », mais Baszucki est très intéressé. Il qualifie ce concept de « très amusant » et même « brillant » s’il est réalisé de manière éducative et légale. Baszucki imagine un exemple de jeu fictif, comme « Dress to Impress Predictor », où il n’y aurait pas de Robux gratuits ni de récompenses monétaires, mais simplement un moyen d’apprendre la prédiction sans exploiter les enfants. Selon Baszucki, *« Je pense que c’est une idée brillante si elle peut être faite de manière éducative et légale »,* montrant qu’il soutient cette idée avec une réserve ferme.

Controverses et poursuites

Bien que Baszucki continue de défendre les efforts de modération de Roblox, plusieurs parties continuent de critiquer et demandent à l’entreprise d’assumer davantage de responsabilités. Quelques points clés qui émergent sont :

• Rapport Bloomberg (juin 2024) : Une enquête de Bloomberg a révélé que la plateforme Roblox est remplie de prédateurs, ce qui a suscité une large condamnation concernant la sécurité des enfants.
• Poursuites des États : Plusieurs États américains comme la Floride, le Texas et la Louisiane poursuivent Roblox pour ne pas avoir suffisamment protégé les enfants contre l’exploitation et le grooming.
• Accusations de Hindenburg Research : La firme activiste Hindenburg Research (octobre 2024) affirme que Roblox néglige la sécurité des enfants au profit du profit, bien que Baszucki réponde en se moquant que les fonds de ces activistes *« sont étrangement en faillite »*.
• Inquiétudes mondiales : Selon Europol (forces de l’ordre européennes), la criminalité violente impliquant des enfants continue d’augmenter, montrant que le problème des prédateurs d’enfants est désormais une question sérieuse dans de nombreux pays.

Tout au long de cette interview, Baszucki insiste sur le fait que Roblox continue de développer des outils de modération et de sécurité pour ses utilisateurs. Il souligne que les filtres de texte passés et la reconnaissance faciale actuelle sont la preuve que l’entreprise « se soucie de la sécurité » de sa communauté. Cependant, après l’attention médiatique (comme le rapport Bloomberg 2024) et la pression juridique de diverses parties, beaucoup de doutes subsistent quant à savoir si ces nouvelles initiatives sont suffisantes. Le problème des prédateurs d’enfants sur les plateformes en ligne n’est plus seulement un sujet pour Roblox, mais fait partie d’une inquiétude mondiale sur l’exploitation des enfants, ce qui fait que les demandes pour que l’entreprise assume davantage de responsabilités continuent de croître.