RobloxのCEOデイビッド・バズッキがRobloxにおける児童捕食者問題についてコメント

Roblox Corporationは最近、子どもの安全性向上の一環として顔認識機能を導入しました。CEOのデイビッド・バズッキはこの取り組みに非常に意欲的ですが、最新のポッドキャスト『Hard Fork』のエピソードではその回答が強烈で疑問を投げかけるものでした。バズッキは2023年11月21日に投稿されたエピソードでニューヨーク・タイムズのジャーナリスト、ケイシー・ニュートンとケビン・ルースと対談しました。彼らの会話は顔認識機能からコンテンツモデレーションにおけるAI使用の意見の相違まで幅広く及びました。

Robloxは最新技術を活用してユーザーの年齢を検出し、子どもたちを守るためのモデレーションを強化しています。バズッキによると、同社は現在、既存のモデレーションシステムを補完するために写真の顔からのAIによる年齢推定を使用しています。例えば、テキストフィルターはユーザーが「###」のようなトリックを使ってセンサーをすり抜けようとするため、継続的に改善されています。「AIによって、このフィルターはより良くなっています」と彼は述べ、現在の主な焦点は悪意ある行為やルール違反の個人情報共有をブロックすることであり、その効果は向上していると強調しました。

バズッキの児童捕食者に関する反応

ニュートンはインタビューの冒頭で、Robloxが「捕食者が子どもを探す場所」と非難されていることに触れました。バズッキはその見解を即座に否定しました。彼はむしろこの状況を「問題だけでなく機会でもあるジレンマ」と表現しました。彼によると、子どもたちがプラットフォーム上で「集まり、コミュニケーションを取り、一緒に創造する」ことを可能にするのはポジティブなことです。バズッキはRobloxのユーザー間のコミュニケーションの多くの利点を強調しました：多くの孤独な子どもたちがこのプラットフォームで友達や重要なコミュニティを見つけています。実際、彼は一部の親が「コミュニティがなければ子どもは生き延びられなかったかもしれない」と語ったと主張しています。

バズッキはまた、Robloxが技術に詳しい親だけでなくすべての親が使えるシステムを設計する大きな責任を負っていると強調しました。彼はチームが若いユーザーの安全を守るために、テキストフィルターから画像検査に至るまで「さまざまな分野で高度な技術」を開発したと述べました。

AIベースのモデレーションの革新

対談の中で、バズッキは技術の進歩に対する信頼を繰り返し表明しました。彼は最新の訴訟での「捕食者がRobloxを使って子どもを探している」という主張を強く否定し、自身のプラットフォームが「非常に革新的」であり若いユーザーの保護において進化し続けていると述べました。彼は人間が手動でモデレーションを行うたびにAIに切り替えることで効果が向上すると例を挙げました。彼の例えは自動車の組み立てラインで、以前は手作業だったものが自動化（AI）によってより効率的になり、必要な労力も少なくなるというものです。つまり、バズッキはすべての画像とテキストをAIで審査することは完全に人間のチェックに頼るよりもはるかに優れていると考えています。彼はインタビュアー二人が実はRobloxのすべての決定を支持している秘密のインタビューなのかと冗談を言い、少し緊張しつつも熱意を持っている瞬間を見せました。

Robloxにおける予測市場のアイデア

真剣な話の合間に、子どもたちがRobux通貨で「賭け」を行う予測市場の可能性についての軽い質問が出ました。ケビン・ルースはそれを「悪いアイデア」と考えましたが、バズッキは非常に興味を持っていました。彼はそのコンセプトを「とても楽しい」と呼び、「教育的かつ合法的に行われれば素晴らしい」と述べました。バズッキは架空のゲーム例として「Dress to Impress Predictor」を挙げ、そこでは無料のRobuxや現金の賞品はなく、子どもたちを搾取せずに予測について学ぶ手段として機能すると想像しています。バズッキは「教育的かつ合法的にできれば素晴らしいアイデアだと思う」と述べ、この考えを条件付きで支持していることを示しました。

論争と訴訟

バズッキはRobloxのモデレーション努力を擁護し続けていますが、多くの関係者は依然として批判し、企業により大きな責任を求めています。主なポイントは以下の通りです：

• ブルームバーグ報告（2024年6月）：ブルームバーグの調査でRobloxプラットフォームが「捕食者で溢れている」と判明し、子どもの安全性に対する広範な非難を引き起こしました。
• 州政府の訴訟：フロリダ州、テキサス州、ルイジアナ州など複数の米国の州が、企業が子どもたちを搾取やグルーミングから十分に保護していないとしてRobloxを訴えました。
• ハインデンバーグ・リサーチの告発：活動家企業ハインデンバーグ・リサーチ（2024年10月）は、Robloxが利益のために子どもの安全を軽視していると主張しましたが、バズッキはその資金が「なぜか破産している」と皮肉りました。
• 世界的な懸念：欧州刑事警察機構（Europol）によると、子どもを巻き込む暴力犯罪が増加しており、児童捕食者問題は多くの国で深刻な課題となっています。

インタビューを通じて、バズッキはRobloxがモデレーションとユーザーの安全性向上のためのツールを開発し続けていると主張しました。彼は過去のテキストフィルターや現在の顔認識機能が同社がコミュニティの「安全を気にかけている」証拠だと強調しました。しかし、2024年のブルームバーグ報告などのメディアの注目や各方面からの法的圧力の後、新しい取り組みが十分かどうかについては依然として多くの疑念があります。オンラインプラットフォームにおける児童捕食者問題はRobloxだけの問題ではなく、子ども搾取に関する世界的な懸念の一部であり、企業に対する責任強化の要求は今後も続くでしょう。