『Roblox』にAIモデレーションシステムが導入され、ゲーム内の不適切コンテンツをリアルタイムで検出・シャットダウン！ より安全なゲーム体験とクリエイター向けサポートも強化

大人気オンラインゲームプラットフォーム『Roblox』において、AIを活用した新たなモデレーションシステムが導入されました。これにより、リアルタイムで不適切なコンテンツを検出し、プレイヤーが目にする前にシャットダウンすることで、より安全なゲーム体験が提供されるとのことです。

新たなAIモデレーションの仕組み

これまでのモデレーションツールが単一のオブジェクトを個別に評価していたのに対し、今回の新しいマルチモーダルシステムは、アバター、テキスト、3Dオブジェクトを含むゲーム内のシーン全体をリアルタイムで分析します。これにより、個々の要素では問題なくとも、組み合わせることで不適切になるコンテンツを検出できるのが特徴です。例えば、自由描画ツールで不適切なシンボルが描かれた場合など、文脈上の問題を正確に捉えることができるとしています。このシステムで違反が繰り返し検出された場合、ゲーム全体ではなく、問題のあるサーバーのみをシャットダウンすることで、他のプレイヤーへの影響を最小限に抑えています。すでにローンチ以来、毎日約5,000のサーバーが停止されているとのことです。

クリエイター向けのサポートと業界全体の取り組み

今回のAIモデレーション導入に伴い、クリエイター向けダッシュボードには、ユーザーの不適切な行動によりシャットダウンされたゲームサーバーの数が表示される新しいチャートが追加されました。この数値の急増は、ゲーム内のカスタムエモートや建築ツールなどに問題がないか、クリエイターが確認・調整するための重要な指標となります。また、『Roblox』はKeyword StudiosやRiot Gamesと共同で、オンラインコミュニティマネージャーおよびモデレーター向けの「DLCリーダーシッププログラム」を開発中です。これは、ゲーム業界にこれまで存在しなかった、標準化されたエビデンスベースのトレーニングプログラムを構築することを目的としており、業界全体の健全化にも貢献していくとしています。