TikTokが人気インディーゲーム『Tunic』等のFinji広告を無断で生成AI改変し差別的な表現を配信、パブリッシャーが強く抗議

人気インディーゲーム『Night in the Woods』や『Tunic』などを手掛けるパブリッシャーFinjiが、TikTok広告における生成AIの無許可使用について問題を提起しています。Finjiによると、TikTokが同社のゲーム広告を生成AIで無断改変し、ユーザーに配信しているとのこと。この中には、Finjiキャラクターの人種差別的かつ性的なステレオタイプを含む広告も含まれていたと報じられています。FinjiのCEO兼共同創設者であるRebekah Saltsman氏がBlueskyでこの問題を提起し、同様の経験をしているブランドの投稿を共有。「Finjiらしくない広告を見かけたらスクリーンショットを送ってほしい」と呼びかけています。

生成AIによる無断改変とキャラクターの歪曲

FinjiはTikTokの公式アカウントでゲーム広告を配信していますが、生成AI機能はすべてオフにしているとSaltsman氏は述べています。しかし、Finjiの通常の広告に対するソーシャルメディアのコメントから、生成AIによる広告が知らない間に作成されていることを知ったとのこと。視聴者から提供されたスクリーンショットにより、問題の広告が確認され、FinjiはTikTokサポートに問題をエスカレートしました。AIによって「強化」された広告は、元の動画ではなくスライドショー形式で、公式アカウントから直接投稿されたかのように表示されていたようです。特に問題視されているのは、『Unusual June』のメインキャラクターであるJuneが、ビキニボトムを着用し、不自然に大きな腰と太ももを持つ人種差別的かつ性的なステレオタイプで描かれていた画像です。これはゲーム内のJuneの実際の描写とは大きく異なるとのこと。

TikTokサポートの対応とFinjiの不満

FinjiとTikTokカスタマーサポートとのやり取りでは、FinjiがTikTokの生成AI機能である「Smart Creative」と「Automate Creative」の両方をオフにしていることが確認されました。これらの機能は、AIが広告を自動生成・最適化するもので、Finjiは両方を無効にしていたにも関わらず、AIによる改変が行われていたことになります。FinjiはAI生成版の広告を自身で確認・編集することができず、ユーザーからの報告によってのみ状況を把握している状況です。TikTokサポートは当初、問題の解決策を見つけられず、Finjiの再三の問い合わせにもかかわらず、最終的には「AI生成アセットやスライドショー形式は使用されていない」と回答しました。しかし、Finjiが問題の広告のスクリーンショットを再度提示すると、TikTokは状況の深刻さを認め、AIの無断使用、キャラクターの性化・誤解表現、スタジオへの商業的・評判的損害を含む「重要な問題」として最高レベルでの調査を約束しました。

しかし、その後TikTokは「キャンペーンが、カルーセルと動画アセットを組み合わせることでパフォーマンス向上を目的とした『カタログ広告フォーマット』を使用した」と説明を転換。これは「より少ない労力でより良い結果を達成するため」の取り組みであり、「1.4倍のROAS（広告費用対効果）向上」が見込まれるとしました。Finjiはこれに対し、なぜ「性的な、人種差別的で、性差別的」な表現がなされたのか、なぜ無断でオプトインされたのか、オプトアウトが保証されないのはなぜか、といった点について激しく抗議。TikTokは、この回答がすでに最高レベルのチームによるものであり、「最終的な調査結果と対応策」であると回答しました。FinjiのSaltsman氏は、「TikTokが犯した過ちに対して、全く適切な対応をしていないことに衝撃を受けている」と述べており、人種差別的で性差別的なアルゴリズムの使用、無断でのコンテンツ生成、そしてこれらの間違いに対する支離滅裂な対応に強い不満を表明しています。