GoogleのGemini AI、人間による審査を通過した欺瞞的な広告を特定

GoogleのGemini AIモデルは、欺瞞的な広告を数秒で特定して拒否することができますが、それらと同じ広告が同社の人間による審査プロセスを何度も突破することに成功しています。この不一致は、自動検出能力と、Google Adsエコシステムを監視するために使用される手動の監視との間のギャップを浮き彫りにしています。

欺瞞的な「システムアラート」の手法

YouTubeアプリに表示された特定の広告は、ネイティブのiOSシステムアラートモーダルを模倣するように設計されていました。その広告は、標準的なiOSのタイポグラフィとコンテナスタイリングを採用して偽の「iPhoneのストレージがいっぱいです」という警告を表示し、偽の「はい」と「いいえ」のボタンまで備えていました。

この画像は、記事で説明されている欺瞞的な「システムアラート」戦術、特に広告がネイティブのOSコンポーネントをどのように模倣しているかを示しています。

これらのボタンは機能しない静止画像でした。システムコントロールとして機能する代わりに、バナーのどこかをクリックすると、サードパーティのストアやランディングページにリダイレクトされました。また、この広告は恐怖を煽る戦術も使用しており、すぐにスペースを確保しなければ特定のデバイス機能が停止すると主張していました。

「Google自体のモデルは数秒で広告を拒否するが、Googleの審査プロセスはそれを2回承認した。」

— Why is Google still serving dodgy ads?

AI検出 vs 人間による審査

GoogleのGemini AIに評価のために提出された際、モデルは即座にその広告を「不承認（DISAPPROVED）」として分類しました。Geminiは、誤解を招く広告デザイン、信頼性のない/欺瞞的な主張、および機能しないUIコンポーネントの使用という3つの特定のポリシー違反を特定しました。

この明確なAIの分類にもかかわらず、その広告は少なくとも2回、人間による審査者によって承認されました。ユーザーがその広告を報告した際、Googleの公式な回答は、その広告は有害なコンテンツや慣行に関するポリシーに違反していないというものでした。

運用的および経済的なトレードオフ

AI検出と人間による承認の間のギャップは、広告エコシステムの圧倒的な規模に起因している可能性があります。広告の量が人間の審査者の能力を超えることが多いため、一部の欺瞞的な広告は、手動審査をトリガーするのに十分な報告を受けるまで、網の目をすり抜けてしまうことがあるのです。

また、潜在的な経済的インセンティブも働いている可能性があります。これらの欺瞞的な広告は高いクリック率を生成するように設計されているため、収益を生み出す上で非常に効果的です。これにより、プラットフォームの財務的利益が、自社の安全および虚偽表示に関するポリシーの厳格な執行と衝突する状況が生じています。