Google Gemini、連携するWorkspaceデータを人間によるレビューに回すことを認める

Googleはプライバシーに関する開示内容を更新し、Gemini AIに連携されたGmail、Docs、Driveの個人コンテンツが、もはや人間によるレビューから保護されないことを認めた。この変更は、そのようなデータは隔離されたままになるとした2023年の約束に反するものであり、標準的なAIとのやり取りの際に、個人のファイルやメールが人間によるレビューのパイプラインに取り込まれる可能性がある状況を生み出している。

データ隔離に関する方針の撤回

2023年、GoogleはGmail、Docs、Driveからの個人コンテンツが人間によるレビュー者に閲覧されないという明示的な保証とともに、Gemini Workspace拡張機能をリリースした。しかし、Googleのヘルプドキュメントの最近の更新と、それに続く2023年のブログ投稿の編集により、この約束が撤回されたことが確認された。

更新されたドキュメントには、レビュー者がサービスに連携された特定のメールやファイルを見ることができる可能性があるという明確な警告が含まれている。Googleは、人間によるレビュー者に見てほしくない機密情報が含まれている場合は、アプリをGeminiに連携しないようユーザーにアドバイスしている。

「Googleはこの約束を密かに撤回した。」

— GitHub - thisisme6598/gemini_files: Documentation of Gemini File Leaking Behavior

自律的な取り込みメカニズム

テストの結果、個人データの取り込みはバックグラウンドで自律的に行われることが判明した。ユーザーがコンシューマー向けのGeminiとチャットしており、「連携アプリ」が有効になっている場合、予約、名前、請求書などの個人のトピックに関する周囲の言及によって、ユーザーが明示的に@Driveや@Gmailタグを使用することなくWorkspaceの検索がトリガーされる可能性がある。

LLMのツール呼び出しとコンテキスト注入は確率的であるため、システムの動作は非決定的である。ユーザーのクエリは、以下の4つのシナリオのいずれかをもたらす可能性がある。検索なし、高レベルのメタデータ要約、2〜4文の部分的な非伏せ取り出し、または文書やメールの完全で非伏せられたテキストがセッションコンテキストに引き込まれるファイル全体の取り込みである。

自動スクラビングの限界

ドキュメントで特定された重大な技術的障害は、自動システムがユーザーのプライバシーを完全に保護できないことである。Googleの正規表現（regex）および名前付きエンティティ認識（NER）スクラバーは、物語的なデータを十分に匿名化できないことが多々ある。

これは、データが処理される際でも、口座番号、確認番号、取引日などの機密な詳細が見えるままになる可能性があることを意味する。これらの要素は、特定の都市やイベントなどの他の識別情報と組み合わさることで、人間によるレビュープロセス中に個々のユーザーに結び付けられる可能性がある。