現代のデジタル生活は一つのパラドックスによって定義されています。テック企業は膨大な量の個人データを所有しているにもかかわらず、ユーザー体験はしばしばその知識から乖離しているように感じられます。例えば、あるユーザーは広範囲に追跡され、すでに購入した製品の広告を提示されたり、利用するつもりのないサービスのマーケティングを受け取ったりすることがあります。これは、データ収集が普及している一方で、そのデータの活用が依然として「反応的」なものにとどまっていることを示唆しています。つまり、ユーザーの生活や好みの深い理解を反映するのではなく、最近の行動に対して汎用的な反応を引き出しているに過ぎないのです。

技術的な摩擦は、サービスがユーザーの明示的な設定よりも地理的な仮定を優先する場合にも発生します。ユーザーがシステムロケール、ブラウザの言語、アカウント設定をすべて英語に設定していても、特定の地域から閲覧したり旅行したりしている際に、フィンランド語のランディングページにリダイレクトされたり、ドイツ語のインターフェースを強制されたりすることがあります。これらの失敗は、プラットフォームによるデータの優先順位付けの崩壊を示しています。ユーザーが手動で設定した特定の好みを尊重する代わりに、システムは広範な位置情報ベースのヒューリスティックをデフォルトとして採用している可能性があります。これにより、ソフトウェアがユーザーのアカウントプロファイルにアクセスできるにもかかわらず、ユーザーの明示したアイデンティティを「認識していない」かのように見える、不快な体験が生み出されます。

さらに、機械学習アルゴリズムは微妙な行動パターンの特定に苦労することがよくあります。あるユーザーがテクノのプレイリストにあるすべてのボーカルトラックを数年間一貫してスキップし続けていても、アルゴリズムはその特定の好みを認識できないことがあります。同様に、特定の家電製品の設置手順を一度検索しただけで、それが家電に対する長期的な関心であると誤解され、無関係な推奨事項の洪水につながることがあります。これは、現在の予測モデルにおける重大な限界を浮き彫りにしています。つまり、それらは一度限りの実用的なニーズと、持続的な消費者の関心とを区別することに苦労しているのです。広告の目的は有用性ではなく強制であると主張する者もいますが、「質の低い」推奨事項が絶えず現れることは、ユーザーを追跡することから彼らの文脈を真に理解することへの飛躍が、多くのプラットフォームにとって依然として大きな障壁であることを示唆しています。