亿万富翁投资者 Mark Cuban 公开批评 Meta（前身为 Facebook），指责其明知故犯地允许 AI 生成的深度伪造广告针对用户。Cuban 报告称，他收到了许多来自个人的电子邮件，称他们被骗购买了价值 294 美元的虚假糖尿病疗法。据称，这些广告利用 AI 生成的 Cuban 面部和声音副本来销售他并未提供的产品。Cuban 指出，其中一些广告甚至包含免责声明，称内容是 AI 生成的娱乐内容，他认为在观众看到免责声明之前，诈骗就已经成功了。他将平台对此类内容的容忍定性为该组织的一个核心文化问题。
Reuters 报道的 Meta 内部文件突显了这一问题的规模。这些文件表明，Meta 预计大约有 160 亿美元——约占其 2024 年收入的 10%——将来自推广诈骗和违禁产品的广告。Meta 的内部安全人员估计，用户在其应用中每天看到大约 150 亿条“高风险”广告，这些广告具有明显的欺诈特征。虽然 Meta 的自动化系统旨在识别这些广告，但文件揭露了一个特定的审核阈值：在平台封禁广告商之前，自动化系统必须将该账户判定为至少有 95% 的可能性在运行诈骗。如果疑似诈骗者的比例低于 95% 阈值，系统则允许该账户保持在线，前提是广告商支付更高的每条广告费用。
这一审核政策对弱势群体产生了重大后果。根据 FBI 2025 年互联网犯罪报告，2025 年 60 岁及以上的美国人遭受互联网犯罪损失达 77 亿美元，比前一年增加了 59%。在这些犯罪中，投资计划造成的损害最大，而技术和客户支持诈骗造成的损失超过 10 亿美元。值得注意的是，AI 涉及其中 3,100 多起投诉，受害者在与 AI 相关的欺诈中损失超过 3.52 亿美元。针对这些审查，Meta 发言人表示，160 亿美元的数字是“粗略且包含过多的”，并指出公司在 2025 年移除了超过 1.34 亿条诈骗广告。然而，美国证券交易委员会目前正在调查 Meta 与金融欺诈相关的广告问题。
关于“明知故犯”允许的欺诈与因技术限制而绕过过滤器的广告所产生的确切收入金额，仍存在一个重大的不确定性。由于 160 亿美元的数字是 Meta 描述为“包含过多的”内部估算，因此很难确定 Meta 系统根据 95% 阈值规则故意允许运行的广告与那些完全被自动化检测系统遗漏的广告所产生的确切收入比例。这一区别是理解在激进的欺诈预防与维持高额广告收入之间的权衡关系的核心。