根据 Resemble AI 最新关于 AI 生成欺诈的报告,一名 Arup 财务员工在加入一次视频会议后授权转账,总额约 2500 万美元,会议中几乎所有参与者都是 AI 生成的深度伪造,包括公司的首席财务官和同事。

报告中引用的 Gartner 研究发现,过去 12 个月内有 62% 的组织遭遇过深度伪造攻击,联邦调查局估计,2025 年由 AI 支持的诈骗造成的报告损失约 8.93 亿美元。Arup 事件已成为一个典型案例,展示了合成媒体如何通过利用人类信任而绕过传统安全控制,而非依赖技术漏洞。