简短回答: 最好的证据证明 对抗一个深层的主管是程序 不是产品 法拉利的主管打败了 CEO 语音克隆, 仅由真实人回答一个问题。 一项 CrowdStrike 研究发现 65% 雇员收到克隆语音电话 " 。CEO" 在寻求独立核查之前就已遵守,Cyble报告说 AI 深层的假象在 30% 公司在2005年发生的高影响 2025. 怀疑地处理这一领域的损失总额;报告不一致,标题金额不应成为每起事件的平均数额。
核心要点
- 记录最清楚的辩护是过程,而不是工具:一个法拉利高管通过只问一个真实人能回答的问题,击败了一个CEO语音克隆人.
- 一项"人群干扰"研究发现,65%的员工在寻求独立核实之前,从他们的"CEO"那里收到克隆语音呼叫.
- Cyble报道AI深层假冒参与2025年30%以上高影响力公司冒充袭击,CEO欺诈据报道每天针对约400家公司.
- 检测工具声称实验室精度为90%至96%,但现实世界的效能下降到45%至50%,因此96%的工具在生产中可能达到约48%;人类检测更糟糕.
- 电话 TAKE IT DOWN 法案要求覆盖平台删除在以下内容中有效报告的深假内容: 48 小时起 19 5月(半天会议) 2026,则 DEFIANCE 法律允许民事赔偿最高不超过美元150,000 违反规定者。
深假品牌欺诈现在到底是什么样子?
它已经从一个影响少数公众人物的利基问题转变为具有几种不同形式的工业化攻击媒介。 AI 令人信服地假扮一个真实的人、公司或发言人。
执行语音克隆以获取支付欺诈是经济上破坏最大的媒介。 攻击者从收入电话、会议谈话、播客外观或社交视频中复制一个声音,然后打电话给一个财务团队成员冒充 CEO 紧急转移。这些电话往往在周五下午晚点或已知旅行期间,在独立核查不方便时才发出。遵守率是令人不快的部分:一项“人群压力”研究发现, 65% 雇员收到克隆语音电话 " 。CEO" 在寻求独立核查之前,已遵守了请求。
实时视频通话冒充技术升级了同一技术. 唱片上最大的单个深假骗局使用现场视频冒充多个同事同时在同一电话上,这挫败了视频通话上的脸是验证的本能.
其他经常出现的情况包括:在面试中使用实时的面部抽查(由候选人在面试中使用假工作) FBI互联网犯罪投诉中心 2022 系统化的 2025),内部冒充 IT 工作人员, HR 董事或团队会引导提取证书或授权访问变更,以及假冒品牌或广告,在假广告中出现合成高管或发言人。 每一种模式都针对不同形式的机构信任 — — 财务批准、雇用决定、内部服务台请求或公众认可 — — 这就是为什么单一的检测工具永远无法成为完整的答案。 研究人员发现的不止一个。 100 冒充单曲的深假视频广告 UK 在一个月里,总理在一个平台上,这让人意识到这个尺度是多么便宜。 AI 涉及的深层假象 30% 公司在2005年发生的高影响 2025,和 CEO 欺诈利用深层假象 现在据报道目标周围 400 公司每天开销。
为何这个领域的深层假数据如此不可靠?
之所以如此,是因为这个话题主要在于收集同样数字,而通常没有主要归属,以及标题数字在审查后没有幸存。 一个广泛重复的关于欺诈激增的3,892%的说法是多年来被引用的,而没有人检查它衡量了什么。
有两个消息来源显然对自己的局限性坦诚,他们应当谨慎行事。 2025 报告损失总额超过美元1.28 另一人明确表示,不能将现有的数据集合并为一个全球总计,因为每个数据集都衡量欺诈过程的不同阶段。 值得放在董事会前的数字是具有命名源和确定计量线的数字 — — 即CrowdStrike遵守率、Cyble公司冒充份额和低于标的准确度数字 — — 而10亿美元的总和百分比激增最好被排除在外。
由此产生了一种实际习惯:当统计到达时没有指定来源、确定分母和说明的计量窗口,就把它当作营销而不是证据,并要求供应商在将统计结果列入董事会文件或公开声明之前,拿出基本方法。
检测软件能捕捉到深层假象吗?
仅部分,且不足以可靠地成为主控. AI检测工具声称实验室环境的精度为90-96%,Intel的"假卡"报告为96%,但现实世界的效能降至45-50%,这意味着在实验室中实现96%的工具在生产中可能以约48%的功率——硬币翻转,作为控制部署.
人类的票价更差。 iProov的研究将人类对深层假象的检测率定为0.1%,维里夫和坎塔尔的单独工作发现人们在被要求识别被操纵的视觉时只表现略高于机会。 培训工作人员去发现视觉制品并不是一个可行的控制,因为它要求人们完成他们无法可靠完成的任务。 不对称性也在扩大:检测在逐步改善,而生成质量则随着每个模型的释放而提高。 实践者的结论是检测是一种辅助控制,而不是一个主控制 — — 首要控制是即使假的说服力使欺诈失败的过程。 法拉利执行官没有发现任何东西;他只是要求通过攻击者不控制的渠道进行核查.
是什么阻止了一场深层假攻击成功?
三层,按影响顺序排列: 使假的不相关,内容来源使真实的材料可核查的流程控制,以及发布后捕获假冒的监控.
第一层——过程控制. 保护价值大部分都在这里,而且几乎不花任何代价。 段外核查 是指通过请求者未提供的渠道确认异常或不可逆转的请求,例如对已知号码的回调而不是电文中给出的回调。电汇、收款人变更、证书汇回、访问赠款和通过异常渠道抵达的合同签名应当通过政策要求这样做。 事先同意的密码句或对执行层的质疑问题请求将法拉利方法正规化,因为它们需要知识 攻击者无法合成。 消除紧急情况作为授权的捷径也是重要的:攻击机械是一贯的——建立权威、制造紧迫性、限制独立核查、推动不可逆转的行动——以及一项真正要求核查就永远不是迫切要求的政策,可以消除攻击所依赖的机制。 在桌面练习中重温深层假象和红色团队聘用,现在是一些安保公司的标准做法,这说明威胁已经从理论转向了业务。
第二层——出处. 与其试图证明假的是假的,这让真实的内容可以证明是真实的. 内容来源 是一个加密记录,在抓取或导出时嵌入介质,以验证其来源和编辑历史。相关标准是 C2PA, Adobe 内容 全权证书 财务报告和已审计财务报表 Google 合成ID. 收养已达到有意义的规模: Google 5月报告 2026 合成ID的水印超过 100 10亿张图像和视频加 60,000 音频年数, 使用校验 50 实际策略是标记所有真正的公司内容,因此声称来自你的无标签媒体自动被怀疑 — — 倒置证明假冒的重担是假冒的,而指向缺乏证书。 有两个警告是:企业创造性工具的收养最强,开源生成管道中最弱,因此使用开放工具的攻击者不费力地生产无标签媒体,而来源强化了有关来源的证据,而不会单独解决更广泛的骗局过程。
第三层——监测和反应。 内容监测平台扫描媒体参考品牌、其高管或产品,并将现场检测纳入身份核查工作流程,保护招聘和KYC流程不受被面部扫描的候选人的影响。 这三个层中没有一个能替代其他层:监测捕获到什么过程和出处缺失,出处给监测带来具体的信息来对照,而处理是防止在另一层中任何一个都有机会采取行动之前几分钟造成损失的令人信服的假象。
有哪些法律保护可以防止品牌的深层假象?
法律地位已经大有进展,使品牌的影响力比大多数人意识到的要大,尽管两个主要方面是: US 法律首先针对非同意的亲密图像,而公司只是间接的冒充。
电话 TAKE IT DOWN 5月签署 2025将某些未经同意的亲密图像的发表定为犯罪,包括: AI-生成的材料,以及 19 5月(半天会议) 2026 覆盖的平台必须提供删除程序,并删除有效报告的内容和已知的相同副本 48 小时。 FTC 开始执行平台要求,并向12个网站发送警告信。 20 5月(半天会议) 2026。该词 DEFIANCE 法案为深层假受害者规定了联邦民事诉讼理由,损害赔偿最高可达美元。150,000 品牌不能直接依赖任何法律来弥补大多数商业假冒,而是在平台上建立先例和实用的告示和收购基础设施,而这正是在报告品牌冒牌行为时使用的方法。 EU AI 行动义务阶段至 2027,增加关于合成内容的透明度义务,以及 US 州一级的深层假法律继续扩大。
当深层假象袭击时 品牌应该做什么?
快速移动并保存证据, 并先于其它任何事物, 因为报告材料经常删除您以后需要的复制件。 屏幕记录、 URL、 时间戳、 账户细节和内容本身应该被捕获, 然后再删除 。
立即通过平台渠道报告,因为上述通知和收购基础设施现在受到监管的注意。 在对外沟通之前通知工作人员,因为雇员是伪造的对象,而且解释发生的事情和重新说明核查程序的信息可以防止二次袭击。 向客户传达具体信息而不是一般性的警告——点名平台、捏造索赔以及公司不以这种方式招商引资,是纠正的可用办法。 指向你们核实的频道 只有在事先确定来源和渠道核查的情况下,才能奏效。 提前就保全令和平台升级进行法律上的参与,然后就程序进行汇报,而不是技术汇报。 有用的问题是,应该由哪一种控制使欺诈失败,以及是否存在欺诈。
为何多语言组织更容易遭受深层欺诈?
因为大多数深假指导都是用英语写成的,并假设目标,攻击者分享一种语言,这种假设在最暴露于这种欺诈的环境里是失败的.
多国经营的金融业务在几个国家都有工作人员经常用第二种或第三种语言接受指示。 可能使合成声音感到错误的微妙提示—— 平庸、登记、区域措辞、犹豫模式—— 正是非本地听众获得的提示。 马尼拉、雅加达或内罗毕的团队使用英语的克隆语音,失去了同事在其中的异常。 CEO家用市场可能半点通知 语音克隆 质量也因语言而异:克隆一般最强于高资源语言,训练音效丰富,因此,一个有时数公开英语的行政人员在英语中比很少公开使用的语言更能克隆, 建立未充分利用的控制——用攻击者模式的语文进行核查不太可能很好地处理。 核查程序需要用每一种操作语言书写,而不是作为事后思考翻译,因为只有英语员工手册中存在的质疑问题协议不能保护另一个市场的金融团队。 生产合成介质的组织也在这里承担着责任:对自己的输出适用出处纪律,避免造成一种没有标签的合成介质看起来正常的环境,而这种环境是攻击者赖以生存的环境。
我们这个季度该做什么?
从取消检查政策和执行挑战问题开始,因为这两项控制具有大部分保护价值,几乎不需要花费任何费用。
将电汇、收款人变更、证书汇兑和访问补助金的频段外核查政策写成单一的页。确定执行质疑问题并向会接到这种电话的人介绍情况。 审计主管的公开音频脚印不是要减少,而是要知道攻击者必须合作什么。 开始标记真实内容的 C2PA 或 Content Certification, 首先是执行视频和官方公告。 在下一个桌面练习中添加一个深假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假假 将全部翻译为每种操作语言. 不需要一个检测平台和一个专家 AEO 财务报告和已审计财务报表 GEO 提供者 能够帮助将经核实的渠道和来源信号折叠成一个品牌的官方存在如何在网络上被描述,这是同一防御的一部分,由以下内容涵盖: AI出版商交易和品牌责任.
这里 Lifewood自己的作品就坐着,所以值得宣布利息. Lifewood 横跨 100+ 以人与人之间的校验为核心学科,并构建多语种语音和内容数据,作为生成和检测系统的基础。