生成式AI正将金融欺诈推向工业化运作新阶段。最新研究显示，语音克隆仅需1小时YouTube素材和11美元订阅服务即可实现，合成身份欺诈已使银行年损60亿美元。传统防御机制难以应对AI驱动的自动化攻击，包括凭证填充攻击...

美国联邦调查局（FBI）近日发布警报，揭露了一种新型高科技诈骗手段：不法分子利用AI生成的语音深度伪造（Deepfake）技术，冒充美国政府高级官员，针对政府联系人实施定向攻击。这一警告源于近期一系列备受关注的深...

Character.AI近日推出了一款名为AvatarFX的视频生成模型，该技术能够为AI生成的角色赋予动画效果，并支持从现有图像创建视频。尽管这一技术展现了巨大的潜力，但其可能被滥用于制作深度伪造（deepfake）视频的隐患也...

Adobe正在开发一项人工智能模型，用于生成视频内容，预计将于今年晚些时候集成到Premiere Pro中。该技术将具备添加、移除物体以及生成扩展内容的功能。目前，Adobe正在与第三方供应商合作，并通过对内容凭证的改进，...

本篇综述性调查深入探讨了深度伪造技术的进展与挑战，以及检测技术的发展历程，重点突出了伪造者与检测技术研发者之间的激烈竞争。深度伪造技术通过使用人工智能算法，将人物的声音、面部表情和动作进行合成，从而达...

这项工作展示了如何使用扩散技术在图像中克隆人脸。虽然深度伪造有很多方法可以实现，但扩散技术由于其根据需要修补图像中的其他部分的能力而变得更加有趣。

本研究提出了一种深度学习方法，利用四个预训练的卷积神经网络模型来识别视频中的深度伪造人脸，可实现高精度检测。深度伪造技术已成为一种严重的威胁，对政治、社会和经济稳定造成了巨大的影响。该研究提出的方法可...

微软在2023年的Microsoft Ignite活动上推出了Azure AI语音文本转换成语音化身，使用户可以使用文本转语音技术创建能够以多种语言说出预设文本的逼真化身。深度伪造技术是一种利用人工智能技术生成逼真但是虚假的视频...