人工智能和大模型技术的迅猛发展,为人们的生活带来了前所未有的变革,特别是 DeepSeek 等应用的爆火和 AI PC 等端侧设备的加速普及给工作、生活带来便利,但与此同时,AI 技术的滥用也带来了新的安全威胁。AI 换脸诈骗正是一种新兴的、极具隐蔽性和危害性的手段,正逐渐成为网络安全领域的一大挑战,今年的全国两会期间,多位全国人大代表、全国政协委员呼吁立法整治 AI「换脸拟声」,引发社会广泛关注。
为了应对日益严峻的 AI 换脸等恶意应用的威胁,凭借自身在 AI 领域的深厚积累和敏锐洞察力,联想集团即将推出一项重要 AI 防诈技术——「Deepfake 深度伪造技术检测器」。联想集团在 4 月 17 日发布的一则宣传片《用 AI 守护 AI》中展示了更多细节,该技术能够在 5 秒内精准识别各种 Deepfake 换脸伪造,准确率高达 96%,将有效遏制 AI 欺诈行为的蔓延。
AI 换脸,本质上是生成式 AI 的创新应用,其借助深度学习技术生成高度逼真的虚假视频或图像,并随着技术不断成熟可达到以假乱真的程度,这也为不法分子提供了可乘之机。利用 AI 换脸技术开展诈骗、身份盗窃、发布虚假信息等欺诈活动,给个人、企业乃至社会都带来了严重的损失和危害。其中,由「deep learning」(深度学习)和「fake」(伪造)组合而成的 Deepfake 是目前发展最成熟的 AI 换脸技术,是人工智能深度学习领域的一个重要分支,自诞生以来便备受关注,但也随着 Deepfake 技术在各类应用场景中频繁出现,也引发了广泛的担忧。
联想集团即将推出的「Deepfake 深度伪造技术检测器」,基于 DeepSeek 开源大模型构建,体现了其对前沿技术的精准把握和有效利用,并可部署在 AI PC 进行本地运行,也进一步强化了联想 AI PC 个人数据和隐私安全保护的特性。联想研发团队在 DeepSeek 大模型卓越性能和广泛适用性的技术支撑下,持续深入探索 AI 生成内容的识别与防范技术,不断优化算法和模型,打造出一款高效、可靠的 AI 反诈工具。
联想提出的 Deepfake 深度伪造技术检测方法具有诸多先进性。从技术原理上看,它运用先进的深度学习算法对图像和视频中的细微特征进行深入分析,识别真实人脸和 Deepfake 伪造人脸之间的微妙差异,从而准确判断出视频或图像是否经过 AI 换脸处理。相较于传统的检测方法,具有更高的准确性和适应性,能够更好地应对不断变化的 AI 换脸技术。
在功能实现方面,联想的这项技术已经取得了显著成果。例如,在在线视频会议场景中,系统能够实时对参会人员的视频进行检测,一旦发现 AI 伪造视频可立即向用户发出提示,有效增强了会议的安全性。这对企业确保商务洽谈、机密信息交流等场景下的安全性至关重要。而在社交媒体浏览中,该技术可自动扫描视频并标记出疑似 AI 换脸的视频在帮助普通用户轻松辨识视频真伪的同时,避免受到虚假信息的误导,同时也有助于维护社交媒体平台的健康生态。特别是当用户使用 AI PC 时,系统能够实时感知 AI 换脸安全风险并及时预警。因此,用户在日常办公、娱乐和其他使用场景下都能得到全方位的安全保护。
除了高准确率和广泛的应用场景外,联想这项技术中的 Deepfake 检测算法还具有高效性。它能够在短短 5 秒内对图像或视频进行快速检测,实现自动化的分析和实时反馈。在信息爆炸的时代,时间就是金钱,对于可能遭受 AI 欺诈的用户来说,快速的检测结果能够为他们争取宝贵的应对时间,有效避免损失的发生。
随着 Faceswap、Face2face、Neuraltextures 等新型 AI 伪造攻击技术不断涌现,联想的检测器也在通过持续收集 AI 换脸样本进行持续训练和优化,以适应新出现的 AI 换脸技术和攻击手段。这种动态的、持续进化的防御机制,确保了检测器始终能够保持在行业领先水平,为用户提供长期有效的安全防护。
另据了解,联想「Deepfake 深度伪造技术检测器」技术目前已实现了广泛的应用适配,可在笔记本电脑、台式机、平板电脑和手机等多种设备端运行,无论用户身处何地,使用何种智能设备,都能享受到联想 AI 反诈技术带来的安全保障。这种跨平台的兼容性,充分体现了联想以用户为中心的设计理念,致力于为广大用户提供便捷、高效的安全服务。
联想始终坚守「人本智能」科技发展观,即将推出的「Deepfake 深度伪造技术检测器」,不仅是一项技术创新,更体现了科技企业的社会责任和担当。在 AI 技术发展带来新的风险时,通过积极的技术创新和应用打造防范风险、保障安全的武器。目前,四川省反诈中心、腾讯云、奇安信等政府机构、云计算服务及网络安全厂商已经加入联想的 AI 反诈倡议。借着此次反诈宣传片的发布,联想集团也呼吁更多技术伙伴一起加入到「用 AI 守护 AI」的行动中来。
联想集团高级副总裁、智能设备业务集团全球创新中心总经理贾朝晖表示:「反诈行动的本质是场攻防拉锯战,伪造技术每天在升级,工程师们也在日夜兼程。想赢,就不能单打独斗。联想集团期待与更多技术合作伙伴一起,给数字世界筑起安全防线。我们坚信,AI 不是藏在阴影里的那双眼睛,它应该真正成为照亮生活的光。」
来源:互联网
还没有评论,来说两句吧...