发布日期：2024-09-10 05:45 点击次数：148
两个月前，2024 宇宙东谈主工智能大会暨东谈主工智能寰球经管高等别会议（以下简称 WAIC 大会）在上海举办。与往年不同，本届 WAIC 大会把 AI 的经管提到了前所未有的高度，图灵奖、菲尔兹奖、诺贝尔奖得主以及国表里顶级院士聚集一堂，共同探讨 AI 带来普遍红利的同期，必须面对的多重风险与挑战。
与此同期，外滩大会智能科技改进大赛（简称 AI 改进赛）启动「接棒」，将 AI 安全着实从表面探讨股东到实战落地，邀请寰球列国 AI 技艺东谈主才，针对 Deepfake（深度伪造）的讹诈风险进行攻防实战演练。
生成式 AI 绝难一见确当下，AI 的安全着实变得愈发关节。
时于本日，蹧跶 Deepfake 技艺的危害也曾有目共睹，通过 AI 生成看似真实的子虚图像和音视频，也曾给越来越多东谈主带来了伤害。但是面对愈加拟真且激增的「AI 换脸」，东谈主工分辨既不现实，也不奢睿，咱们亟须技艺乃至生态层面的推动。
9 月 6 日，外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛饰演赛在外滩大会现场举行，在现场多数双眼睛的审视下，多组参赛戎行的 AI 模子彼此挑战，展示了用 AI「去伪存真」的高效与实用性，更便利地匡助咱们发现隐秘在真实内容中深度伪造内容。
但与 Deepfake 的抵抗注定不啻于比赛。从「AI 马斯克」骗走老东谈主退休金，再到韩国女性遇到的「AI 换脸」性违规，蹧跶 Deepfake 的受害者早已从政事东谈主物和文娱明星扩大到了多数庸碌东谈主。
而就在几天前，参与外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛的多组选手，包括中科院、澳门大学、中国海洋大学等参赛队告示，舒畅把参加这场大赛的 AI 模子面向寰球开源，匡助更多东谈主用技艺技能抵抗「AI 换脸」。
当作外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛的主持方，这亦是蚂蚁所舒畅看到的。
在顶级 CV 大赛上，打假「AI 换脸」客不雅地说，Deepfake 是一场寰球性的技艺挑战，根蒂上离不开寰球技艺东谈主才的换取与共同进步。
当作 CV（臆度打算机视觉）边界的顶级海外赛事，外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛由中国工程院院士王耀南担任民众委员会名誉主席，由蚂蚁数科 ZOLOZ 和天玑实验室当作大赛出题方，分红图像和音视频双赛谈，参赛者需要开荒并提交 AI 模子，经过大赛数据集的测试。
尽管如故首届，但外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛诱惑了来自寰球 26 个国度和地区的 2200 多名选手、1500 多支戎行，既有来自清华、中科大、中科院等国内顶级高校和机构的参赛者，更有来南洋理工大学、多伦多大学、斯坦福大学、帝国理工学院以及微软亚洲相干院等寰球顶尖院校和机构的参赛者。
大赛除了高达 100 万元的奖金池，还提供了极其辛苦的实战环境，数据集会图形和音视频生成数据越过 150 万，覆盖各式生成面容和袭击组合。蚂蚁数科的出题团队还说明东谈主口统计学漫步和实战教训，在数据集会充分琢磨了寰球各地的东谈主种、年事、拍摄环境、图像掩饰等多重变量，确保参赛者靠近的比赛环境在最猛进程上接近真实宇宙中的 Deepfake 袭击。
所谓「炼炼」，也惟有高度拟确凿实战环境，才能试验出信得过具备试验运用的 AI 模子。
而在经过大赛数据集试验以及民众评审后，TOP 战队才得以脱颖而出：澳门大学代表队和个东谈主参赛者唐永威分袂取得图片和音视频赛谈冠军，此外获奖的还有在新加坡责任的字节高出代表黄江波、小红书代表队 ShuKing 以及来自中国科学院自动化相干所的 2 支戎行。
9 月 6 日下昼，本次大赛的 TOP 战队受邀参加了外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛饰演赛，面对由蚂蚁数科和中国科技大学采集空间安全学院颐养假想的高传神 Deepfake 内容，进行「终极查考」。
由驰名科普博主毕导主抓，TOP 战队两两依次 PK，在真实图像/视频与高传神 Deepfake 图像/视频中更准确地分辨出 AI 生成的子虚内容。这不仅是一次技艺上的抵抗，更是一次对 AI 安全技艺极限的试验。
火热的不单是参赛选手和 AI 模子，现场不雅众也不由自主干涉到比赛之中，「本来以为只需要隔岸不雅火，不曾思到，我方也被卷进了搏斗状况，试图用肉眼与 AI 一较上下，」有现场不雅众说到。
此外，比赛流程中还有新加坡科技相干局前沿东谈主工智能相干中心 (CFAR) 首席科学家周天異、中国科学技艺大学副阐扬周文柏以及 ZOLOZ 技艺总监姚伟斌，给悉数不雅众科普了 Deepfake 技艺以及 AI 识别的进攻常识。
对 AI 技艺，尤其是 Deepfake 的蹧跶，也曾对咱们变成了严重的胁迫。从 AI 冒充名东谈主进行骗取到伪造视频主管公众公论，AI 蹧跶的效果摄人心魄。通过这场赛事，庸碌东谈主第一次深远领略到 AI 带来的潜在风险，以及如何通过技艺技能去抵抗这些风险。
从一定角度上，这场比赛的真谛远远超越单纯的技艺抵抗。
在这个信息连忙传播的期间，Deepfake 内容的泛滥不仅收缩了东谈主们对媒体和内容的信任，更可能激发严重的信任危境。外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛在作念的，恰是通过集聚寰球的 AI 技艺精英，在实战演练中换取和提高寰球的抵抗水平，试验上是在为咱们树立一谈「分辨真假」的防地，一谈「信任」的防地。
「Deepfake 攻防是一场看不见硝烟的抓久战，蚂蚁和悉数抵抗技艺的相干者，是战友关连。」蚂蚁数科 CTO 王维也坦言，蚂蚁举办此次大赛的初心就是但愿把处事产业的技艺教训、相干积存的数据集与行业共享，以攻促防，同期但愿推动更多的东谈主才投身其中，提高举座的驻防水位。
AI 期间的打假师，真实与子虚的「守门东谈主」当《泰坦尼克号》的经典一幕再次出目前目下，包括毕导以及现场许多不雅众遥远齐没发现奥纳多·狄卡比奥饰演的 Jack 蓝本被进行「AI 换脸」，融入了毕导的脸。但现场的的 AI 模子仍旧从「蛛丝马迹」之等分辨出了 Deepfake 的干扰。
这不仅是对技艺的极限训练，也展示东谈主类与 AI 和谐如何冲破子虚信息的迷雾。
Deepfake 技艺的伪造才智极强，点窜的细节可能只是图像旯旮的轻细失真，或声息频谱中极其幽微的不一致性。即即是最为防备的庸碌东谈主，也难以凭借肉眼分辨伪造内容的真假。
中科院团队的王博在采访中还提到，生成式 AI 发展迅猛，而且各式器用的使用门槛试验上越来越低。在这么的布景下，庸碌东谈主越来越难以应酬这些伪造内容的侵袭。
还有更多东谈主也强项到，「AI 换脸」带来的不单是技艺上的挑战，还可能导致庸碌东谈主对 AI 技艺普遍的不信任。若莫得实足的安全驻防步履，AI 技艺的发展将成为一把双刃剑。这也愈加体现了悉数参赛者以及这场大赛的难能认真。
生成式 AI 的火热早已无需多言，当更多东谈主齐在涌向 AI 技艺的运用与发展，有一批东谈主却看到了这场技艺海浪的另一面——AI 存在的风险与危害，而且投身其中成为「AI 打假师」。某种进程上，这些「AI 打假师」们不单是在与 Deepfake 抵抗，更是在驻防子虚信息扩张，用技艺督察真相。
借用下作者苏心的那句话：哪有什么岁月静好，不外是有东谈主替你逆浪而行。
正如在本年 WAIC 大会上，上海东谈主工智能实验室主任、首席科学家，清华大学惠妍讲席阐扬周柏文建议的「东谈主工智能 45° 均衡律」表面，咱们应该在大体上沿着 45° 均衡发展 AI 的安全才智和性能。
事实上，在外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛饰演赛稍后举办的圆桌商讨上，同济大学臆度打算机科学与技艺系副主任，CCF 数字金融分会布告长卫志华就明确指出，大模子以势不能当的架势发展起来，但这个流程中的安全问题远远莫得跟上：
淌若安全问题莫得跟上的时候，不能能大面积铺开运用，但咱们齐是作念矛和盾是同步发展的。
蚂蚁数科 CTO 王维也认同这一说法，而且以为用红蓝攻防抵抗的面容处分技艺可能产生的罅隙或袭击，在大模子期间可能会越发进攻，就如古语所言，「邪不压正，谈高一丈。」
这偶合需要咱们必须更多地爱重 AI 安全才智的升迁，AI 安全边界东谈主才的培养，也恰是外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛的初心场所。
AI 向善，蚂蚁的谜底昔时一段时辰，在韩国发生的 Deepfake 性违规事件激发了寰球范围内高度包涵，蚂蚁当作赛当事者持方在本次大赛中发起了开源 AI 模子的动议，但愿通过技艺技能抵抗愈发放纵的 Deepfake 蹧跶行动，很快就领先得到了中国科学院自动化相干所 VisionRush 和澳门大学 JT Group 的积极反映。
9 月 1 日，中科院 VisionRush 参赛队就对外告示开源了参赛模子，加入「代码尽力」行动。而死心目前，已有近百名选手及场所戎行齐暗意舒畅参与代码尽力 ，而且范围还在不断扩大中。
同期开源不单是意味着不错免费使用技艺保护每一个可能受到伤害的东谈主，本质上也推动寰球更多的技艺力量共同参与到 Deepfake 抵抗的行动中，更好地完善开源模子，为更多东谈主提供更好的保护。
无用置疑，发展与安全是 AI 的一体两翼。AI 以前所未有的速率向九行八业渗入的同期，对 AI 的误用和蹧跶可能导致的多重安全风险和挑战，通常防碍薄情。而面对 AI 海浪，蚂蚁通过大赛也链接标明了我方作风：
既要发展，也要安全，惟有这么才能确保 AI 向善。
而蚂蚁前瞻性的不雅点以及 AI 向善的价值不雅，具象到外滩大会 AI 改进赛·寰球 Deepfake 攻防挑战赛，不仅在推动寰球范围内抵抗技艺的发展，也在通过赛事培养了具备实战才智的优秀 AI 技艺东谈主才，从而全面提高寰球 AI 安全水平。另一方面，这也让这场大赛告捷赢得寰球各界的高度包涵和招供，以及大赛将来的期待。
在此除外，这场大赛也让外滩大会的影响力超越为期三天的议程手机押大小赌钱的软件，在 AI 边界树立了一个寰球性的耐久包涵焦点。更进攻的是，外滩大会借助这一赛事强化了悉数这个词行业以及公众关于 AI 安全的爱重，为 AI 安全着实的抓续股东奠定坚实的基础。