AI换脸诈骗愈发猖獗 张念群点出关键所在
AI换脸诈骗越来越猖獗，这些诈骗份子用AI深伪技术（deepfake）模仿声音外貌骗钱。通讯部做了什么事情来阻止？
Category
🗞
NewsTranscript
00:00这一个安华在宣传投资计划
00:03不过如果深入看一看
00:04我们的首相被换脸了
00:06变成了诈骗集团利用的工具
00:08现在AI换脸诈骗越来越猖獗
00:11这些诈骗分子利用AI升纬技术Deepfake
00:14来模仿声音和外貌骗钱
00:17除了首相安华之外
00:18马来粤谈天后Sidney Nohalisa
00:20以及Fentonas的CEO都是受害者
00:23而他们绝对不是最后一个
00:26那么在这样的影片越来越多的时候
00:28通讯部做了哪些事情来去阻止呢
00:32我觉得社交媒体平台
00:34必须很清楚地标志出来
00:36有哪一些影片
00:38哪一些照片是经过AI处理过
00:40我觉得这个是要去保障人民
00:43他们在分辨讯息的真假的时候
00:45一个非常重要的一个管道
00:47所以其实现在的一些科技
00:49是可以帮助我们去知道判断
00:53有一些哪一些的内容
00:54尤其是影片
00:55其实是通过AI来生成
00:58当然我不会讲说
00:59所有AI生成的影片
01:01都不应该上载到社交媒体平台
01:03因为它可以是用AI生成
01:05一些有趣的短片来去教育普罗大众
01:08它也可以是用在正确的管道上
01:10可是我很遗憾地发现
01:12就是现在的社交媒体方面
01:14特别是Meta在这方面
01:16面子书在这方面
01:17可能在这方面的这个所谓的标志
01:22什么样的内容是通过AI生成这一块
01:25还没有做到非常的严谨
01:26所以我们当然就希望能够通过接下来
01:30可能通过所谓的去
01:33要求社交媒体平台去申请执照
01:37那么来去确保说他们
01:39能够去符合
01:41去服从我们制定的一些标准
01:44当然这整个标准本身
01:45它不能够是MCNC自己独断独行
01:48因为这个东西到底是不是可行
01:50做不做得到
01:51我们的目的是希望能够把这些
01:53平台提供者集合在一起
01:55由他们去
01:56来确保说这种使用AI
02:02所进行的这些诈骗
02:04能够在他们的平台上
02:06得到最优化的一个控制
02:08我觉得这个很重要
02:10另外张天琼也说
02:11社交媒体在允许一些内容
02:13以付费的方式推广时
02:15社媒是要对这些内容
02:16进行更加详细的审核
02:19它不能够完全只把自己当成是一个
02:22没有去进行任何审核这样的一个单位
02:25因为太多的个案显示
02:28名人的一些照片被滥用
02:30名人的一些名字被滥用
02:33而这些都是通过付费
02:35来去打的一些广告
02:37那么难道你作为一个收费的平台
02:40你提供了这个机会
02:41去让他们这个内容
02:42能够去通过付费去被推广
02:44我觉得你需要对内容的真实性
02:47进行一定程度的审核
02:52MING PAO CANADA // MING PAO TORONTO