“深伪”或称“克隆”的技术也越来越逼真，但是东西都是有好有坏的，在帮助人们减轻工作量、提高工作效率之余，也有人移花接木、以假乱真，以此来进行诈骗。所以要如何识别从中分辨真假呢？
本期的《百格会客室》邀请了网络安全专家符智康来告诉大家该如何辨别深伪视频，如何避免陷入深伪假视频的骗局之中。
本期的《百格会客室》邀请了网络安全专家符智康来告诉大家该如何辨别深伪视频，如何避免陷入深伪假视频的骗局之中。
Category
🗞
NewsTranscript
00:00就某一些骗子或者是诈骗分子
00:04他们利用身为的技术
00:06然后去进行一个面试
00:09正式得到了这个工作机会过后
00:11然后他们就可以进入这个公司
00:13或者是这个企业的网络过后
00:16然后他们就可以开始
00:31随着AI科技的进步
00:33身为或称克隆伦技术也越来越逼真
00:36但是东西都是有好有坏的
00:39在帮助人们减轻工作量
00:41提高工作效率之余
00:42也有人笛花接木
00:44以假乱真
00:45以此来进行诈骗
00:47所以要如何识别
00:49从中分辨真假呢
00:51今天我们就邀请到了
00:52网络安全专家胡志康
00:55来跟我们说说
00:56到底其中有哪些蛛丝马迹
00:59我们欢迎
01:00你好 主持人好
01:01CK 其实很多人都很好奇
01:04到底什么是AI生成技术
01:07然后什么是换脸
01:09它其实是一样的东西的吗
01:10类似
01:11就比如说一个换脸的技术
01:13为什么可以换脸
01:15就是因为有人利用这个软件
01:18然后这个软件就会把一个
01:20就比如说我的脸
01:21然后首先它会把我的脸区块化
01:23然后就把我的脸分成额头
01:25然后把我的脸分成眉毛 眼睛
01:28鼻子 然后轮廓 嘴巴 下巴等
01:32然后它就把这些部分
01:34认识到了过后
01:35它就识别了过后
01:36然后它就把另外一个人的脸
01:39然后也把那个脸分开
01:42分开了过后
01:43然后再放上去
01:44照着我的这个样子
01:45然后放上去
01:46我的眉毛 轮廓
01:48就把它完整的放上我的脸
01:51然后这个就是所谓的AI变脸
01:53你叫做深伪
01:54深伪 对
01:55它跟那种克隆人又有什么不一样
01:58其实它用的技术是一样的
02:00可是克隆人
02:01可能他们的目的是不一样
02:04就比如说以后媒体
02:06可能会用到克隆人的技术
02:08然后就做主持
02:10或者是报导新闻这样
02:12然后深伪就是恶意的利用
02:14一个人的脸部表情 脸相
02:18然后去做进行一个不法的行为
02:21就比如说诈骗这样子
02:24那目前来看
02:25你刚刚有提到诈骗
02:26我们偶尔有听到
02:28但是其实在马来西亚的情况
02:30它是一个怎么样
02:31真的有人用这种深伪的技术
02:33换脸的技术来进行诈骗了吗
02:35真的有这样的一些案例了吗
02:37有
02:38大概是什么样的一个情况
02:39它的这个实际的诈骗手法是什么
02:43情况现在已经是开始有了
02:46我只可以说
02:48不久的将来会越来越猖狂
02:51像我们的首相安华就被利用
02:53深伪技术来进行诈骗
02:56然后诈骗的这个活动
02:59这个手法就是要求公众
03:03去投资在某个项目里面
03:06然后可是安华是
03:08绝对没有说过这样子的话
03:09而为什么他会在一个演讲里面
03:13被录制
03:15然后讲出这样子的话
03:17这些全部都是深伪技术
03:19做出来的影片
03:21然后为了榨取公众的钱财
03:25就是公众的信任
03:26那如果我们说回
03:27安华的这样子的一个视频
03:29因为这个是最广泛的
03:31他的其实
03:33他其实他如何去分辨
03:35他的这个真假
03:36如果一般民众的话
03:37我们要怎么样
03:38透过肉眼的方式去分辨
03:40他到底是AI生成的影像
03:43还是说他是一个真的影像
03:45所以比较明显的是
03:47如果你是没有办法听到声音
03:49你要通过肉眼来识别的话
03:51你可以看到他的脸部
03:53你可以看到他的耳朵
03:55当他左右摆动的时候
03:57这边左右耳朵
03:59他的脸周围旁边一定是模糊的
04:03现在的AI技术
04:05如果你没有放太大的努力进去
04:07或者是你的努力只是正常的话
04:10他不可以做得出很完美
04:12就是当你转脸的时候
04:13这你是完全不会懂的
04:15如果是AI生成出来的话
04:16当那个影片里面的人物
04:20他的脸左右摇摆的时候
04:22你可能会发现到
04:25这里是模糊
04:26左右是模糊
04:27脸的左右是模糊
04:28然后还有耳朵
04:29可能也突然间变去脸部的其他部位
04:33就比如说你的
04:34他的耳朵突然间变去前面一点
04:36或者是去后面一点
04:38或者是完全你看不到
04:39他的耳朵的这个tips
04:42然后在这一个
04:44就是第一点
04:45比较容易辨别出
04:47是不是AI生成的
04:49这个是为什么的原因
04:51为什么会有这样子的一个
04:52可能左右摇摆
04:54可是他可以破解吗
04:56破解是
04:57就是说他可以
04:58就是说可能没有这样子的一个瑕疵
05:00有 在技术更加成熟了之后
05:04然后就可能不会有这样的瑕疵
05:06可是这个也是
05:09那个软件
05:11AI软件
05:12当他训练一个模样的时候
05:16他有多少资料给他去训练
05:20如果他越多资料
05:21越多视频给他去训练的话
05:25他可以念到
05:26比如说你完全转的时候
05:28就看得出瑕疵是比较少的
05:31可是到现在为止
05:33那个技术还没有那么成熟
05:35要做这个的话
05:36真的是要专业去做的
05:38就是要花很长时间
05:39很长时间
05:40对
05:41然后这是第一点
05:42就是左右摇摆的时候
05:43你会看到说
05:44他其实是会有模糊的印象
05:46然后还有呢
05:47还有就
05:48如果你看到一个影片里面
05:51你会比较少看到他的牙齿
05:53或者是他的牙齿
05:54你可以识别出
05:56比如说这个人物
05:57是一个明星的脸
05:59然后他的牙齿就凹凸不平
06:01一个明星就比较少
06:03他是凹凸不平
06:04或者是他的牙齿偏黄
06:06或者是你完全看不到牙齿
06:07他说话的时候
06:08然后他的嘴巴动的时候
06:10你是看不到牙齿的
06:11这个也是其中一点
06:13是比较容易辨别
06:16所以牙齿
06:17现阶段是完全没有
06:18身为技术在里头的
06:20身为的技术
06:21还是没有模仿到牙齿的
06:23然后这是第二点
06:25然后第三点
06:26第三点是舌头
06:27当如果在影片里面
06:29然后比如说那个人
06:31他是说话的时候
06:33或者是他表情里面
06:34他是需要
06:35他是可能会需要
06:37录到舌头的
06:38但是你是完全看不到舌头
06:40他伸出舌头
06:41你是看不到舌头的
06:43那个也是假的影片
06:45因为那个AI技术
06:46现在暂时也辨别不到
06:48你伸出舌头的时候
06:49他是要将你的舌头
06:50放进去那个影片里面
06:53就是舌头
06:54然后还有呢
06:55还有就是
06:56如果他在说话的时候
06:58他嘴巴的幅度是比较大的
07:00当他嘴巴开大
07:02说话的时候
07:04上下
07:05或者是他的脸
07:06向下移的时候
07:08然后你会看到
07:09那个AI软件
07:12他要辨别
07:15这个人他的嘴巴在哪里
07:18但是如果这个人
07:20他往下看的时候
07:22那个AI就开始辨别不到
07:24你的嘴巴到底跑去哪里了
07:26然后你会看到
07:27他的嘴巴就会有
07:28很明显的瑕疵
07:29然后你就看到
07:30他的嘴巴突然间
07:31跟他的鼻子很靠近
07:33这个就是其中一点
07:35更加容易
07:36就我们大众可以辨别到
07:38这个是一个
07:39AI生成的影片这样
07:41所以这个是第四点
07:43就是下巴的部分
07:45然后还有呢
07:46如果在一个影片里面
07:48你看到
07:49他的灯光是不自然的
07:51或者是你看到这个人物
07:53他的下巴有影子
07:55也是不自然的
07:56就比如说
07:57他的影子是
07:59本来是黑
08:00一片黑色的
08:01下巴一片黑色的
08:02但是他在转
08:03左右
08:04说话的时候
08:05上下
08:06看上面 看下面
08:07然后你会看到
08:08突然间会
08:09好像闪下闪下这样子
08:10这个也是其中一个瑕疵
08:12当他们AI
08:13要开始辨别
08:15你在做什么的时候
08:17然后他
08:18试图换脸的时候
08:19他换的时候
08:20他可能也不小心
08:21换到这个影子
08:22可能将他
08:23变得比较浅色
08:25也是这样子
08:26然后就变成很不自然
08:28这个也是其中一个
08:29辨别的方式
08:30所以就是这几点
08:31是说我们透过肉眼
08:33民众一般是透过肉眼
08:34可以辨别他的真伪的
08:36对
08:37那这个是
08:38影影像的部分
08:39或声音的部分
08:40因为现在也是有
08:41很多的那种案例是说
08:42透过声音
08:43去可能诈骗亲戚
08:45这样子的
08:46所以如果是
08:47突破声音的部分
08:49声音的部分
08:50如果是公众人物
08:51就比较明显了
08:52如果你是熟悉
08:54比较熟悉一个公众人物
08:55比如说一个明星
08:56或者是我们首相
08:57安华
08:58然后你有听
08:59听过他的演讲
09:00然后他演讲的时候
09:01他比如说
09:02他讲他自己名字的时候
09:04Anwar Ibrahim
09:06然后比起
09:07如果是AI生成出来
09:09可能他说
09:10他名字的时候
09:11Anwar Ibrahim
09:12然后他的那个声调
09:14是不一样的
09:15虽然你听到
09:16他的那个声音
09:17怎么是很类似的
09:18可是他的音调
09:19是不一样的
09:20然后他讲话
09:21演讲的方式
09:22可能也是
09:23顿点也不一样
09:24可能安华
09:25他说话
09:26他会比较
09:27用时间去表达
09:29一个词句这样子
09:31然后但是在AI
09:33生成出来的
09:34那个画面里面
09:35然后他说的那个内容
09:38可能就比较一次性的
09:40你可以发现到
09:41他一直说
09:42一直说
09:43然后就比较少顿点
09:44这样子
09:45所以这几点
09:46是比较容易被发现的
09:48可是说像
09:49像如果是那种嘴型的话
09:51一般上是已经
09:52没有办法辨别
09:53说真假的
09:54如果是从
09:55对嘴这样的方式
09:56嘴型比较难
09:58可是也是
09:59如果没有做得那么完美的话
10:01还是看得出的
10:02然后我们有一个
10:04名词是
10:05resting position
10:06所以如果你是
10:08利用一个
10:09static image
10:10就是一个
10:11普通的一个照片
10:12来做审美的话
10:14然后那个image
10:15他的
10:16resting的那个
10:18position
10:19就比如说
10:20他是这样子
10:21然后微笑的
10:22然后但是
10:23你做审美的时候
10:24因为只是利用一张照片
10:25来做审美
10:26然后
10:27他说话
10:28说话
10:29他嘴巴在动的时候
10:31当他没有说话的时候
10:32他就回去resting position
10:33他就这样子
10:34也是微笑的
10:35所以你会看到
10:36在一个影片里面
10:38很多画面都是
10:39他回去
10:40一个定点
10:41就是那个画面
10:42那个照片里面的定点
10:44他是一样的
10:45那个照片
10:46一直在出现的话
10:47那个也是一个
10:48AI生存的照片
10:49就是同样的一个表情
10:50同样一个表情
10:51对
10:52然后他就一直在
10:53一直在重复
10:54那个嘴型
10:55对
10:56这个嘴型是最明显的
10:57最明显的
10:58对
10:59所以这个是
11:00如果他是用一张照片
11:02去生成这个AI的话
11:03可是现在很多都是用影片
11:05对
11:06用影片会训练那个AI
11:08利用这个影片
11:10来看他是怎样
11:12摆动
11:14然后嘴唇是怎样动
11:16他是用一个影片来
11:18训练这样子
11:20所以你刚刚有说到
11:21如果是说声音的部分的话
11:22最好辨别的话
11:23其实他的音的那个声音
11:26已经是很像对方的声音了
11:28对
11:29只是说
11:30就是他的那个语调
11:31语调
11:32跟他平常讲话的方式
11:33是不同的
11:34不同的
11:35论点不同
11:36就是从这个部分去做
11:37辨别
11:38对
11:39主要是这样子
11:40好
11:41那么如果有没有说
11:42道高一尺
11:43魔高一丈
11:44然后可以透过这种AI技术
11:47去辨别
11:48识别这个AI生成的影片
11:51在市场上呢
11:53如果你说免费的
11:54我就暂时找不到
11:56就算找到
11:57我也劝请大家
11:58不要去下载
11:59然后安装在他们的手机
12:01或者是电脑里面
12:03因为这种软件
12:04如果是免费的话
12:05一定是有毛利
12:07我也只可以这样说
12:09当你安装了过后
12:10很可能你的资料会被窃取
12:13或者是你的账户户口
12:14什么的
12:15也会被窃取
12:16所以千万要小心
12:18如果已经有这样子成熟的技术
12:20来辨别AI生成的影片的话
12:24那为什么Facebook
12:25不是已经在用了呢
12:26你可以往这个方面想
12:29所以如果有这种成熟的技术
12:31已经是在市场上有的话
12:33他们就那种社交软体
12:37网站
12:38他们已经在使用了
12:39为什么他们还没有在用
12:41就是因为他们也没有办法
12:44很成熟的
12:45或者是很熟练的去
12:48辨识出哪一个影片
12:50是AI生成出来的
12:52哪一个不是AI生成出来的
12:54所以暂时没有这样成熟的技术
12:58所以一般上
12:59因为我们确实现在
13:00在可能一些社交平台上面
13:02他看到的这样子的
13:04就是审伪的影片是很多的
13:07不管是合法或犯法
13:09因为有些人真的是
13:10就是那种拿来做工的
13:13但是那种假的
13:14然后进行诈骗的话
13:15其实也是很多的
13:17然后真的没有办法
13:18去杜绝这样子的事情吗
13:20现在暂时是没有办法
13:22所以现在都是
13:23大家靠自己的双眼
13:26跟你的智慧去辨别
13:29如果你说技术的话
13:30是暂时没有办法的
13:32好 那我们刚刚有提到
13:34说安华的这个影片
13:35广为流传
13:36就是安华叫民众
13:38投资某一个项目
13:40这样子的一个广为流传
13:41可是以你们这种专业的
13:43来看的话
13:44它当中的漏洞多吗
13:46当中的漏洞就是别谈刑
13:48如果你看到一个公众人物
13:51推荐一个发展项目
13:53或者是一个投资计划的话
13:55很大可能是
13:57这样子的东西
13:58是不可能发生的
13:59因为这个是一个公众人物
14:01他也不会叫你
14:02投钱去做某些事情
14:05所以这个是谈制
14:07就是一个很重要的因素
14:09为什么大众会被骗
14:12这是第一点
14:13然后其实如果你
14:14以安华那个视频来看的话
14:16它当中的破绽有哪一些些
14:19当中的破绽
14:20如果只是针对
14:21安华的影片的话
14:23你可以听到他说的语调
14:25他的动点
14:26是完全不是他的风格
14:29虽然他声音的音调是一样的
14:31然后还有的是
14:33你看到安华的那个脸部
14:35左边右边也是不自然的
14:38当他转左右摇摆头的时候
14:41他是有一点瑕疵的
14:43他会突然间耳朵会变模糊
14:45或者是耳朵突然间走位
14:48然后当他的头幅度向下的时候
14:51他的嘴巴就直接开始向上
14:54靠近他的鼻子
14:55这个也是其中一个
14:56AI生成影片的一个瑕疵
15:00然后你也是完全
15:02看不到他的牙齿
15:04是很不明显的
15:05在那个影片里面
15:07所以就是这几点可以
15:09但是我们现在讲的东西
15:10大概多久会过时
15:12因为过往我们可能可以提到说
15:14手指
15:15现在我们已经看不到
15:17这样子的瑕疵了
15:19因为那种已经很过时了
15:21如果你说现在的这种技术
15:23可能在一年里面
15:24已经是又换另外一套方式了
15:27可能他的技术更加成熟
15:29然后你看到我们现在
15:30所说的瑕疵已经是没有存在了
15:32所以你说
15:34几时会过时
15:35可能在一年里面
15:36已经会变了
15:37那么要怎样去防止诈骗
15:41最重要的是去
15:43认可这个资讯可不可靠
15:46然后可以向当事人
15:49要求
15:51就辨别这个是不是一个
15:54真正的投资计划
15:56还是是不是一个
15:57真正的项目这样子
15:58如果比如说
15:59这个是一个公众人物
16:01然后他
16:02我们没有办法找到这个人
16:04然后去
16:06求证
16:07然后我们就可以
16:09看他的社交媒体
16:10就他官方的社交媒体
16:12如果他有这样子的
16:13推荐这样子的计划的话
16:15大多数的公众人物
16:17他也会在他的
16:18官方的社交媒体上面
16:19他也会公布一样的
16:21类似资讯这样子
16:23如果你在他官方的
16:26平台里面也找不到的话
16:28这一类型的计划
16:31投资项目
16:32也很大可能性
16:35是一个
16:37诈骗这样子
16:39所以大概一年的时间
16:40你就会过时
16:41对
16:42所以这样子的话
16:43还是要回到民众自己
16:45我们自己需要提防
16:47不要谈
16:48对
16:49然后有
16:50你总是要记住一件事
16:52公众人物
16:53这样子比较明星什么的
16:55很少几率他们会去
17:00推广或者是
17:01推广一些投资项目
17:04或者是很高回酬的
17:06一种计划这样子
17:10还有一种更加明显的方式是
17:12当你AI生成
17:14一个影片的时候
17:16它是没有办法辨别到
17:18你的脸前面的物体
17:20然后它很完美地将你的脸
17:22再放回上去
17:23就比如说
17:24这个脸
17:25脸部
17:26如果我把这个脸部脸
17:29换上另外一个人的脸
17:31上去的时候
17:33就好像
17:34我的手指在我的脸前面
17:36经过的时候
17:37是有瑕疵的
17:38因为那个软件
17:40它是没有办法看到
17:42当我这个手经过的时候
17:44它那个软件
17:45又找不到我的嘴巴了
17:47它就找不到我的眼睛了
17:48比如说
17:49然后你却看到
17:50那个脸就整个
17:51会变得很模糊
17:52这个是其中一个方法
17:54可是
17:55所以一般上他们的那种
17:56就是可能生成的话
17:58都是只是换头而已
17:59还是说
18:00其实全身都模糊
18:02取决于场景
18:04现在比较基本的
18:06换脸的技术是
18:07只是换脸部
18:09然后还有一种是
18:10他利用
18:12其中一个视频
18:13或者是一个画面
18:14然后他就是
18:16利用整人的画面
18:18然后他只是将
18:19他的脸
18:20就是将他的脸
18:24怎么说呢
18:25就把它变成会动
18:27但是还是一个镜子的画面
18:29这样子
18:30然后他只是将他的脸
18:31变成是
18:32他在说话
18:33他在眨眼这样子
18:34所以他的变成
18:35他的动作不会这么多
18:37动作不会那么多
18:38然后比较不自然
18:41所以那种抬手
18:42那种动作的话会
18:45他抬手都会有瑕疵
18:47他抬手
18:48他的手指在动
18:49那他的手指就会变得
18:51变得模糊
18:52这样子
18:53所以你在
18:54暗花的画面里面看到
18:55他的手
18:56他在摸演讲师的时候
18:58他的手在动的时候
18:59你会看到
19:00他的手指是模糊的
19:02现在我们在马来西亚
19:04或者是说在国际上
19:05在全球上面
19:06我们看到
19:07最多人拿这种
19:08身为技术来进行
19:10怎么样的一个诈骗的
19:12在我们现在看到
19:14越来越普遍的
19:15AI生成
19:16或者是利用
19:17AI换脸身为的技术
19:19来进行诈骗的行为呢
19:21就有包括
19:23就某一些骗子
19:24或者是诈骗分子
19:26他们利用身为的技术
19:28然后去
19:29进行一个诈骗
19:31当这个骗子
19:33他去应证一间公司的时候
19:35因为他不要露出
19:36他的真脸
19:37所以他就利用
19:38这个身为的技术
19:39在
19:40在网上会议的时候
19:41面对面诈骗
19:43因为他没有办法
19:44经过面对面诈骗
19:45可能很多时候
19:46一个公司
19:47或者一个企业
19:48现在的方式是
19:50在网上进行应证
19:52然后这个骗子呢
19:53他就利用
19:54这个身为的技术
19:55把自己的脸换掉
19:56去另外一个人的脸
19:57这样子
19:58然后就以这种技术
19:59来骗取这个工作机会
20:02然后就透过
20:03这种应证的方式
20:05正式的得到了
20:06这个工作机会了过后
20:07然后他们就可以
20:08进入这个公司
20:09或者是这个企业的
20:11网络了过后
20:12然后他们就可以
20:13开始解决他的
20:14勒索软件
20:15然后就进而
20:17对这个
20:18这家公司或者企业
20:20有一个严重的
20:22破坏的这一种
20:24严重的破坏的
20:25这一种行动这样子
20:27可是这个也是要那种
20:28在网络上工作的
20:29对
20:30如果是证人
20:31见证人的话
20:32其实就
20:33是没有办法的
20:34所以我们在
20:35本地在马来西亚里面
20:37已经是有个案
20:38有人
20:40就是有这种骗子
20:42就是不法骗子
20:44他们把一个假的文件夹
20:47放进LinkedIn里面
20:48然后再用这个
20:49LinkedIn的文件夹
20:51要求应证
20:53在一家公司里面
20:54要求应证
20:55然后当他
20:56网络面试的时候
20:57网络应证的时候
20:59然后是没有问题的
21:00可是
21:02当被要求到
21:05这个人要求
21:07去这家公司
21:08进行应证的时候
21:10然后这个人就
21:11完全没有消息了
21:13然后他就把他的
21:14LinkedIn的文件夹拿下
21:15删除掉
21:16然后这个人的文件夹
21:17他也全部删除掉
21:20就因为他就
21:21被发现了嘛
21:22然后他也不要再
21:23留下任何蛛丝马迹
21:25然后就把这种
21:26身份证全部删掉这样子
21:28是有这样的案例
21:29但是他没有完全成功
21:31没有完全成功 对
21:32幸好在这个个案
21:33我们听到的是
21:34没有成功
21:35但是有没有个案是成功
21:36在马来西亚里面
21:37我们还不知道
21:38所以这个主要是
21:39马来西亚目前
21:40你们看到的
21:41还有哪一些
21:42在美国已经有发生了
21:44就已经是在新闻里面了
21:46也有骗子
21:49他们是利用
21:50这个审美的技术
21:51印证了过后
21:52拿到工作了过后
21:53第一天他们拿到
21:54这个公司的资料了过后
21:57然后他们就立刻
21:58进行攻击
21:59进行在这个公司里面
22:01这个企业里面
22:02进行攻击这样子
22:04就是已经是
22:05已经发生了
22:06如果这种H&R的标
22:07要注意的话
22:08其他的部分呢
22:10就是那种诈骗的方式
22:11在马来西亚
22:12诈骗的方式呢
22:13就比如说
22:14有诈骗分子
22:17他们会谎称他是你的家人
22:20或者他是你的同事
22:22上司这样子
22:23然后他打电话给你
22:25你要特别小心
22:26所以这种
22:27就比如说你听到
22:28突然间
22:29这个人要向我借钱
22:31不对咯
22:32那你就可以开始试探
22:35就你们
22:36只是你们两个人
22:37知道的一些秘密
22:38就比如说
22:39你跟你家人
22:40你跟你的父母
22:41你们一起经历过的
22:43一些事情
22:44下个星期
22:45我们有一起去那个地方
22:47你准备好了没
22:48这样子
22:49你可以试探对方这样子
22:50如果他回答是完全不正确
22:52你就知道他是
22:53他不是你所知道的那个人
22:57好 那么今天呢
22:58非常谢谢Jay Kang
22:59在我们节目当中
23:00跟我们做的分享
23:01然后告诉我们说
23:02其实要怎么样
23:03透过几点方式
23:04然后呢
23:05你的肉眼就能分辨出
23:07到底是不是
23:08神称的AI技术
23:09然后呢
23:10也可以防止
23:11就是可能被诈骗
23:12这样的事情发生了
23:13所以今天谢谢Jay Kang
23:15不用客气
23:16谢谢大家
23:19谢谢大家