[뉴스라이더] 스위프트도 당한 '음란 딥페이크'...AI 이대로 괜찮나? / YTN

■ 진행 : 안보라 앵커, 정채운 앵커
■ 출연 : 이상욱 교수 한양대 철학과·인공지능학과
■ 구성 : 최혜정 작가

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN 뉴스라이더] 명시해주시기 바랍니다.


세계적인 팝스타테일러 스위프트마저 당했습니다. AI 과학 기술 발달에 따른 부작용에 대한 문제를 해결해야 한다는 요구가 빗발치고 있습니다. 가짜와의 싸움은 이미 시작됐습니다. 그리고 곧 우리의 일이 될 수도 있습니다. 어떤 규제가 필요한 걸까요. 유네스코 세계과학윤리위원회 부위원장인한양대 철학과 이상욱 교수와 알아보겠습니다. 교수님 어서오세요.

[이상욱]
안녕하세요.


테일러 스위프트의 영상이 앞서 나갔는데 미국 경제를 움직인다고 할 만큼 영향력이 큰 인물인데 스위프트마저 당했습니다. 유명인이 딥페이크 기술에 당한 게 한두 번은 아니어서 갈수록 심각해지고 있는 것 아닌가라는 생각이 들어요.

[이상욱]
냉정하게 얘기하면 테일러 스위프트가 안됐기는 하지만 유명인이니까 저 정도로 주목을 받은 거고요. 실제로 딥페이크를 이용해서 수많은 일반 사람들이 절대적인 다수의 딥페이크 동영상을 사실 유명인이나 정치인이 아닌 분들...특히나 음란물이나 이런 형태로 여성에 집중돼 있어서 굉장히 상황이 심각합니다.



여성과 아동에 집중돼 있군요.

[이상욱]
아동도 어떻게 보면 취약계층이니까요. 뭔가 법적 조치나 제도적 조치를 하기 어려운 사람들한테 집중돼 있는 경향이 있습니다.


해당 이미지가 뒤늦게 차단조치가 됐더라고요. 그런데 이미 SNS상에서는 4700만 회 이상이 하루도 안 되는 시간 안에 조회가 됐고요. 그래서 팬들은 당연히 분개하면서 엑스가 왜 이렇게 뒤늦게 조치를 했느냐며 분개를 하던데, 그러면 이런 SNS 플랫폼에서 아직 문제가 되는 딥페이크 이미지가 자동으로 걸러지는 시스템은 따로 없는 건가요?

[이상욱]
그러니까 활용을 하는 플랫폼들이 있고요. 공식적으로 활용하지 않는 플랫폼들도 있는데 여러 가지 문제가 있습니다. 자동으로 걸러지는 시스템을 활용한다고 해도 사실 애매한 부분들이 있거든요. 너무나 뻔하게 딥페이크인 건 당연히 쉽게 걸러지지만 그 애매한 부분은 결국 사람들이 판정을 해야 되는데 비용이나 시... (중략)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0104_202401290929471360
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]