AI의 타락?…음란물 제작 검토

[앵커]
인공지능, AI 기술을 기반으로 포르노같은 음란물 제작이 가능해질 수도 있단 소식이 알려지면서 논란이 일고 있습니다.

AI가 만든 불법 음란물이 쓰나미처럼 몰려올지도 모르는데, 이걸 막을 방파제는 마련되어 있는건지 우려의 목소리가 큽니다.

정현우 기자입니다.

[기자]
속눈썹이 긴 한 외국인 여성.

눈동자가 움직이더니 눈을 감았다가 뜹니다.

모로코 옛 수도, 마라케시에 서 있는 스물네 살 여성의 눈을 AI가 만든 겁니다.

생성형 AI 분야의 선두주자인 오픈AI가 앞으로 포르노 영화 같은 선정적 콘텐츠도 만들어주는 방안을 검토 중입니다.

현지시간 8일 공개된 지침을 보면 지금까지 AI는 부적절한 콘텐츠에 답하지 않았는데 앞으로 나이에 맞게 책임감 있게 답하는 방안을 모색하겠다고 밝혔습니다.

질문자가 성인이면 포르노, 폭력 등의 내용을 글, 사진, 영상 등으로 만들어줄 수 있단 겁니다.

비판이 쏟아지자 오픈AI 관계자는 실존 인물을 합성하는 딥페이크는 막겠다면서도 포르노는 정의하기 나름이라며 부적절한 컨텐츠 생성이 가능하단 여지를 남겼습니다.

[최병호 / 고려대 인공지능연구소장]
"(AI의 원리는) 무한히 내뱉는 말이란 말이에요. 보안과 안전은 내뱉는 걸 통제하는 것이거든요. 결국 (AI 사업의) 성장을 택한 거죠."

AI를 이용한 콘텐츠가 범죄의 온상이 될 수 있다는 우려도 커지고 있습니다.

지난 2월 SNS에 유포된 유명가수 테일러 스위프트의 합성 노출 사진도 딥페이크 제작을 막아놓은 마이크로소프트의 AI로 만들어진 바 있습니다.

채널A 뉴스 정현우입니다.

영상편집 : 이승은


정현우 기자 edge@ichannela.com