성적 콘텐츠에 연예인 얼굴 등을 합성하는 딥페이크(Deepfake) AI 기술의 경우 '성폭력범죄의 처벌 등에 관한 특별법'에 따라 처벌을 받는다. 제작 행위만으로도 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해질 수 있다.

하지만 AI로 생성한 가상인물 이미지는 음란물이라고 해도 제재할 수단이 마땅치 않다. AI가 만드는 이미지는 저작권이나 초상권 개념에 제한되지 않고, 어떤 데이터를 합성했는지 '원본'을 규명하는 것이 사실상 불가능하다.


생성 AI 기술의 부작용: 챗GPT와 같은 대화하는 AI 기술과 함께 이미지를 생성하는 AI 기술에 대한 관심이 높아지고 있다. 하지만 이 기술을 이용해 음란물을 제작하고 배포하는 사례가 발생하고 있어 아동·청소년 보호에 위협이 된다4.
규제의 필요성과 어려움: AI로 생성한 가상인물 이미지는 저작권이나 초상권에 제한되지 않고, 원본을 규명하기 어렵다6. 따라서 기존의 법적 규제가 적용되기 어렵다1253. 새로운 규제의 틀을 만들어야 한다는 요구가 있다1253.
기술 발전과 표현의 자유의 조화: AI 기술은 사람의 생산성을 높여주는 기술이다. 기술 자체를 제한하거나 문제시하면 안 된다1253. 표현의 자유를 인정하면서도 유해성 문제에는 대응해야 한다1253. 영상물 등급 제도 등의 방안이 검토될 수 있다15.
참고문헌: 이 페이지에는 여러 참고문헌이 포함되어 있다.