딥페이크 피해 방지 및 삭제 의무에 관한 법률안

제안이유

최근 생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄가 사회적 재난 수준으로 급증하고 있음. 특히 특정인의 얼굴과 성적 이미지를 합성한 ‘디지털 위조물’은 한 번 유포되면 복제와 확산 속도가 매우 빨라 피해자의 인격권을 회복 불가능한 수준으로 파괴함.

그러나 현행 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」상의 임시조치 제도는 삭제 여부 결정에 상당한 시간이 소요되고, 플랫폼사업자의 기술적 조치 의무가 미비하여 확산되는 복제본에 대응하기 역부족임. 또한 국외 사업자에 대한 집행력 한계와 성인 대상 딥페이크 처벌의 사각지대 문제도 지속적으로 제기되고 있음.

이에 별도의 제정법을 통해 플랫폼사업자의 삭제 의무시한을 명시하고, 국외 사업자의 국내대리인 지정 및 연대책임을 강화하여, 형사처벌 규정을 정교화함으로써 디지털 성범죄로부터 국민을 실효적으로 보호하고 건전한 정보통신 환경을 조성하려는 것임.

주요내용

가. 딥페이크, 디지털 위조물 등 용어를 정의하고, 국외에서 수행된 행위라도 국내 이용자에게 영향을 미치는 경우 이 법을 적용함(안 제2조 및 제3조).

나. 성인 피해자의 요청 시 48시간 이내, 미성년 피해자의 경우 인지 즉시 또는 24시간 이내에 비동의 성적 이미지 표현물 등을 삭제ㆍ차단하도록 의무화함(안 제5조 및 6조).

다. 미성년 대상 성적 합성물에 대해 비동의 추정 원칙을 도입하여 삭제 요건을 완화함(안 제6조).

라. 해시값 및 콘텐츠 지문 생성 등 기술적 조치를 통해 동일ㆍ유사한 복제본을 일괄 차단하도록 함(안 제7조).

마. 일정 규모 이상의 국외 플랫폼사업자에게 국내대리인 지정을 강제하고, 의무 위반시 연대책임을 부여함(안 제8조).

바. 플팻폼의 적극적 삭제를 유도하기 위한 면책 규정과 함께, 정보게시자의 방어권을 위한 사후 이의신청 절차를 마련함(안 제9조).

사. 의무 불이행 시 국내 매출액의 1% 이내 과징금을 부과함(안 제10조).