딥페이크 범죄의 심각성과 해결방안

인공지능의 발달로 심각해지는 부작용 중 딥페이크(deep fake) 행위가 있다

딥페이크 범죄는 성범죄와 사기 등 온라인에서 불특정다수의 피해자를 양성하게 된다

이중 딥페이크 성범죄의 심각성과 해결방안을 알아보자

 

 

딥페이크란?

 

deep fake 란 심층학습(deep learning)과 가짜 (fake)의 합성어로, 인공지능기술을 활용해 기존 인물의 얼굴이나 특정부위를 합성한 영상편집물을 말합니다.

이중 딥페이크 성범죄란, 생성형 인공지능(AI) 기술을 활용, 타인의 사진에 음란물을 합성해 온라인에 유포하는 행위를 말합니다.

불법합성물 유통 플랫폼

 

성인사이트

검색엔진

텔레그램등의 누리소통망 (SNS)

아카이빙 사이트 (핀터레스트)

일간베스트(일베)

디지털 성범죄 피해자 지원센터

 

2018년 문을 연 디지털성범죄 피해자 지원센터 (디성센 터)는 여성가족부 산하 한국 여성인권진흥원 내 설치 기관입니다.

딥페이크를 포함한 디지털 성범죄와 관련해 피해접수및 상담, 삭제지원 및 유포 여부 모니터링, 수사. 법률. 심리치료연계 등을 원스톱으로 제공합니다.

 

https://d4u.stop.or.kr/

디지털성범죄피해자지원센터

삭제지원의 과정

 

피해자가 불법합성물을 학보하고 디성센터에 본인 인증을 한 뒤 게시판을 통해  전달해야 합니다.

그럼 삭제지원시스템과 연동돼 자동으로 DNA값이 추출되고 크롤링 서버를 통해 같은 DNA값을 가진 합성물을 찾아 해당 사이트에 삭제를 요청하는 방식입니다.

 

DNA 크롤링 서버란?

 

인간의 DNA처럼 디지털 이미지도 각각 고유한 DNA 값을 가지고 있으므로 편집, 가공돼 유포된 불법 합성물도 찾아낼 수 있습니다. 디성센 터는 이 같은 기술로 특허를 받은 민간 업체와 함께 자체적인 삭제지원시스템을 구축했습니다.

크롤링(crawling)이란 웹페이지를 끌어와 거기서 데이터를 추출해 내는 것을 말합니다. 

디성센 터 크롤링 서버에는 불법 합성물이 다수 유포된 적이 있는 성인사이트 등 약 310곳이 등록돼 있습니다.

즉 삭제지원시스템에 피해자가 증거물을 올리면 크롤링 서버에 등록된 사이트에 등재된 이미지 가운데 DNA값이 증거물과 유사한 것을 컴퓨터가 자동으로 끌어와 비교하는 원리입니다.

 

이방식으로 불법합성물 검출률은 99%에 이릅니다. 다만 불법합성물이 크롤링 서버에 등록된 310개 사이트에만 올라가는 게 아니므로 완전한 삭제는 어려운 것이 현실입니다.

 

고도화되는 합성기술에 대응하기 위한 기술개발

 

1. 과학기술 정보통신부에서 개발 중인 ' 딥페이크 합성물 탐지기술'

    의심되는 이미지가 등록되자마자 불법합성물 여부를  AI 가 자동으로 판단해 알려줍니다

    내년 2월까지 이를 활용한 시스템을 만들 수 있을 것으로 기대됩니다

 

2. 국제협력

   디지털 성범죄의 경우 미국서버를 이용하는 경우가 많아 미국 유관기관과 양해각서(MOU)를 체결하는 등 협력관계를 구 축했습니다. 다만 아동,청소년 범죄와 달리 성인대상 성범죄는 해외에선 경각심이 낮아 협조가 어려운 현실입니다.

 

3. 센터의 공신력

    최근 국회에서 디성센터의 설치 근거법 규정을 신설하는 법안이 통과되었습니다. 앞으로 삭제 지원특화 기관으로서 경 찰과도 협력해 나갈 방침입니다.

딥페이크 성범죄 피해를 입었다면?

 

디지털 성범죄 피해자 지원센터

전화 (02)735-8994   여성긴급전화 1366  

 

▶불법촬영물. 합성물 삭제 지원 및 모니터링 신청

전화 또는 디지털 성범죄 피해자 지원센터 누리집 (d4u.stop.or.kr) 상담게시판 통해 신청

준비사항
1. 사이트 내 피해 촬영물이 게시된 게시물 등의 구체적인 주소 (URL)
2. 영상.사진 형태의 피해 촬영물
3. 키워드(피해 촬영물을 특정하는 게시글 제목과 내용등 검색이 가능한 정보)

 

▶기타

※수사 : 경찰관서 방문이나 전화 (112) 또는 사이버경찰청 누리집(police.go.kr) 통해 요청

※ 주거지원 : 여성긴급전화에서 긴급피난처제공

※ 법률지원 : 한국성폭력위기센터 (02-883-9285)  대한법률구조공단(132) 통해 무료법률서비스 지원

※ 심리지원 : 경찰관서별 피해자 전담요원 지정 및 해바라기 센터, 여성긴급전화, 성폭력상담소 

피해확산을 막기위해 해야 할 일

 

혼자서 뭔가를 하려 해서는 안됩니다. 한시라도 빨리 경찰과 디성센 터에 알리는 것이 먼저입니다. 

겁이 나서 몇 달씩 아무런 조치도 못 하다 불법합성물이 걷잡을 수 없이 더 퍼지는 일도 있습니다. 

디성센 터는 국가에서 예산을 들여 기술을 개발하고 보안이 철저히 유지되는 기관입니다.

망설이지 말고 믿고 연락하길 바랍니다.

 

디지털 성범죄를 막기 위한 사회적 요구

 

디지털 리터러시 교육을 강화하는 것입니다. 너무 손쉽게 이용하는 기술에 반해 잘못 쓰일 수도 있다는 교육이 부족합니다. 지금 청소년들은 이에 대한 경각심이 매우 떨어집니다. 때문에 성착취물을 만드는 걸 하나의 '놀이'로 인식하고 자신도 모르는 새 범죄에 가담하게 됩니다. 교육이 기술발전 속도를 따라가지 못하면 이 같은 범죄는 계속될 것입니다.