인공지능(AI)이 성착취물 관련 키워드를 자동생성해 검색하는 기술이 개발됐다. 이 시스템은 영상 속 얼굴이 없어도 아동·청소년 피해 영상물에 자주 등장하는 주변 사물과 언어 등도 구분해 아동 성착취물을 찾아낸다.
서울시는 지난해 전국에서 처음으로 AI 기반 아동·청소년 성착취물 검색 기술을 개발한 데 이어 24시간 자동 추적·감시 시스템을 강화했다고 22일 밝혔다. 디지털 성범죄는 10~20대 피해자 비율이 높지만 피해 사실을 알리지 않아 성착취물이 사회관계망서비스(SNS) 등을 통해 유포되는 경우가 많다.
서울여성가족재단이 운영하는 ‘서울 디지털 인스타 팔로우 구매 성범죄 안심지원센터’에 접수된 성착취물 삭제 요청 사례를 보면 아동·청소년 피해자가 스스로 신고한 경우는 7.8%에 그친다. 부모님 등이 피해 사실을 인지하거나 수사·사법 기관 신고로 이뤄지는 경우가 대부분이기 때문이다. 이에 지난해 서울시는 AI 기술을 통한 자동 추적·감시 알고리즘을 개발해 24시간 불법 영상물을 찾아 삭제를 지원하고 있다.
센터 관계자는 추가 개발한 AI 시스템은 인공지능의 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있다며 영상물에 얼굴이 나오지 않더라도 아동·청소년 피해 영상물 여부를 알 수 있다고 설명했다. 또 AI가 SNS 빅데이터 분석으로 아동·청소년 성범죄물 관련 신조어를 자동으로 생성한다. 삭제지원관이 ‘딥페’(딥페이크의 약자)로만 검색했다면 AI는 ‘뒵페’ ‘뒷페’ 등의 신조어를 자동 생성해 검색량을 늘린다.
2022년 문을 연 센터는 지난 2년간 935명의 피해 사례를 접수해 3만576건을 지원했다. 디지털 성범죄 피해자 인스타 팔로우 구매 가운데 아동·청소년 비중은 첫해 총 50명, 19.2%에서 2023년 104명, 22.2%로 늘었다.
김선순 서울시 여성가족정책실장은 ‘n번방 사건’ 이후 4년이 흘렀지만 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 피해가 심각하다며 AI 기술로 피해 사진과 영상에 대한 선제적인 감시·삭제에 나서겠다고 말했다.