[인터뷰]"딥페이크 악용 범죄 증가…대응책 마련 시급"

[아이뉴스24 최은정 기자] "딥페이크 관련 공개 소프트웨어(SW) 등 최근 일반인도 기술에 쉽게 접근할 수 있게 되면서 범죄 대상의 폭이 넓어졌습니다. 하지만 국내는 관련 대응에 뚜렷한 방향이 잡히지 않은 게 사실입니다."

18일 박종열 한국전자통신연구원(ETRI) 시각지능연구실 연구실장은 "지금까지는 범죄 대상이 학계·유명인에 한정돼 있었지만 앞으로는 그 범위가 개인까지 확장될 수 있다"며 "특히 개인 소유 콘텐츠는 진위 여부를 파악하기 어려워 악용될 경우 파급력이 훨씬 크다"고 말했다.

이어 "가짜 콘텐츠를 진짜 같이 만드는 기술이 빠르게 발전하고 있다"고 덧붙였다.

딥러닝(Deep Learning)과 페이크(Fake)의 합성어인 딥페이크(Deepfakes)는 영상·사진 속에 등장하는 인물의 얼굴, 신체 등을 특정인의 것으로 합성한 편집물을 말한다. 인공지능(AI) 기술을 이용해 영상 속 인물을 특정 인물로 바꾼다는 얘기다. 전문가조차 합성 사실을 알아채기 힘들 만큼 기술이 점차 고도화되고 있다.

예컨대 유명 여자연예인 얼굴을 포르노 배우와 합성하거나 마크 저커버그 페이스북 최고경영자(CEO), 버락 오바마 전 미국 대통령, 문재인 대통령 등을 대상으로 가짜 영상을 제작하는 등이 대표 사례다.

박 실장은 "최근 BBC 보도에 따르면 포르노 딥페이크의 희생자 중 한국 여자연예인이 25%를 차지할 정도로 위험성이 높아지고 있는 상황"이라며 "특히 유명 연예인을 포르노에 등장시키는 것 만으로도 상업적 수익이 높아 최근 증강현실(AR)·가상현실(VR)과 연계한 콘텐츠도 제작되고 있다"고 경고했다.

그러면서 "창을 잘 알아야 방패를 잘 만들 듯, 딥페이크를 잘 만들 수 있는 연구자를 키우고 대응 전략을 마련해야 한다"며 "딥페이크와 같이 기술 정점에 있는 분야는 빠르게 추격·대응할 수 있는 기술적 조직이 필수"라고 말했다.

하지만 딥페이크 기술을 전문적으로 연구·대응하는 국내 기관은 아직 없다. 현재 ETRI에서 콘텐츠 유해물 차단 등 연구를 진행하는 게 전부다. 이마저도 성인물을 검출해내는 데에 그칠 뿐 딥페이크 관련 영상은 취급하지 않는다.

더불어 미국 등 해외는 대학과제 중 하나로 딥페이크 기술을 연구하고 있지만 국내는 미진하다.

이에 대해 박 실장은 "미국의 경우 대학에서 과제를 진행할 때 기업으로부터 기부금 형식으로 받아 대가성이 없다"며 "반면 국내는 연구비를 지원 받으면 이는 성공적인 결과물로 내야 한다는 부담으로 도전적인 연구를 어려워 한다 "고 말했다.

한편, 미국은 기업이 나서 딥페이크 기술 부작용 해결책 마련에 발벗고 나선 모습이다.

지난 9월 페이스북은 1천만 달러(한화 약 116억5천만 원)을 들여 마이크로소프트(MS) 등 IT기업과 미국 매사추세츠공대, 코넬대, 영국 옥스퍼드대 등에 재직 중인 AI 전문가와 컨소시엄을 구성했다. 이들은 '딥페이크 탐지 챌린지(DFDC)'를 열고, 여기서 나온 데이터를 딥페이크 영상 해독 코드를 개발하는데 사용할 예정이다.

최은정 기자의 다른 기사 보기

• '리벤지포르노·몰카'…디지털성범죄 5년새 4배↑

• "내 계좌로 22만 유로 보내" 전화로 대표 목소리 흉내낸 AI