딥페이크(Deepfake)라는 기술이 처음 등장했을 때만 해도 신기한 기술 정도로 여겨졌다. 딥페이크를 이용하면 아직 세상에 없는 새로운 이미지나 영상을 순식간에 만들어낼 수 있다. 시간이 지날수록 기술은 더욱더 정교해졌고, 이제 실제와 가짜를 구분하기 힘든 지경에 이르렀다. 이로운 곳에 쓰이면 문제는 없다. 하지만 이내 딥페이크를 악용한 일들이 벌어졌다. 선거에 딥페이크 영상이 사용돼 공정한 선거 활동을 방해하고, 딥페이크로 성착취물을 제작하는 등 심각한 우려를 낳을만한 문제들이 이곳저곳에서 터져 나오고 있다.
딥페이크 기술로 만들어진 영상은 소셜네트워크서비스(SNS)와 포털사이트를 통해 빠른 속도로 확산된다. 뒤늦게 피해를 인지하더라도 이미 광범위하게 입은 피해를 되돌리는 것은 결코 쉬운 일이 아니다. 딥페이크 이미지나 영상이 유통되는 플랫폼의 적극적인 도움이 절실한 상황이다.
딥페이크 유통에 악용되는 대표적인 플랫폼에는 텔레그램이 있다. 최근 한국에서는 딥페이크 성착취물 유포의 온상으로 지적받고 있다. 텔레그램은 서버가 해외에 있고 메시지도 암호화돼 안전한 메신저로 정평이 나 있는 한편 각종 범죄가 횡행하는 메신저라는 불명예스러운 이름을 동시에 갖고 있다. 불법 콘텐츠 유통의 통로 역할을 하고 있기에 텔레그램이 책임감있는 행동을 해야 한다는 목소리는 점점 커져만 갔다. 하지만 전 세계 수사당국이나 사법당국의 지속적으로 수사 협조 요청에도 텔레그램은 늘 미온적인 태도를 고수해 왔다.
그런 텔레그램에서 전향적인 태도를 보이기 시작했다. 얼마 전 한국 당국에 요청을 받아들여 텔레그램 내에서 퍼지는 불법 콘텐츠 단속에 협조한 사실이 알려지기도 했다. 지난 텔레그램의 대응에 비춰보면 상당히 이례적인 조치다.
이처럼 딥페이크의 심각성을 인지한 플랫폼에서는 이를 위한 대책 마련과 협조를 이어가고 있다. 전 세계에서 가장 많은 사람들이 이용하는 영상 플랫폼 유튜브에서도 새로운 조치를 발표했다.
얼굴·음성 딥페이크 감지 도구 개발한 유튜브
9월 5일(현지시간) 암자드 하니브(Amjad Hanif) 유튜브 크리에이터 제품 부사장은 자사 블로그에 올린 게시글을 통해 유튜브가 얼굴이나 목소리를 이용해 만든 인공지능(AI) 콘텐츠를 감지하는 기술 개발 프로젝트를 시작했다고 밝혔다.
유튜브가 개발 중인 도구는 크게 두 가지다.
하나는 합성 노래 식별 기술이다. 해당 기술은 콘텐츠 ID(Content ID)에 통합된다. 콘텐츠 ID란 저작권 소유자가 제출한 오디오나 영상 파일을 활용해 저작권으로 보호되는 콘텐츠와 일치하는 콘텐츠를 식별하는 시스템인데, 합성 노래 식별 기술이 통합되면서 기존 콘텐츠 ID의 범위는 확장되는 셈이다. 하니브는 인공지능이 만든 음성을 식별하고 관리할 수 있다고 설명했다. 해당 기술은 개선 중이며, 내년 초 파일럿 프로그램을 계획하고 있다고 전했다.
다른 하나는 인공지능을 이용해 합성된 얼굴이 담긴 영상 콘텐츠를 감지하는 기술이다. 크리에이터부터 배우, 음악가, 운동선수에 이르기까지 다양한 산업에서 활동하는 이들의 얼굴을 감지하게 된다. 최근 유튜브는 개인보호 규정을 업데이트해 개인을 식별할 수 있으면 개인정보 침해 신고 절차를 통해 콘텐츠를 삭제하는 기반을 마련했다. 암자드 하니브는 인공지능을 활용한 강력한 도구 세트를 만들어 사람을 묘사하는 데 사용되는 기술을 단속하겠다고 덧붙였다.
유튜브 콘텐츠가 AI 훈련에 사용되는 것도 차단
암자드 하니브 부사장은 유튜브 생태계에 올라온 영상 콘텐츠를 인공지능 훈련에 무단으로 사용하는 것도 지적했다. 그는 유튜브 콘텐츠를 허가 없이 스크래핑하는 행위는 당사 서비스 약관을 위반하는 행위이며 크리에이터 작업의 가치를 훼손한다는 점을 명확히 했다. 유튜브도 자사 머신러닝과 인공지능 애플리케이션 개선에 유튜브 영상 콘텐츠를 활용하지만 어디까지나 크리에이터가 동의한 약관에 따라서만 이행한다고 강조했다.
유튜브는 유튜브 콘텐츠에 접근하는 시도를 탐지해 내고 방지하는 시스템 구축에 지속적인 투자를 한다고 밝혔다. 또한, 유튜브 크리에이터가 타사 플랫폼에서 자신의 콘텐츠를 사용하는 것을 선택하는 방법을 개발 중이며, 이에 대해 연말에 더 많은 내용을 공유하겠다고 밝혔다.
테크플러스 에디터 나유권
tech-plus@naver.com
댓글 많은 뉴스