구글에서 문제의 소지가 있는 딥페이크(Deepfake) 콘텐츠와의 전쟁을 선포했다. 이번에 새로운 기능을 도입하면서 자사 검색 생태계에서 유해 콘텐츠를 제거해 나갈 계획을 공개했다.
7월 31일(현지시간) 엠마 하이엄(Emma Higham) 구글 프로덕트 매니저는 구글 블로그에 올린 글을 통해 구글 검색 서비스에서 노골적인 딥페이크 콘텐츠가 노출되지 않는 기능을 출시했다고 전했다. 신고가 접수된 이미지나 영상 삭제 프로세스를 개선하고, 불법 딥페이크 콘텐츠의 검색 순위를 강등하는 방안을 제시했다. 가능한 한 성적으로 노골적인 딥페이크 콘텐츠를 찾기 어렵게 만드는 것이 목적이다.
(출처:Google)
유해 딥페이크 삭제 프로세스 개선
구글이 단속하는 것은 사용자의 동의 없이 제작된 딥페이크 콘텐츠다. 이전에도 구글 정책에 따라 문제가 될 만한 이미지나 허위 영상물은 신고를 받아 삭제하고 있었다. 하지만 이러한 과정을 쉽게 만드는 시스템을 개발해 더 적극적으로 딥페이크 콘텐츠에 대처하겠다는 것이 이번 조치의 골자다.
구글에 누군가 삭제를 요청하면 구글에서는 해당 사용자와 관련된 모든 유사한 검색에서 결과를 필터링하게 된다. 그런 다음 문제가 되는 이미지와 중복되는 자료를 찾아 모두 제거하게 된다. 피해를 입은 당사자의 경우 딥페이크 콘텐츠가 다른 웹사이트에 유포되는 것을 우려하곤 하는데 이러한 두려움을 완화하는 데 도움이 될 것으로 보인다.
검색 결과 순위 조정
검색 순위에서도 조정이 이뤄진다. 온라인에는 하루에도 무수히 많은 콘텐츠가 전 세계에서 쏟아진다. 구글은 콘텐츠의 홍수 속에서 유해한 콘텐츠를 막는 효과적인 방법으로 검색 상단에 고품질 콘텐츠를 의도적으로 노출하는 시스템을 생각했다. 구글은 사용자가 사람의 이름이 포함된 노골적인 딥페이크 콘텐츠를 구체적으로 검색하게 되면 그 결과로 ‘고품질의 노골적이지 않은 콘텐츠(high-quality, non-explicit content)’가 표시되도록 순위 시스템을 업데이트한다고 밝혔다. 특정인의 이름을 검색 시 그와 관련된 뉴스 기사가 있다면 검색 결과에 해당 뉴스 기사를 보여주는 식이다. 구글은 내부 테스트 결과 검색 결과 순위를 조정하는 쿼리 개선으로 노골적인 이미지가 노출되는 것을 70% 이상 줄였다고 설명했다.
구글은 여기서 한발 더 나아가 딥페이크가 사회에 미치는 영향을 논의하는 것과 관련된 콘텐츠를 노출시켜 딥페이크 콘텐츠를 찾으려는 사용자를 올바른 방향으로 이끌기 위한 계획도 있는 것으로 보인다.
조작된 콘텐츠로 상당한 수준의 제재를 받은 사이트는 검색 순위에서 강등되는 솔루션도 구축했다. 구글은 다수의 제재를 받은 것만으로도 ‘고품질 사이트가 아니라는 매우 강력한 신호’로 볼 수 있다고 주장했다.
구글의 조치가 합법적인 노출 영상까지 검색에서 배제하는 것은 아니다. 구글은 배우가 출연에 합의한 노출 영상과 합의가 이뤄지지 않은 불법적인 딥페이크 영상을 구분하는 것을 과제로 삼고 있다며, 여전히 둘을 구분하는 것이 쉽진 않지만 검색 엔진 기술을 지속적으로 개선하는 중이라고 밝혔다.
테일러 스위프트 (출처:Reuters)
논란의 기술 ‘딥페이크’…늘어나는 악용 사례
딥페이크는 ‘딥러닝(Deep Learning)’과 ‘페이크(fake)’의 합성어다. 딥페이크를 이용하면 현실에 없는 이미지나 영상을 만들 수 있다. 물론 가짜다. 딥페이크 기술은 인공지능(AI)의 발전과 함께 나날이 발전하고 있다. 알리지 않으면 딥페이크로 제작된 콘텐츠라는 것을 알아차리기 힘들 정도로 정교한 수준에 이르렀다.
분명 딥페이크는 놀라운 기술이지만 한편 숱한 악용 사례가 나타나면서 논란을 낳고 있다. 지난 1월 세계적인 팝스타 테일러 스위프트의 딥페이크 음란물이 확산되면서 이슈가 됐었다. 당시 여러 소셜네트워크서비스(SNS)를 통해 합성물이 확산됐고, 높은 조회수를 기록하기도 했다
한편, 구글은 이번 조치가 합의되지 않은 성적으로 노골적인 가짜 콘텐츠로 인해 피해를 본 사람들을 돕기 위한 작업이었다고 설명했다. 엠마 하이엄은 “이러한 노력은 사람들에게 마음의 평화를 주기 위해 고안됐으며, 특히 미래에 자신에 대한 유사한 콘텐츠가 튀어나오는 것을 걱정하는 경우 더욱 그렇다”라고 전했다.
테크플러스 에디터 나유권
tech-plus@naver.com
댓글 많은 뉴스