(출처: 메타)
6월 24일(현지시간) IT 전문 매체 더 버지(The Verge)가 메타 ‘AI 라벨’에 불만이 제기됐다는 내용을 보도했다. 사진 작가들 사이에서 실제 사진에 ‘AI로 제작(Made with AI)’ 라벨이 붙는다는 의견이 나오면서다.
메타는 지난 5월부터 페이스북, 인스타그램, 스레드 등 자사 소셜미디어에 올라오는 AI 생성 콘텐츠에 라벨을 붙이고 있다. 소셜미디어에서 AI로 만든 콘텐츠를 구별해 디지털 미디어 환경 투명성과 신뢰성을 강화하기 위한 방침이다.
AI 라벨은 이미지, 동영상, 오디오에 붙는다. 당시 메타는 메타 AI 도구로 만들어진 콘텐츠에만 우선 적용했다. 현재는 챗GPT나 제미나이, 셔터스톡 등으로 만든 콘텐츠에도 라벨을 붙이고 있다.
콜카타 나이트 라이더스 게시물에 붙은 AI 라벨 (출처: 인스타그램 스크린샷)
문제는 직접 촬영한 사진에도 AI 라벨이 붙는 사례가 늘고 있다는 점이다. 전직 백악관 사진 작가 페테 수자(Pete Souza)는 자신이 촬영한 농구 경기 사진에 AI 라벨이 붙었다고 밝혔다. 이전에 포스팅한 게시물과 같은 방법으로 촬영하고 편집해 올렸는데도 메타는 AI 콘텐츠로 규정한 상황이다.
이뿐만이 아니다. 메타는 콜카타 나이트 라이더스( Kolkata Knight Riders)가 게시한 이미지에도 AI 라벨을 붙였다. 콜카타 나이트 라이더스는 최근 인도 크리켓 프리미어 리그 경기에서 우승한 팀이다. 트로피를 들고 승리를 만끽하는 사진을 AI 콘텐츠로 지정했다.
(출처: 메타)
사진 작가들은 메타가 AI 콘텐츠로 규정하는 기준이 의심스럽다는 입장이다. 일단 모바일에서만 AI 라벨을 확인할 수 있다. 페테 수자와 콜카타 나이트 라이더스 인스타그램 계정 모두 웹에서는 평범한 포스팅처럼 보인다.
게다가 이미지를 다른 문서에 복사-붙여 넣기 하면 AI 라벨은 사라진다. 사진 전문 매체 페타픽셀(PetaPixel)에서 이미지를 검은색 캔버스에 붙여 넣은 뒤 인스타그램에 재업로드했는데, AI 라벨이 붙지 않았다.
메타는 더 버지를 통해 ‘문제를 인식하고 있다’고 밝혔다. 원인은 알고리즘 구조 때문이다. 메타 대변인 케이트 맥라흘린(Kate McLaughlin)은 ‘이미지에 AI 기술이 얼마나 많이 쓰였는지 반영하도록 알고리즘을 수정하고 있다’고 밝혔다.
메타 알고리즘은 콘텐츠에 AI 기술이 얼마나 많이 쓰였는지 구별하지 않은 듯하다. 예컨대, 어도비 생성형 채우기(Generative Fill)를 통해 이미지에 있는 작은 얼룩만 지워도 AI가 만든 이미지로 인식한다. 앞서 사진 작가들이 업로드한 이미지를 AI가 전부 만든 이미지처럼 인식한 이유다.
사진 작가 노아 칼리나( Noah Kalina)는 자신의 스레드 계정을 통해 AI로 ‘수정’한 이미지를 AI로 ‘제작’한 이미지와 똑같이 취급하면 AI 라벨을 붙이는 의미가 없다고 설명했다. 차라리 모든 이미지에 ‘현실과 완전히 똑같지 않음’이라는 태그를 붙이는 게 낫다고 비판했다.
(출처: 메타)
AI 라벨은 긍정적인 역할을 한다. 딥페이크에 특히 그렇다. 최근 유튜브 라이브 방송에서 일론 머스크 딥페이크를 활용해 암호화폐 사기를 유도한 사건이 있었다. 영상 시청자는 한 때 3만 명까지 이르기도 했다. 결국 구글에서 계정을 삭제했으나, 자칫하면 큰 피해를 불러올 뻔했다.
메타는 딥페이크에 AI 라벨을 붙인다. 영상 속 인물이 정말 일론 머스크 같더라도 AI 라벨이 있으면 페이스북, 인스타그램, 스레드 등에선 가짜임을 쉽게 알아챌 수 있다.
하지만 한계도 여전하다. 사용자 입장에서는 콘텐츠에 얼마나 많은 AI 기술을 사용했는지 파악하기 어렵다. AI로 편집만 했는지 아니면 아예 AI로 만들었는지 구분하지 않아서다.
어디까지 AI 생성 콘텐츠로 규정할지는 합의된 바 없다. 메타 외에도 여러 플랫폼 업체에서 AI 라벨을 도입하고 있지만, 저마다 기준이 다르다. 하지만 IT 전문 매체 테크크런치(Techcrunch)는 AI 생성 콘텐츠임에도 라벨이 붙지 않는 경우가 메타 플랫폼에서 늘고 있다고 지적했다. 확실한 기준은 없어도 AI가 처음부터 끝까지 만든 콘텐츠는 명확하게 규정해야 한다는 입장이다.
메타는 정확히 어떤 방식으로 AI 콘텐츠를 인식하는지 밝히지 않았다. 메타데이터를 활용한다고만 설명했을 뿐이다.
AI 생성 콘텐츠는 사회적 혼란을 야기할 수 있어 알고리즘을 철저하게 적용해야 한다는 목소리가 나온다. 특히 미국에서는 조만간 대통령 선거를 치르는 만큼 소셜미디어 업체가 AI 콘텐츠를 올바르게 처리해야 한다는 의견이 많다.
테크플러스 에디터 김하영
tech-plus@naver.com
댓글 많은 뉴스