주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

직접 찍은 건데…’AI 라벨’ 무작위로 붙이는 메타

박진수 에디터 조회수  

(출처: 메타)

6월 24일(현지시간) IT 전문 매체 더 버지(The Verge)가 메타 ‘AI 라벨’에 불만이 제기됐다는 내용을 보도했다. 사진 작가들 사이에서 실제 사진에 ‘AI로 제작(Made with AI)’ 라벨이 붙는다는 의견이 나오면서다.

메타는 지난 5월부터 페이스북, 인스타그램, 스레드 등 자사 소셜미디어에 올라오는 AI 생성 콘텐츠에 라벨을 붙이고 있다. 소셜미디어에서 AI로 만든 콘텐츠를 구별해 디지털 미디어 환경 투명성과 신뢰성을 강화하기 위한 방침이다.

AI 라벨은 이미지, 동영상, 오디오에 붙는다. 당시 메타는 메타 AI 도구로 만들어진 콘텐츠에만 우선 적용했다. 현재는 챗GPT나 제미나이, 셔터스톡 등으로 만든 콘텐츠에도 라벨을 붙이고 있다.

콜카타 나이트 라이더스 게시물에 붙은 AI 라벨 (출처: 인스타그램 스크린샷)

문제는 직접 촬영한 사진에도 AI 라벨이 붙는 사례가 늘고 있다는 점이다. 전직 백악관 사진 작가 페테 수자(Pete Souza)는 자신이 촬영한 농구 경기 사진에 AI 라벨이 붙었다고 밝혔다. 이전에 포스팅한 게시물과 같은 방법으로 촬영하고 편집해 올렸는데도 메타는 AI 콘텐츠로 규정한 상황이다.

이뿐만이 아니다. 메타는 콜카타 나이트 라이더스( Kolkata Knight Riders)가 게시한 이미지에도 AI 라벨을 붙였다. 콜카타 나이트 라이더스는 최근 인도 크리켓 프리미어 리그 경기에서 우승한 팀이다. 트로피를 들고 승리를 만끽하는 사진을 AI 콘텐츠로 지정했다.

(출처: 메타)

사진 작가들은 메타가 AI 콘텐츠로 규정하는 기준이 의심스럽다는 입장이다. 일단 모바일에서만 AI 라벨을 확인할 수 있다. 페테 수자와 콜카타 나이트 라이더스 인스타그램 계정 모두 웹에서는 평범한 포스팅처럼 보인다.

게다가 이미지를 다른 문서에 복사-붙여 넣기 하면 AI 라벨은 사라진다. 사진 전문 매체 페타픽셀(PetaPixel)에서 이미지를 검은색 캔버스에 붙여 넣은 뒤 인스타그램에 재업로드했는데, AI 라벨이 붙지 않았다.

메타는 더 버지를 통해 ‘문제를 인식하고 있다’고 밝혔다. 원인은 알고리즘 구조 때문이다. 메타 대변인 케이트 맥라흘린(Kate McLaughlin)은 ‘이미지에 AI 기술이 얼마나 많이 쓰였는지 반영하도록 알고리즘을 수정하고 있다’고 밝혔다.

메타 알고리즘은 콘텐츠에 AI 기술이 얼마나 많이 쓰였는지 구별하지 않은 듯하다. 예컨대, 어도비 생성형 채우기(Generative Fill)를 통해 이미지에 있는 작은 얼룩만 지워도 AI가 만든 이미지로 인식한다. 앞서 사진 작가들이 업로드한 이미지를 AI가 전부 만든 이미지처럼 인식한 이유다.

사진 작가 노아 칼리나( Noah Kalina)는 자신의 스레드 계정을 통해 AI로 ‘수정’한 이미지를 AI로 ‘제작’한 이미지와 똑같이 취급하면 AI 라벨을 붙이는 의미가 없다고 설명했다. 차라리 모든 이미지에 ‘현실과 완전히 똑같지 않음’이라는 태그를 붙이는 게 낫다고 비판했다.

(출처: 메타)

AI 라벨은 긍정적인 역할을 한다. 딥페이크에 특히 그렇다. 최근 유튜브 라이브 방송에서 일론 머스크 딥페이크를 활용해 암호화폐 사기를 유도한 사건이 있었다. 영상 시청자는 한 때 3만 명까지 이르기도 했다. 결국 구글에서 계정을 삭제했으나, 자칫하면 큰 피해를 불러올 뻔했다.

메타는 딥페이크에 AI 라벨을 붙인다. 영상 속 인물이 정말 일론 머스크 같더라도 AI 라벨이 있으면 페이스북, 인스타그램, 스레드 등에선 가짜임을 쉽게 알아챌 수 있다.

하지만 한계도 여전하다. 사용자 입장에서는 콘텐츠에 얼마나 많은 AI 기술을 사용했는지 파악하기 어렵다. AI로 편집만 했는지 아니면 아예 AI로 만들었는지 구분하지 않아서다.

어디까지 AI 생성 콘텐츠로 규정할지는 합의된 바 없다. 메타 외에도 여러 플랫폼 업체에서 AI 라벨을 도입하고 있지만, 저마다 기준이 다르다. 하지만 IT 전문 매체 테크크런치(Techcrunch)는 AI 생성 콘텐츠임에도 라벨이 붙지 않는 경우가 메타 플랫폼에서 늘고 있다고 지적했다. 확실한 기준은 없어도 AI가 처음부터 끝까지 만든 콘텐츠는 명확하게 규정해야 한다는 입장이다.

메타는 정확히 어떤 방식으로 AI 콘텐츠를 인식하는지 밝히지 않았다. 메타데이터를 활용한다고만 설명했을 뿐이다.

AI 생성 콘텐츠는 사회적 혼란을 야기할 수 있어 알고리즘을 철저하게 적용해야 한다는 목소리가 나온다. 특히 미국에서는 조만간 대통령 선거를 치르는 만큼 소셜미디어 업체가 AI 콘텐츠를 올바르게 처리해야 한다는 의견이 많다.

테크플러스 에디터 김하영

tech-plus@naver.com​

author-img
박진수 에디터
CP-2023-0021@techpress.com

댓글0

300

댓글0

[Techpress] 랭킹 뉴스

  • '말만 해'...유튜브 뮤직, 'AI 재생목록' 테스트 중
  • 갤 폴드 6가 지원할 구글 최신 기능 세 가지
  • '구글 포토→아이클라우드' 사진 전송 간단해진다
  • 유튜브 쫓는 틱톡...인스타그램은 생각이 다르다
  • 아이폰16에 '페이스ID' 디자인 변화 있을까
  • 벌써 언급되는 갤럭시 링2 ‘이것’ 다르다

[Techpress] 공감 뉴스

  • 1년 만에 또? 엑박 게임패스, 구독료 더 오른다
  • [전구남] 사양 읽기도 벅찬 노트북, 어떤 걸 사야 할까요
  • [폰카홀릭]<8>인스타그램 카메라, 기본 카메라 앱보다 쓸만할까?
  • 맞춤법 검사, 자동 수정…메모장이 또 달라졌네
  • 낫싱 CMF, 신상 3종 발표...특징은?
  • 애플워치10 화면 더 커진다…건강기능엔 문제가?

당신을 위한 인기글

  • 독특한 매력 담은 전 세계 호텔 5
    독특한 매력 담은 전 세계 호텔 5
  • 제주 속 작은 한라산, 설화와 함께 떠나는 산방산 여행
    제주 속 작은 한라산, 설화와 함께 떠나는 산방산 여행
  • 도대체 어떻길래.. 셀럽들의 은밀한 웰니스 스테이 2
    도대체 어떻길래.. 셀럽들의 은밀한 웰니스 스테이 2
  • “그 사람이 원하는 대로…?” 걸그룹 멤버와의 불화설, 진실은?
    “그 사람이 원하는 대로…?” 걸그룹 멤버와의 불화설, 진실은?
  • “진짜였어…?” 과거 유흥업소 근무 인정했다는 여가수
    “진짜였어…?” 과거 유흥업소 근무 인정했다는 여가수
  • “그 정도야?” 얼굴이 너무 예뻐 촬영이 중단됐다는 연예인
    “그 정도야?” 얼굴이 너무 예뻐 촬영이 중단됐다는 연예인
  • “몸 관리 안 하냐” 팬들 지적 이어져 공식 사과했다는 연예인
    “몸 관리 안 하냐” 팬들 지적 이어져 공식 사과했다는 연예인
  • 임영웅 이 정도였어? 영화배우 임영웅 인 악토버 1등
    임영웅 이 정도였어? 영화배우 임영웅 인 악토버 1등
  • “우리 옛날에 사귀었어” 방송 출연해 돌연 연애 사실 고백한 연예인
    “우리 옛날에 사귀었어” 방송 출연해 돌연 연애 사실 고백한 연예인
  • 유명 아이돌, 뜻밖의 가정사… 친 누나 8년째 잠적, 행방 오리무중
    유명 아이돌, 뜻밖의 가정사… 친 누나 8년째 잠적, 행방 오리무중
  • “유튜브 수익금 100억?” 한문철 수익금 소문에 대한 입장 밝힌다.
    “유튜브 수익금 100억?” 한문철 수익금 소문에 대한 입장 밝힌다.
  • 김태균 소신 발언? 축구 협회에 “사이좋게 지내라”
    김태균 소신 발언? 축구 협회에 “사이좋게 지내라”

[Techpress] 인기 뉴스

  • '말만 해'...유튜브 뮤직, 'AI 재생목록' 테스트 중
  • 갤 폴드 6가 지원할 구글 최신 기능 세 가지
  • '구글 포토→아이클라우드' 사진 전송 간단해진다
  • 유튜브 쫓는 틱톡...인스타그램은 생각이 다르다
  • 아이폰16에 '페이스ID' 디자인 변화 있을까
  • 벌써 언급되는 갤럭시 링2 ‘이것’ 다르다

[Techpress] 추천 뉴스

  • 1년 만에 또? 엑박 게임패스, 구독료 더 오른다
  • [전구남] 사양 읽기도 벅찬 노트북, 어떤 걸 사야 할까요
  • [폰카홀릭]<8>인스타그램 카메라, 기본 카메라 앱보다 쓸만할까?
  • 맞춤법 검사, 자동 수정…메모장이 또 달라졌네
  • 낫싱 CMF, 신상 3종 발표...특징은?
  • 애플워치10 화면 더 커진다…건강기능엔 문제가?

당신을 위한 인기글

  • 독특한 매력 담은 전 세계 호텔 5
    독특한 매력 담은 전 세계 호텔 5
  • 제주 속 작은 한라산, 설화와 함께 떠나는 산방산 여행
    제주 속 작은 한라산, 설화와 함께 떠나는 산방산 여행
  • 도대체 어떻길래.. 셀럽들의 은밀한 웰니스 스테이 2
    도대체 어떻길래.. 셀럽들의 은밀한 웰니스 스테이 2
  • “그 사람이 원하는 대로…?” 걸그룹 멤버와의 불화설, 진실은?
    “그 사람이 원하는 대로…?” 걸그룹 멤버와의 불화설, 진실은?
  • “진짜였어…?” 과거 유흥업소 근무 인정했다는 여가수
    “진짜였어…?” 과거 유흥업소 근무 인정했다는 여가수
  • “그 정도야?” 얼굴이 너무 예뻐 촬영이 중단됐다는 연예인
    “그 정도야?” 얼굴이 너무 예뻐 촬영이 중단됐다는 연예인
  • “몸 관리 안 하냐” 팬들 지적 이어져 공식 사과했다는 연예인
    “몸 관리 안 하냐” 팬들 지적 이어져 공식 사과했다는 연예인
  • 임영웅 이 정도였어? 영화배우 임영웅 인 악토버 1등
    임영웅 이 정도였어? 영화배우 임영웅 인 악토버 1등
  • “우리 옛날에 사귀었어” 방송 출연해 돌연 연애 사실 고백한 연예인
    “우리 옛날에 사귀었어” 방송 출연해 돌연 연애 사실 고백한 연예인
  • 유명 아이돌, 뜻밖의 가정사… 친 누나 8년째 잠적, 행방 오리무중
    유명 아이돌, 뜻밖의 가정사… 친 누나 8년째 잠적, 행방 오리무중
  • “유튜브 수익금 100억?” 한문철 수익금 소문에 대한 입장 밝힌다.
    “유튜브 수익금 100억?” 한문철 수익금 소문에 대한 입장 밝힌다.
  • 김태균 소신 발언? 축구 협회에 “사이좋게 지내라”
    김태균 소신 발언? 축구 협회에 “사이좋게 지내라”

공유하기