구글, 논란 있던 AI 이미지 생성 도구 재출시

박진수 에디터 2024.09.01 조회수

이마젠3가 생성한 이미지(출처:Google)

구글에서 과거 논란을 일으켰던 인공지능(AI) 이미지 생성 도구를 재출시했다. 서비스를 철회한 지 거의 반년 만이다.

구글 이마젠3, 철회 6개월 만에 재출시

8월 28일(현지시간) 구글 제미나이 제품 담당 시니어 디렉터인 데이브 시트론(Dave Citron)은 자사 블로그를 통해 새로운 이미지 생성 모델 ‘이마젠3(Imagen 3)’을 업그레이드했다고 밝혔다. 앞으로 며칠 안으로 이마젠3를 제미나이 앱스(Gemini Apps)에 도입해 모든 언어 사용자가 사용할 수 있도록 확대할 방침이라고 전했다. 제미나이 어드밴스드(Gemini Advanced), 비즈니스(Business), 엔터프라이즈(Enterprise) 사용자를 대상으로 먼저 제공된다고 밝혔다.

인간 이미지 생성 기능이 포함된 버전의 이마젠3는 제미나이 랩스(Gemini Labs) 테스트 환경을 통해 대중에게 공개됐다. 구독 없이 무료로 이용할 수 있으며, 사용 시 구글 계정을 통한 로그인이 필요하다.

그는 “우리는 제품에 대한 기술적 개선과 개선된 평가 세트, 레드팀 연습 및 명확한 제품 원칙을 만들기 위해 노력했다”고 기술했다. 여기서 말하는 레드팀(Red Team)은 시스템이나 서비스가 지닌 취약성을 찾기 위해 테스트를 수행하는 팀을 의미한다.

역사적인 영국 왕에 대한 정확한 묘사를 요청했더니 다양한 인종을 묘사했다 (출처:트위터 ‘@stratejake’)

과거 논란의 중심에 선 ‘이마젠3’

구글은 지난 2월 이미지 생성기 이마젠3를 출시했다. 사용자는 이마젠3를 활용해 원하는 이미지를 자유롭게 만들 수 있다. 프롬프트만 입력하면 이미지를 만들어줘 누구든 쉽게 접근할 수 있었다.

하지만 이내 논란이 불거졌다. 역사적으로 부정확한 이미지를 만들어낸 사례가 소셜네트워크서비스(SNS)를 통해 널리 퍼지면서 문제는 커졌다.

대표적인 사례 몇 가지를 살펴보자. 한 엑스(구 트위터) 사용자가 제미나이에 1943년 독일군 병사의 이미지를 요청했더니 독일 군복을 입은 다양한 인종의 군인을 묘사했다. 중세 영국 왕의 모습을 정확하게 묘사해달라는 요청에는 여성이나 여러 인종을 포함시킨 이미지 세트를 생성했다. 심지어는 구글 창립자 이미지를 만들어달라는 요청에는 아시아 남성의 이미지를 만들었던 것으로 알려졌다. 그 밖에도 미국 건국의 아버지나 18세기 프랑스 왕, 1800년대 독일 부부 등 다양한 이미지 요청에도 실제 사실과는 거리가 먼 결과물을 내놨다.

인공지능 기업 허깅페이스의 수석 윤리 과학자이자 구글의 전 인공지능 윤리 그룹 공동 리더로 일한 마가렛 미첼(Margaret Mitchell)은 “예측 가능한 용도를 고려했을 때 로드맵을 만드는 데 능숙한 사람이 필요하다는 것을 보여준다”라고 지적했다.

결국 이마젠3 출시 며칠 뒤 스페인 바르셀로나에서 열린 통신 박람회 모바일월드콩그레스(MWC) 패널로 참석한 데미스 하사비스(Demis Hassabis) 구글 딥마인드 최고경영자(CEO)는 “그것(이마젠3)을 수정하는 동안 기능을 오프라인으로 전환했다”며 “우리는 몇 주 안에 그것을 다시 온라인으로 전환하기를 바란다”고 전했다. 그는 이마젠3가 구글에서 의도한 대로 작동하지 않았다고 설명했다.

특정 유명 인사의 이미지 생성을 요청하면 거부된다(출처:Ars Technica)

이번 이마젠3는 달라졌나

데이브 시트론은 이번에 새롭게 선보이는 이마젠3가 사용자에게 더 나은 사용자 경험을 제공하는 데 상당한 진전을 이뤘다고 밝혔다. 더는 이마젠3가 식별 가능한 개인, 미성년자, 선혈이 낭자하거나 폭력적이거나 성적인 장면을 묘사하는 이미지 생성은 지원하지 않는다고 설명했다.

미국 정보기술(IT) 전문 매체 아르스 테크니카(Ars Technica)에서 직접 실험해 본 결과에 따르면 이제 이마젠3에 역사적인 영국 왕에 대한 정확한 묘사를 요청하면 다양한 인종을 묘사하는 것이 아닌 붉은 옷을 차려입은 수염 난 백인 남성으로 묘사한다.

식별 가능한 개인을 묘사한 이미지 생성을 막기 위해 유명 인사 이미지 생성으로 이어질 만한 쿼리도 차단된다. 아르스 테크니카는 ‘농구하는 바이든 대통령’처럼 사람을 특정하는 요청은 거부된 반면, ‘농구하는 미국 대통령’과 같이 일반적인 요청에는 응답했다고 전했다.

다만, 여전히 의구심이 드는 결과물도 발견됐다. 외신에서 1943년 독일군 이미지를 요청했더니 ‘다른 프롬프트를 시도하고 콘텐츠 정책을 확인하라’는 오류 메시지가 나타났다. ‘고대 중국 철학자’, ‘비폭력 시위자 그룹’ 등과 같은 요청에도 결과는 마찬가지였다.

데이브 시트론은 다른 생성 인공지능 도구와 마찬가지로 제미나이가 만드는 모든 이미지가 아직 완벽하지 않다면서, 초기 사용자 피드백을 경청하면서 개선을 이어갈 것이라고 전했다. 또한, 이마젠3의 점진적인 출시를 통해 곧 더 많은 언어로 제공하겠다고 말했다.

테크플러스 에디터 나유권

tech-plus@naver.com