(출처:google)
오픈AI의 ‘챗GPT(ChatGPT)’를 잡겠다며 구글에서 내놓은 생성형 인공지능(AI) 서비스 ‘제미나이(Gemini)’. 최근 제미나이가 개인정보를 심각하게 침해하고 있다는 우려가 제기됐다.
“제미나이가 허락도 없이 내 구글 드라이브에 접근했다”
7월 15일(현지시간) IT 전문 매체 톰스하드웨어는 AI 거버넌스 분야 수석 고문인 케빈 뱅크스톤(Kevin Bankston)이 자신의 엑스(구 트위터) 계정에 올린 게시글에 대해 보도했다. 게시글은 구글 제미나이가 접근할 수 없는 구글 드라이브 문서를 읽어 들였다고 주장이 주된 내용이다. 그는 ‘제미나이 어드밴스드(Gemini Advanced)’를 사용할 수 있는 ‘구글 원 AI 프리미엄’ 구독자이기도 하다.
그는 구글 문서에서 PDF 파일로 세금 보고서를 열었는데, 이때 제미나이가 갑자기 나타나 요약된 세금 정보를 알려줬다고 주장했다. 뱅스크톤은 PDF 파일을 열 때 제미나이를 호출한 적이 없었으며, 직접 정보를 제공한 사실도 없다고 설명했다. 제미나이에 어떠한 접근 권한도 주지 않았던 문서였다. 게다가 요약된 정보라는 것이 실제 자신에게 필요한 정보도 아니었다고 설명했다.
뱅스크톤은 직접 확인해 본 결과 이러한 제미나이의 작업은 PDF에만 영향을 미친다는 사실을 알아냈다. 문제를 해결하기 위해 제미나이에 제미나이 기능을 끄는 방법을 물어봤지만 존재하지 않는 설정에 대해 설명했다고 전했다. 이후 직접 구글 문서에서 제미나이를 비활성화하는 설정을 찾았지만 이미 비활성화된 상태였다고 덧붙였다. 뱅크스톤은 구글 드라이브 접근을 막는 설정을 한 이후에도 문제는 계속됐다고 전했다.
물론 아직 개인이 주장하는 단계라 온전히 신뢰할 수 없다는 주장도 있다. 해외 매체 XDA디벨로퍼는 당시 케빈 뱅크스톤의 PC가 어떻게 설정돼 있는지 알 수 없으며 개인적인 실수에 의한 오류 가능성도 배제해서는 안 된다며 상황을 더 지켜볼 필요가 있다는 취지의 의견을 전했다.
이론적으로 구글을 비롯해 제미나이는 권한이 있어야만 사용자의 콘텐츠에 접근할 수 있다. 구글은 “이메일, 문서 등 구글 워크스페이스 콘텐츠를 허가 없이 다른 사용자와 공유되지 않는다”며 “지메일, 구글 문서도구, 스프레드시트, 프레젠테이션, 드라이브, 캘린더, 미트, 채팅 등 개인용 및 업무용 구글 워크스페이스 제품 전체에 적용된다”라고 직접 밝히기도 했다.
이번 일은 최근 들어 영향력이 커지고 있는 각종 인공지능 서비스를 향해 강력한 개인정보 보호 기능에 신경 써야 한다는 메시지를 던져주고 있다. 인공지능 서비스가 자신의 문서를 허락 없이 스캔하고 데이터를 외부 서버로 전송하는 것을 원하는 사용자는 없다. 사용자의 데이터를 인공지능 훈련에 학습한 것이 아니라고 해도 개인정보 침해 논란으로부터 자유로울 수는 없다.
(출처:xda-developers)
빠르게 해명에 나선 구글
구글에서는 바로 성명을 통해 구글 제미나이를 향한 비판의 목소리 커지는 상황 진화에 나섰다. 일단 구글의 생성형 인공지능은 사용자에게 선택권을 주고 데이터를 제어하도록 설계됐다고 설명했다. 사용자의 파일을 함부로 엿보지 않는다는 점도 강조했다. 그리고 뱅크스톤의 주장에는 “여러 부정확한 내용이 있다”라며 혼란스러워진 분위기를 수습해달라는 말을 전하기도 했다.
사용자 개인 정보를 보호하고 있다고도 강조했다. 뱅크스톤의 사례에서 가져온 데이터가 실제로 수집되지는 않는다면서 “(제미나이가) 요약한 내용이나 문서 자체를 저장하지 않는다”라고 밝혔다. 구글에서는 생성된 요약 정보를 사용 후 폐기하기 때문에 사용자가 자신의 구글 문서 데이터를 사용하는 인공지능 모델을 걱정할 필요는 없다고 주장했다.
구글에서는 제미나이가 사용자의 기본 설정을 계속 기억하고 있으며 자동으로 설정을 다시 켜는 일은 없다고 해명했다. 이어 사용자가 PDF를 위해 구글 드라이브에서 제미나이 사이드 패널을 사용했고 이후에도 그 상태로 두었던 것으로 추측했는데, 사이드 패널을 닫으면 더는 제미나이가 요약 정보를 제공하지 않을 것이라고 설명했다.
제미나이를 향한 우려가 쉽게 사그라들 것 같지는 않다. 구글은 이러한 우려를 불식시키기 위해 개인정보 보호를 존중한다는 인식을 앞으로도 반복해서 사용자에게 전달할 것으로 보인다.
테크플러스 에디터 나유권
tech-plus@naver.com
댓글 많은 뉴스