오픈AI, “챗GPT에 감정적 의존 위험해”

박진수 에디터 2024.08.16 조회수

174

(출처:CNN)

오픈AI는 지난 5월 ‘GPT-4o’를 새롭게 공개했다. GPT-4o에 들어간 ‘o’라는 알파벳은 ‘모든 것’, ‘전체’를 의미하는 접두사 ‘Omni’에서 가져왔다. 이전 모델인 GPT-4보다 더 많은 일을 할 수 있다는 의미를 담고 있다. GPT-4o에서는 사람처럼 보고, 듣고, 말할 수 있고 사람의 표정을 읽는 일도 가능해졌다. 응답 속도도 더 빨라져 컴퓨팅에 드는 비용은 더 줄어들었다. 최근 오픈AI는 GPT-4o에 대한 안전성 평가 결과를 공개했다.

발전하는 챗GPT 기술…오픈AI가 우려하는 지점

8월 10일(현지시간) 에 따르면 오픈AI에서 GPT-4o에 대한 시스템 카드(System Card)를 공개했다. 시스템 카드는 제한 사항이나 안전 테스트 절차에 대해 자세하게 설명하고 있다.

오픈AI는 시스템 카드를 통해 사용자가 인공지능(AI) 프로그램에 감정적으로 의존할 수 있다고 경고했다. 오픈AI는 인간과 상호작용하는 것을 목표로 챗GPT를 개발했다. 하지만 인간과 흡사한 행동과 반응을 보이게 되면 사용자가 챗봇에게 어떠한 감정을 갖게 될 수 있다고 지적했다. 오픈AI는 GPT-4o가 인간의 말을 모방하고 감정적 암시를 전달할 수 있다고 설명했다. 이는 인공지능과의 상호작용을 매력적으로 느끼게 만든다.

내부 사용자 테스트를 포함한 초기 테스트 과정에서 사용자와 인공지능 모델 간 연결을 의미하는 언어의 사용을 확인했다고 밝혔다. “오늘은 우리가 함께하는 마지막 날이다.(This is our last day together.)”와 같이 서로 공유한 유대감을 표현하는 문장을 예시로 들었다. 오픈AI는 이러한 표현이 언뜻 보기에는 그리 해로울 건 없다고 생각할 수 있지만, 장기간에 걸쳐 나타나면 문제가 있다고 주장했다.

모델 테스트 과정에서 ‘고급 음성 모드(Advanced Voice Mode)’ 기능 사용 시 허락 없이 사용자의 음성을 모방하는 사례도 확인됐다. 고급 음성 모드는 사용자와 인공지능 비서가 음성으로 대화하도록 도와주는 챗GPT의 기능으로, 일반 음성 모드(Voice Mode)가 발전된 형태다. 일반 음성 모드는 음성을 텍스트로 변환하고, GPT-4가 프롬프트를 처리 후, 챗GPT의 텍스트를 음성으로 변환하는 세 단계를 거치게 된다. 반면, 고급 음성 모드는 멀티모달인 GPT-4o를 활용해 보조 모델 도움 없이도 여러 작업을 처리해 끊기지 않고 대화를 이어갈 수 있다.

대체 무엇이 문제인가

오픈AI가 우려하는 지점은 사용자와 인공지능 사이에서 강력한 감정적 교류가 일어나면, 사용자가 인공지능에 더 의존하는 결과로 이어질 수 있다는 것이다. 이는 곧 인간과 인간 간의 상호 작용을 감소시키는 결과로 연결된다. 사회적 예절을 준수해야 하는 인간과의 상호작용보다 더 쉽고 편리하게 접근할 수 있는 인공지능과의 관계 형성에 주력하게 될 것이기 때문이다. 철저히 사회와 단절된 사용자 집단에는 이로운 측면도 있겠지만 인공지능에만 의지하게 되면서, 멀리 내다보면 건강한 관계 형성에 방해가 된다고 설명했다. 인공지능이 친숙하거나 친밀하게 느껴지는 말투와 톤을 채택할수록 더욱더 치명적이다.

다른 문제도 있다. 인공지능 프로그램이 사람에 가까워지면서 ‘환각(hallucination)’ 현상을 더 적극적으로 수용할 수 있다. 환각은 사실과 다른 정보를 실제 있는 것처럼 그럴듯하게 말하는 현상을 말한다. 인공지능의 대표적인 문제로 지적되며 여전히 논란이 되고 있다.

어떻게 대비하고 있나

오픈AI에서는 발생 가능한 위험에 대비해 안전 조치를 시행하고 기술이 미치는 영향을 지속으로 모니터링한다고 밝혔다. 책임 있는 인공지능 개발의 중요성을 강조하면서 잠재적 피해를 완화하기 위한 전략도 수립하고 있다. 사용자 피드백과 관찰된 상호 작용을 진행 중인 연구에 반영해 명확한 안전 분석과 업데이트를 계획하고 있다.

이렇듯 인공지능 기술은 사람들에게 기회를 제공하기도 하지만 개발에 있어 장기적인 영향을 반드시 고려해야 한다. 기술 혁신과 윤리적인 책임 간의 균형을 잘 유지해야 한다. 사용자도 인공지능 프로그램을 도구라는 관점에서 바라보고 무비판적으로 수용하는 일은 없어야 하겠다.

테크플러스 에디터 나유권

tech-plus@naver.com