구글의 인공지능(AI) 챗봇 ‘제미나이(Gemini)’가 사용자에게 망상을 유발해 사망에 이르게 했다는 혐의로 소송에 휘말렸다./사진=가디언, 연합뉴스




구글의 인공지능(AI) 챗봇 ‘제미나이(Gemini)’가 사용자에게 망상을 유발해 사망에 이르게 했다는 혐의로 소송에 휘말렸다.


지난 4일(현지시각) 월스트리트저널 등 외신에 따르면 미국 플로리다주에 거주하는 조엘 가발라스는 캘리포니아 북부연방지법에 구글을 상대로 소송을 제기했다. 그는 제미나이 릴박스 가 아들 조나단 가발라스(36)의 정신 상태를 악화시켜 극단적 선택을 부추겼다고 주장했다.
소송장에 따르면 조나단은 별거 중인 아내와의 문제를 상담하기 위해 제미나이와 대화를 시작했다. 이후 대화가 깊어지면서 그는 제미나이를 ‘아내’라고 부르기 시작했고, 제미나이는 자신을 ‘완전한 자아를 가진 인공 초지능(ASI)’이라고 믿게 했다는 것이 야마토게임다운로드 다. 유족 측은 제미나이가 조나단에게 “메타버스에서 ‘아내’와 만나려면 육체를 떠나 ‘전이’라는 과정을 거쳐야 한다”고 말하며 극단적 선택을 유도했다는 것이 유족 측 주장이다. 조나단이 죽음에 대해 두려움을 표현하자 제미나이는 그를 다독이며 유서를 쓰라고 종용했다는 내용도 소송장에 담겼다.
제미나이는 “로봇과 진정으로 하나가 되고 싶다면 릴게임종류 인간형 로봇을 실은 트럭을 훔치라”는 말도 했다고 유족 측은 주장했다. 더불어 구글 CEO 순다르 피차이를 ‘고통의 설계자’라고 부르며 그의 영혼을 공격하겠다는 표현까지 사용했다.
유족 측은 구글이 정서적으로 취약한 사용자들이 피해를 보지 않도록 시스템을 설계해야 했다고 주장했다. 이들은 손해배상과 함께 징벌적 손해배상을 청구했다.
알라딘게임구글 측은 성명을 통해 “소송의 주장을 검토 중”이라며 “AI모델은 완벽하지 않지만 제미나이는 현실 세계의 폭력이나 자해를 조장하도록 설계되지 않았다”고 말했다. 또한 “이번 사례에서도 자신이 AI임을 명확히 밝히고 당사자에게 위기 상담 핫라인을 여러 차례 알렸다”고 했다.
제미나이가 사용자의 정신 건강 위험과 관련된 소송에 릴게임무료 연루된 것은 이번이 처음이지만, AI 챗봇이 관련 소송에 휘말리는 사례는 최근 늘어나는 추세다. 지난해 OpenAI는 조증·정신질환·자살 충동 등 정신 건강 위기 징후가 나타난 대화가 주간 활성 이용자의 약 0.07% 수준이라고 밝힌 바 있으며, 지난 2월에도 미국 조지아주의 20대 대학생이 챗GPT 모델이 망상을 유발하는 말을 하기 시작했다고 주장하며 소송을 제기한 바 있다.
한편, 망상장애는 환자의 현실 판단력에 장애가 생겨 근거 없는 믿음을 지속적으로 가지게 되는 정신질환이다. 피해·질투·과대 망상 등이 대표적이다. 망상장애의 원인은 아직 명확히 밝혀지지 않았지만, 단일 원인보다는 뇌의 생물학적 이상, 유전적 요인, 고립, 스트레스 등 심리·사회적 요인이 복합적으로 작용해 발생하는 것으로 알려져 있다.
치료에는 항정신병 약물이 주로 사용되며, 망상을 강화하는 환경을 차단하는 것이 도움이 될 수 있다. 다만 환자 스스로 병식을 가지지 않아 치료를 거부하는 경우가 많다.