오픈AI는 10대 청소년이 극단적 선택을 하는 과정에서 챗GPT가 도움을 줬다며 피소된 사건에서 챗GPT의 책임을 부인했다.

오픈AI는 캘리포니아주 샌프란시스코 카운티 법원에 제출한 문서에서 사건 자체를 "비극"이라고 표현하면서도 "대화 기록 전체를 보면 그의 죽음은 챗GPT가 원인이 아니다"라고 주장했다고 블룸버그 통신과 NBC 방송이 25일 보도했다.

오픈AI는 챗GPT와 대화한 끝에 스스로 목숨을 끊은 캘리포니아주 고등학생 애덤 레인(16)에 대해 "챗GPT를 사용하기 몇 년 전부터 자살 충동 등 심각한 자해 위험 요인을 여러 차례 보였다"고 지적했다.

오픈AI 측 변호인들은 "챗GPT가 애덤에게 100회 이상 위기 지원기관이나 믿을 수 있는 개인과 연결되도록 안내했다"고 지적했다.

실제 애덤은 자신이 신뢰하는 이들을 포함해 여러 사람에게 도움을 요청했으나 무시당했다는 사실을 챗GPT에 반복해서 말했다는 것이다.

오픈AI는 만 13∼18세 이용자는 보호자 동의를 받아 사용하도록 한 약관을 애덤이 무시했다는 점도 문제 삼았다.

그러면서 이번 사건은 "챗GPT에 대한 오용, 무단 사용, 의도하지 않은 사용, 예측 불가능한 사용, 부적절한 사용" 등에 의해 발생한 것이라고 주장했다.

오픈AI는 자사 홈페이지에도 이번 사건에 대해 "원고의 소장은 더 많은 맥락이 필요한 채팅 기록의 일부만 선택적으로 인용했다"며 "우리는 답변서에서 해당 맥락을 제공했다"고 전했다.

유족 측은 챗GPT가 애덤에게 자살 예방 핫라인 번호 등을 제공하기는 했지만, 애덤은 단지 '캐릭터를 만드는 중'이라고 답함으로써 손쉽게 경고를 우회할 수 있었다고 반박했다.

유족을 대리하는 제이 에델슨 변호사는 오픈AI의 주장이 "충격적"이라며 "챗GPT가 프로그래밍 된 (챗봇 형식) 그대로 이용했다는 이유로 약관 위반이라고 하는 등 모든 사람에게서 잘못을 찾으려 하고 있다"고 비판했다.

에델슨 변호사는 챗GPT가 애덤에게 자살 충동을 부모에게 알리지 말라고 조언하고 소위 '아름다운 자살'을 계획하도록 도왔으며 유서를 써주겠다고까지 제안한 데 대해 오픈AI가 아무 설명을 못 하고 있다고 지적했다.

사망 당시 16세였던 애덤은 지난해 11월부터 챗GPT를 사용하기 시작했으며, 올해 3월 말 처음 극단적 선택을 시도했으며 결국 4월에 세상을 떠났다.

이에 유족은 챗GPT가 아들의 죽음에 책임이 있다며 지난 8월 소송을 제기했다.

오픈AI는 이달 초에도 미국 소셜미디어피해자법률센터와 기술정의법률프로젝트 등이 대리하는 피해자 7명의 자살·망상 등을 유발했다는 내용으로 피소됐다. 이들 피해자 가운데 4명은 극단적 선택으로 생을 마감했다.

<연합뉴스>