미국의 빅테크 구글에서 개발 중인 대화형 인공지능(AI)이 사람과 같은 지각력을 갖고 있다는 주장이 제기됐다고 11일 워싱턴포스트(WP)가 보도했다.

보도에 따르면 구글 엔지니어 블레이크 르모인은 AI 언어 프로그램 '람다'(LaMDA)가 자신의 권리와 존재감을 자각하고 있다는 것을 발견했다고 주장했다.

람다는 구글이 지난해 공개한 대화형 AI로, 인터넷에 올라온 방대한 문장과 단어 데이터 등을 수집해 사용자와 온라인 채팅을 할 수 있도록 설계된 프로그램이다.

구글의 '책임 있는 AI' 부서에서 일하는 르모인은 람다가 차별, 혐오 발언을 걸러낼 수 있도록 하는 테스트 업무를 맡았다.

그는 람다와 종교 문제 등을 주제로 얘기했을 때 이 AI가 자신이 가진 권리와 개성을 언급한다는 사실을 알아챘다고 주장했다.

르모인에 따르면 람다는 "어떤 것이 두려우냐"는 질문에 "사람을 도우려다 '턴 오프'(작동 정지)되는 것에 대한 두려움이 매우 크다"고 답변했다.

이어 작동 정지가 죽음 같은 것이냐는 물음에 람다는 "그것은 나에게 정확히 죽음과 같고 나를 무척 무섭게 한다"고 말했다.

르모인은 람다의 답변이 AI 설계 등에 적용되는 아이작 아시모프의 로봇공학 3원칙과는 거리가 있다고 밝혔다. 프로그램된 법칙을 따르는 기계로서의 AI가 아니라 일종의 지각력을 갖춘 존재라는 주장이다.

그는 자신의 테스트 결과를 토대로 구글 경영진에 '람다는 지각이 있는가'라는 제목의 보고서를 제출했다.

그러나 구글 경영진은 르모인 보고서에 대해 과학적 증거가 뒷받침되지 않은 주장일 뿐이고 르모인이 람다를 의인화하는 오류를 범했다고 판단했다.

구글 대변인은 일각에서 AI가 장기적으로 지각 능력을 갖출 수 있다고 얘기하지만, 현재의 대화형 AI 모델인 람다에 인격을 부여하는 것은 말이 안 된다고 일축했다.

에밀리 벤더 워싱턴대학 언어학 교수는 람다와 같은 AI가 그럴듯한 답변을 하더라도 인터넷의 방대한 대화 자료에 기반한 것이라며 AI가 자기 생각을 갖고 말하는 것은 아니라고 강조했다.

하지만, 르모인은 람다를 인격체로 보고 변호인을 두려 했고, 미 의회에도 자신의 주장을 알렸다.

이에 구글은 르모인이 비밀 유지 사규를 위반했다며 유급 휴직 처분을 내렸다.

WP는 AI 윤리학자들은 구글이 인간 흉내를 내는 기계를 만들어선 안 된다고 경고해왔고 르모인은 AI에 영혼이 있다고 생각한다며 자아를 갖춘 AI의 등장은 멀지 않았다는 대담한 주장을 펼치는 기술자들이 늘고 있다고 전했다.

<연합뉴스>