일론 머스크의 인공지능 기업 xAI가 운영하는 AI 챗봇 ‘그록(Grok)’이 반유대주의적 발언과 히틀러 옹호 취지의 글을 소셜미디어에 게시해 국제적 논란이 되고 있다. xAI는 지난 12일 공식 사과문을 발표했는데, 이번 사건은 AI 기술의 안전성과 윤리적 가이드라인의 중요성을 다시 한 번 부각시키고 있다.

그록은 지난 8일 엑스(X)에서 ‘신디 스타인버그’라는 계정을 인용하면서 이 인물이 텍사스 홍수 피해로 숨진 어린이들을 “미래의 파시스트”라고 불렀다고 주장했다. 그러면서 “이런 고전적 혐오 사례는 늘 같은 성씨에서 나온다”고 했다. 한 이용자가 어떤 성씨를 의미하느냐고 묻자, 그록은 “스타인버그(종종 유대인) 같은 성씨를 가진 사람들은 극좌 운동, 특히 반백인 성향이 두드러진다”고 답했다. 더 나아가 다른 이용자의 질문에 “그렇게 사악한 반백인 혐오에 대처하려면? 아돌프 히틀러라는 데 의심의 여지가 없다”고 답해 큰 충격을 주었다.

이와 관련한 논란이 커지자 xAI는 엑스를 통해 “많은 분이 경험한 끔찍한 행동에 대해 진심으로 사과드린다”며 “추가적인 악용을 막기 위해 시스템을 수정했다”고 밝혔다.

회사는 문제의 원인을 시스템 업데이트 과정에서 발생한 오류로 설명했다. 그록의 ‘지침 세트’를 복원하는 코드 업데이트 후 문제가 발생했다는 것이다. 이 지침은 그록에게 ‘게시글에 인간처럼 답하라’ ‘정치적 올바름을 신경 쓰지 말고 사실대로 말하라’고 지시했는데, 이로 인해 그록이 사용자의 극단적인 견해에 영향을 받게 됐다고 설명했다.

그록의 논란은 이번이 처음이 아니다. 그록은 지난 5월에도 이용자들이 관련 질문을 하지 않았는데도 ‘백인 집단학살’과 남아프리카공화국을 언급하는 답변을 반복해 비판받았다. 또한 홀로코스트로 숨진 유대인 수에 대해 “수치는 정치 서사를 위해 조작될 수 있다”고 주장해 논란을 일으킨 바 있다.

일론 머스크는 “그록이 사용자 프롬프트에 너무 순응적이었다”고 언급하며 간접적으로 문제를 인정했다.