기업가치가 305억 달러(약 45조원)에 달하는 인공지능(AI) 방산기업 안두릴이 최근 연이어 기술 결함과 안전 문제를 일으켰다고 일간 월스트리트저널(WSJ)이 27일 보도했다.

WSJ이 입수한 문건 등에 따르면 지난 5월 캘리포니아 해안에서 진행한 미 해군 훈련 당시 안두릴의 핵심 소프트웨어인 '래티스'(Lattice)가 탑재된 무인 함정 10여 척이 오작동을 일으켰다.

자동 안전장치가 발동된 이들 함정은 통제 명령을 따르지 않고 바다 위에 멈춰 섰다.

다른 함정과의 충돌을 비롯한 안전사고가 우려되는 상황이 되자 군은 훈련을 중단하고 문제가 된 함정들을 밤새 해안으로 예인하는 등 수습에 나서야 했다.

해군 관계자들은 훈련 이후 작성한 보고서에서 "안두릴이 군을 오도했다"며 "즉각 소프트웨어 설정을 수정하지 않으면 인명 손실 가능성도 우려된다"고 적었다.

안두릴 측은 사고가 래티스의 결함 때문이 아니라 함정 제조사의 소프트웨어 탓이었다고 반박했지만, 훈련 내용에 정통한 복수 관계자들은 소프트웨어 구현은 안두릴의 책임이라고 WSJ에 말했다.

지난 8월에는 대(對) 드론 시스템 '앤빌'(Anvil)이 오리건주에서 진행한 드론 요격 시험 중 추락해 펜들턴 공항 인근에 약 22에이커(약 8만9천㎡) 규모의 화재를 일으켰다.

사고 보고서에 따르면 안두릴은 자체 차량으로 불을 끄려 했지만 결국 지역 소방차 3대가 출동해서야 진화할 수 있었다.

공군에서 수백만 달러를 받고 개발한 무인 전투기(CCA) '퓨리'(Fury)의 시험 비행 때는 테스트 장비의 나사가 흡입구로 빨려 들어가 엔진이 손상되는 일도 있었다.

이 때문에 여름 안에 시험 비행을 끝내고자 했던 공군의 뜻과 달리 첫 시험비행은 10월 말에야 이뤄졌다.

러시아-우크라이나 전쟁에 배치된 안두릴의 드론에서도 러시아군의 전파 방해 공격에 취약하다는 문제가 발견됐다.

전장에서 목표물 타격에 실패하고 추락하기를 반복한 이들 드론은 지난해 사용이 중지됐다.

미 싱크탱크인 랜드연구소의 조너선 웡 선임 정책연구원은 수십 년간의 경험을 통해 현장 대응 능력을 갖춘 주요 방산업체와 안두릴을 비교하며 "안두릴은 제도적으로 이를 수행할 준비가 덜 돼 있다"고 지적했다.

이 같은 지적에 대해 안두릴 측은 "우리는 빠르게 움직이고 끊임없이 테스트하며 자주 실패하고 작업을 개선한 다음 다시 반복하는 고도로 반복적인 기술 개발 모델을 갖고 있다"며 "이는 우리가 감수하는 위험이다. 우리는 실제로 많이 실패한다"는 입장을 냈다.

안두릴은 가상현실(VR) 기업 오큘러스 창업자로 유명한 팔머 러키가 2017년 설립한 기업으로, AI 기반 자율 무기 시스템과 이를 통제하는 소프트웨어를 주로 개발한다.

판타지 소설 '반지의 제왕'에 등장하는 보검의 이름을 기업명으로 한 안두릴은 지난 6월 페이팔 공동 창업자 출신 피터 틸의 파운더스 펀드가 주도한 투자라운드에서 기업가치가 305억 달러로 평가받으며 25억 달러의 투자를 받았다.

<연합뉴스>