레오 14세 교황이 25일 즉위 후 처음 발표한 최고 권위 교서에서 인공지능(AI)이 인간을 지배할 수 없도록 '무장해제'가 필요하다고 설파했다.

신기술과 데이터•알고리즘으로 만들어진 허위 정보가 전쟁을 둘러싼 양극화와 반감을 증폭시키고 있다며 '정당한 전쟁'은 없다고 선을 그었다. 디지털 경제가 보이지 않는 노동력 착취에 기반하고 있다는 점도 지적하며 이를 '새로운 형태의 노예제'로 정의하기도 했다. 그러면서 AI는 누구에게나 열려있어야 한다며 정치권에 기술•정보의 시장 독점 감시를 주문했다.

레오 14세는 교황청 시노드 강당에서 이런 내용이 담긴 회칙 '마니피카 후마니타스'(Magnifica Humanitas•위대한 인간성)을 직접 발표했다. 회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다.

교황은 이번 회칙의 가장 중요한 표현으로 'AI 무장해제'를 꼽았다. 기술을 가진 권력자가 스스로 AI를 통치하도록 하는 권리를 거부한다는 뜻이다. 이런 의미에서 '무장해제'는 AI 기술에 대한 거부가 아니라 AI가 인간을 지배하지 못하게 하는 것이라고 교황은 강조했다.

교황은 AI 기술을 하늘에 이르는 탑을 세우다가 신의 분노를 샀다는 성경 속 바벨탑과 비교하기도 했다. 레오 14세는 "모두가 또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모으기를 요청한다"고 말했다. 교황이 여러 차례 연설을 통해 부각한 반전•평화 의지도 회칙에 담겼다.

교황은 AI 시대 전쟁은 단순히 무력 충돌에 그치는 것이 아니라 기술이 만들어낸 허위 정보와 단순화된 서사, 이분법적 사고로 '문화적'으로도 형성된다고 지적했다. 전쟁은 이틈을 비집고 "필요하거나 불가피한 것, 심지어 정화된 것"이 되기도 한다고 비판했다. 교황이 거듭 비판해 온 이른바 미국•러시아 등 강대국의 '정당한 전쟁' 이론에 또 날을 세운 것이다.

교황은 "모든 종류의 전쟁을 합리화하는 데 너무 자주 사용돼온 '정당한 전쟁' 이론은 이제 시대에 뒤떨어졌다"며 "무력•폭력•무기의 사용은 관계의 빈곤을 반영한 것"이라고 강조했다. 그러면서 일부 자율무기 체계와 관련해 "사실상 인간이 통제할 수 있는 범위를 넘어섰다"고 우려했다.

신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등은 '보편적 재화'에 포함해야 한다고도 했다. 디지털 혁명에 참여할 수 있는 사람과 그렇지 못한 사람들 간의 불균형을 최소화하기 위해서다. 교황은 "디지털 환경에서 플랫폼•데이터•인프라는 국가가 아닌 경제•기술자들이 통제한다"며 "이런 권력이 소수에 집중될 때 불투명해지고 의존•배제•불평등으로 왜곡될 위험이 커진다"고 우려했다.

교황은 이런 상황에서 시장의 자율 기능만으로 공공선에 가까운 균형은 사실상 불가능해졌다고 우려했다.

교황은 "AI와 로봇 시대에 시장의 '보이지 않는 손'에만 의존하는 것은 더 이상 가능하지 않다"고 못박았다. 그러면서 정치가 노동의 존엄성, 사회적 포용, 혁신 혜택의 공정한 분배를 이뤄야 한다고 강조했다.디지털 경제의 노동력 착취도 언급하며 '새로운 노예제'라며 경고의 목소리를 높였다.

교황은 "디지털 경제의 상당 부분은 데이터 라벨링, 모델 훈련 등 보이지 않는 활동에 종사하는 수백만명의 조용한 노동에 의존하고 희토류 등 자원을 채굴하는 가혹한 노동도 있다"며 "새로운 형태의 노예제와의 싸움은 윤리적인 AI를 위한 결정적 시험"이라고 강조했다.

4만단어가 넘는 방대한 내용의 이번 회칙은 교황이 작년 5월 즉위한 이후 처음 발표하는 교서다. 총 82페이지 분량으로 245개 항으로 구성됐다.
교황은 지난 15일 이 회칙에 서명했다. 레오 13세의 회칙 '레룸 노바룸'이 공표된 지 135주년이 되는 날이다. '레룸 노바룸'은 산업혁명 시기 노동자의 권리와 자본주의의 한계 등을 다뤘다.

교황이 노동권과 사회 정의를 강조한 레오 13세 교황(재위 1878-1903)을 계승하는 의미가 담겼다고 설명했다.
=====