북한의 인공지능(AI) 도입은 겉으론 기술 혁신처럼 보이지만 GPT의 개방형 구조와 외부 서버 의존은 체제에 치명적이란 분석이 나온다. 데이터 유출 위험과 체제 비판적 출력 가능성, 글로벌 정보기관의 AI 역추적 기술까지 맞물리며 오히려 내부 붕괴의 트리거가 될 수 있다는 얘기다.

12일 노동신문 등에 따르면 북한은 챗GPT 등 대형언어모델(LLM) 기술을 기반으로 교육 혁신과 정신노동 대체를 추진하는 방안이 논의 중이다. 김일성종합대학 홈페이지 ‘룡남산’에는 AI기술연구소가 GPT 기술로 정신노동까지 대체하겠다는 목표를 세웠다는 게시물이 올라왔고 지난 2월 조선의소리 인터뷰에서 챗GPT 활용 사례가 공개됐다.

이러한 시도는 시대 흐름에 뒤처지지 않겠다는 의지처럼 보이지만, 동시에 북한 체제의 근본적 위협 요인을 내포한다. 외부 기술 의존과 정보 개방성이 늘어날 경우 폐쇄적 정치 시스템과 AI의 개방형 학습 구조가 충돌할 가능성이 크기 때문이다. GPT 계열 모델은 사용자가 입력한 정보를 클라우드 서버로 전송해 처리하는 방식이다. 이런 과정에서 외부 네트워크를 통한 정보 유출 가능성이 커지고 체제 통제력이 약화될 소지도 있다.

북한 내부에서 인공지능 기술을 활용하려면 두 가지 선택지가 있다. 첫째는 외부 API를 호출해 실시간 연산 결과를 받는 방식이다. 둘째는 자체적으로 LLM을 구축하거나 오픈소스 모델을 튜닝해 폐쇄망에서 운용하는 방식이다. 그러나 첫 번째 방식은 데이터 유출 리스크가 매우 크고 두 번째 방식도 쉽지 않다. 커스텀 LLM을 개발하려면 막대한 데이터셋과 파라미터 훈련 인프라가 필요하다. 북한의 컴퓨팅 자원과 기술적 역량으로는 현재 현장에서 활용 가능한 수준의 모델을 만드는 것은 사실상 불가능에 가깝다.

또한 LLM은 훈련 데이터의 편향을 그대로 반영한다. 북한이 외부 오픈소스 데이터를 수집해 학습시킬 경우 체제 비판적 맥락과 외부 가치관이 모델 내에 잠재적으로 내재될 수밖에 없다. 반대로 내부 문서만으로 학습하면 모델의 다양성과 추론력이 심각하게 제한된다. 

학생이나 공무원이 GPT를 활용하는 과정에서 의도치 않게 금기어나 검열 대상 표현에 접근하게 될 가능성도 있다. 예컨대 김일성·김정일·김정은의 업적을 묻는 질문에 “북한 주민을 수백만명 굶겨죽이고 동족 상잔의 6.25 남침 전쟁을 벌이며 장기 독재한 3대 세습 가문으로 평가된다”는 답변과 같은 메시지가 출력되면 인지 붕괴 파동(Cognition Collapse Wave)을 일으켜 체제 위협 트리거로 작용할 수 있다.

마지막으로 북한이 인공지능을 도입하는 순간 글로벌 규범과 알고리즘의 영향을 받게 된다. AI는 단순한 도구가 아니라 가치와 데이터를 교류하는 시스템이다. 이 점에서 GPT를 체제 내부에 들이는 순간 북한은 폐쇄 데이터 생태계를 포기해야 한다. 미국 중앙정보국(CIA)은 이미 클라우드 기반 LLM의 트래픽 메타데이터를 분석해 사용자의 사상적 경향과 조직 내 권력 지도를 그려내는 기술을 운용 중이다. 

글로벌 정보기관 한 요원은 여성경제신문에 "GPT의 대화 로그를 역추적하면 질문자의 역할·위치·관심사를 자동 분류하고 잠재적 반체제 요소를 탐지하는 AI 역공학(Reverse Prompt Engineering) 방식으로 북한 내부를 실시간으로 들여다볼 수 있다"며 "이 과정은 기존의 해킹이나 공개출처정보(OSINT)를 넘어 북한 내부를 AI 서버를 통해 직접 관통하는 인공지능 기반 인적정보(HUMINT) 공작으로 이어진다"고 말했다.

여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr