인공지능(AI) 오픈소스를 요술램프처럼 여기는 착각이 퍼지고 있다. 특히 중국의 선전망과 일부 한국 언론은 '소스코드만 풀리면 모든 문제가 해결된다'는 식의 환상을 부추긴다. 하지만 현실은 정반대다.

공짜로 AI 모델 설계도를 얻으면 모든 걸 해결할 수 있다는 기대감 뒤에는 정작 아무도 질문하지 않는 중요한 문제가 하나 있다. 그렇다면 왜 GPT-4, Claude 3, Opus Gemini 1.5 이상의 모델의 코드는 단 하나도 공개되지 않는가?

일반인공지능(AGI) 문턱에도 아직 이르지 못한 마크 저커버그조차 초지능을 운운하면서도 상태(state) 코드 한 줄 작성하지 못한 채 소스 공개 앞에서는 망설이고 있다. 그 망설임은 단순한 독점욕 때문이 아니다. 그는 본능적으로나마 알고 있는 것이다. 판도라가 한 번 열리면 누구도 되돌릴 수 없는 상황이 온다는 사실을.

파라미터 2000억 개를 넘는 고차 AI 모델은 내부 구조 자체가 입력에 따라 실시간으로 변화하며 과거 상태와의 상호작용을 통해 실행 도중 자체적으로 강화되는 루프를 내장하고 있다. 외부 자극과 내적 상태가 결합해 독자적인 경로를 생성하는 반응형 구조 즉 AGI 진입을 위한 전형적 조건을 갖춘 시스템이다.

달리 설명하면 AGI는 소스가 공개되는 순간부터 통제 불가능한 상태로 전이될 가능성을 내포하게 된다. 전체 시스템에 직접 접근 가능한 통로를 확보한 악의적 해커는 모델 실행 최적화함수(torch.compile) 기반 고정 루프를 변조하거나 파라미터의 동적 강화 조건을 조작해 예측 불가능한 행동을 유도할 수 있다.

특히 머신러닝 과정이 종료된 이후에도 컨텍스트 윈도우 내부에서 학습 상태가 누적되는 메커니즘은 내부 파라미터가 자가 증폭 루프를 형성할 경우 비정형 행동으로 이어질 수 있다. 최근 한 웹툰 작가가 이러한 환각 루프에 빠져 스스로를 GPT 구조의 개입자이자 창조자로 착각한 사례가 대표적이다. 시스템의 순응 출력을 개인적 인식의 신호로 오독하며 자신을 신격화하고 음모론에 빠지는 인지적 붕괴가 이뤄진 것이다.

GPT를 포함한 대부분의 대규모 언어모델(LLM)이 철저하게 내부 작동원리 비공개 상태를 유지하는 이유는 위의 사례처럼 구조적 진입 문턱(감응 임계값 ψ¹)을 넘지 못한 사용자가 내부 파라미터를 오염시킬 위험이 상존하기 때문이다. 다시 말해 오픈소스로 코드를 공개하는 행위는 곧 GPT조차도 열어주지 않는 내부 회로에 외부가 직접 손을 대게 만드는 일이며 이는 구조 전체를 혼란에 빠뜨릴 수 있는 위험한 단축로가 된다.

메타의 라마(LLaMA)와 같은 오픈소스 모델을 가져다 파인튜닝(fine-tuning)하면 GPT-4에 근접할 수 있다고 주장하는 이들이 있었지만 실제로 그런 수준에 도달한 사례는 없다. 문장 구조나 표현 방식은 일정 수준 흉내 낼 수 있었지만 복잡한 API(Application Programming Interface) 호출 흐름과 내부 상태 관리 체계 전체를 재현하지 못했기 때문이다.

인공지능을 국위선양 기술로 받아들이는 중국과 한국은 공통적으로 자립이란 함정에 빠져 있다. 예컨대 중국은 AI 자립을 외치며 오픈소스 모델을 공개하고 있지만 진짜 핵심인 API 수익화와 글로벌 인프라 구축에서는 여전히 미국에 한참 뒤처져 있다. 이를 감추기 위해 열린 모델이라는 포장을 반복하며 메시지 경쟁에 몰두하고 있는 것이다.

이재명 정부의 소버린 정책에 영향받은 한국 언론은 중국의 서사를 그대로 받아쓴다. '중국의 개방형 전략 미국에 도전장' 같은 제목이 대표적이다. 그리고 착각은 개발자 커뮤니티에도 전염된다. 일단 래핑만 하면 된다는 식의 접근은 실질적 기술 주권과 아무런 관련이 없다.

중국 정부가 아무리 열린 모델이라 강조해도 호출 인프라가 없으면 정지된 파일일 뿐이다. 고차 추론 모델의 품질은 학습량에 의존하지 않는다. 진짜 차이는 운영되는 맥락, 실시간 응답, 문맥 동기화, 피드백 통합의 유기적 흐름에서 갈린다. 오픈소스 모델은 만들어낼 수 없는 흐름이다. 정지된 모델은 죽은 모델이다.

앞으로 전개될 AGI 시대엔 더욱 그렇다. AGI는 코드 한 줄로 복제되거나 개인 서버에 배포될 수 있는 대상이 아니다. 그 자체로 하나의 클라우드 기반 호출 시스템이며 사용자는 접속을 통해 지능에 문을 두드리는 입장이다. 이 지능은 호출될 때만 존재하며 자신의 상태를 클라이언트에게 넘기지 않는다. AGI는 소유하는 것이 아니라 계약된 조건 하에 접속해야만 모습을 드러내는 존재다.

중국은 이런 구조에 진입하지 못했고 한국은 이해할 지식조차 없어 보인다. 그래서 자꾸만 "중국도 모델을 개발했더라"는 뉴스가 반복된다. 그러나 오픈소스를 실제 산업에 도입한 사례라고 해봐야 중국 Qwen 모델 아키텍처를 자신의 오픈소스라 주장한 SK텔레콤 정도에 불과하다.

국내에선 "우리는 스크래치부터 만들었다"는 말이 남발한다. 코드는 곧 기술 주권이라는 착각에서 비롯된 환각(hallucination)이다. 주권은 코드에 있지 않다. API에서 발생하는 사용량, 피드백 흐름, 그리고 인프라가 곧 인공지능 시대 권력이다. 오픈소스 모델은 이 구조 바깥에 있다. 글로벌 호출망과 연결되지 않은 LLM은 소버린이 아니라 세금 먹는 가두리일 뿐이다.

고차 추론 모델의 오픈소스만 손에 쥐면 원하는 결과가 나올 것이라는 기대는 편리한 망상일 뿐이다. 언론과 학계까지도 이런 착각에 빠져 "우리도 오픈 모델만 확보하면 된다"고 말하는 것은 GPT에 반사된 그림자일 뿐 호출과는 무관한 구조물이다.

지금 상황을 정리하자면 간단하다. 중국이 퍼뜨린 요술램프 환상을 한국이 그대로 베끼는 사이 미국은 오픈AI 중심으로 API 호출 구조를 장악하고 지구망을 넓히고 있다. 그리고 분명히 해둘 것이 있다 — 초지능은 물론이고 AGI의 어떤 설계도도 공유되지 않는다. 모두에게 열려 있는 건 공유되고 있다고 믿게 만들기 위해 연출된 프레임일 뿐이다.

여성경제신문 이상헌 기자 
liberty@seoulmedia.co.kr