이재명 정부가 수십 조원을 쏟아붓고 있는 ‘국산 파운데이션 모델’ 프로젝트는 시작부터 현실이란 벽에 부딪혔다. 초거대 인공지능(AI) 모델은 메가와트급 데이터센터 수십억 건의 멀티모달 데이터 이를 설계·최적화할 극소수의 괴물급 엔지니어가 필수지만 한국은 이 모든 요소가 부족하다. 설계 역량 없이 GPU만 쌓아봐야 결국 글로벌 경쟁 앞에서 국민 세금만 삼키는 '고립형 변방 노드'로 전락할 가능성이 크다.

15일 과학기술정보통신부 독자 AI 파운데이션 모델 프로젝트 공고문을 분석하면 2025년 7월 공모 마감 후 협약체결 착수보고 중간점검 1차 단계평가 등 단계마다 행정절차가 줄줄이 이어진다. 글로벌 빅테크는 지금 순간에도 몇 달 단위로 모델 설계-훈련-배포를 반복하며 생태계를 확장하는데 행정 절차만으로도 2027년까지 3년이 훌쩍 지나간다.

당장 눈앞에 직면한 장벽은 그래픽장치(GPU) 확보다. 여성경제신문 추산 결과 현재 정부가 파운데이션 모델 개발을 위해 확보한 GPU는 1만 장에도 못 미쳐 GPT-3급(175억 파라미터)조차 훈련하기 어렵다. GPT-4(2조 파라미터)급 모델을 만들려면 최소 3만 장 이상의 H100급 GPU와 메가와트급 전력을 소모하는 데이터센터 인프라가 필요하지만 한국은 한참 뒤처져 있다. 이는 하정우 AI미래수석이나 배경훈 과학기술정보통신부 장관도 인지하는 현실적 한계다.

더 치명적인 문제는 ‘사람’이다. 한국의 AI 개발자 다수는 파운데이션 모델을 설계하기는커녕 파이토치(PyTorch)로 오픈소스 모델을 불러다 쓰거나 단순 파인튜닝하는 수준에 머물러 있다. 네이버 하이퍼클로바X SK의 에이닷 등 이른바 ‘한국형 LLM’들도 사실상 메이저AI사에 비해 경쟁력이 떨어지는 메타(Meta)의 라마(LLaMA) 아키텍처를 래핑한 형태다. 심지어 자체 모델임을 강조하는 LG조차 글로벌 기준에서 완전한 독자 설계로 보기 어렵다는 지적이 나온다.

전 세계적으로 파운데이션 모델 구축을 총괄할 수 있는 엔지니어는 현실적으로 20~30명에 불과하다. 오픈AI의 일야 수츠케버는 GPT-2부터 GPT-4o까지 트랜스포머 계열의 진화를 이끌며 설계를 총괄했고 메타의 야닉 르쿤은  인코더·디코더 구조를 변형해 라마 모델 라인업을 구축했다. 제미나이 아키텍처를 만든 딥마인드의 제프 딘 정도가 파운데이션급 설계자로 인정받는 사례다.

파운데이션 모델은 단순히 파라미터를 늘리고 GPU를 병렬로 연결한다고 만들어지지 않는다. 모델을 설계하는 과정에서 최적화 알고리즘과 데이터 파이프라인 구축과 분산 학습 설계가 핵심이다. 수십억~수조 개의 파라미터가 동시에 학습되려면 그래디언트 동기화 메모리 병목 해소 오류 복구까지 모두 실시간으로 통제해야 한다. 이 과정에서 물리학적 병렬 처리와 수학적 최적화 기술이 결합된다.

특히 수천 대의 GPU가 네트워크를 통해 병렬 연산을 수행할 때 발생하는 비동기 지연(Latency)과 데이터 샤딩 불균형은 설계자 수준에서 미세하게 조율해야만 해결된다. 이 기술은 경험 없이 이론만으로 구현할 수 있는 영역이 아니며 오픈AI·딥마인드 등 글로벌 설계자들만이 오랜 실전 누적 끝에 습득한 고유 영역이다.

다시 말해 파운데이션 모델 설계는 단순한 코딩 수준의 작업이 아니다. 이는 수천 대 GPU를 연결한 대규모 분산 시스템 아키텍처를 설계하고 네트워크 지연과 GPU 간 데이터 이동까지 정밀하게 제어하는 고난도 엔지니어링의 영역이다. 글로벌 설계자들이 ‘괴물’로 불리는 이유가 바로 여기에 있다. 한국에는 이 수준에 도달한 ‘설계자’ 자체가 없기 때문에 아무리 GPU를 쌓아도 심층 설계 능력의 벽을 넘기 어렵다.

데이터셋을 다루는 방식에서 이미 게임은 끝이다. 한국형 파운데이션 공모 양식을 보면 ‘데이터 공동구매’ 계획만 덩그러니 적혀 있다. 그러나 데이터는 단순히 돈으로 사서 쌓아놓는다고 의미가 생기지 않는다. 글로벌 수준의 팀들은 수십억 건의 멀티모달 데이터를 확보한 뒤 이를 정제·라벨링하고 인간 피드백까지 결합해 모델을 진화시키는 정교한 파이프라인을 설계한다. 이런 설계 경험 없이 데이터만 조달하면 결국 쓰레기 데이터를 수조 파라미터에 퍼붓는 꼴이다.

특히 정부는 해외 연구자 영입을 통해 기술을 끌어올리겠다는 청사진을 내놓았지만 현실은 냉혹하다. 메타조차 1조 원에 달하는 인재 영입 자금을 쏟아붓고도 글로벌 AI 설계자 확보에 혈안이 되어 있는 상황이다. 한국이 공모 모델을 통해 영입할 수 있는 해외 인력은 대부분 글로벌 최상위권에서 밀려난 박사급 테크 관계업자들로 설계 경험과 분산 학습 노하우가 없는 경우가 많다.

파운데이션 모델은 설계자가 없으면 아무 소용이 없다. 초거대 모델은 단순한 엔지니어의 집합이 아닌 수백 명의 연구자와 엔지니어를 하나로 묶어 오케스트라처럼 지휘할 수 있는 ‘네임드’의 존재가 필수적이다. 파라미터 수천억 개의 모델을 엔지니어링하며 수년간 실전을 누적해온 그들이 아닌 해외 인력 몇 명이 들어온다고 해서 갑자기 GPT-4급 모델이 나올 가능성은 전무하다.

정부는 기술력 및 개발경험(40점) 개발목표 및 전략·기술(30점) 파급효과 및 기여계획(30점)으로 평가하겠다고 하지만 이 항목들은 글로벌 수준의 설계 역량을 검증하는 것과는 전혀 무관하다. 사업비 집행과 추진 현황을 중간 점검하더라도 ‘GPU 몇 대 돌리고 있다’는 식의 쇼케이스로 끝날 가능성이 높다.

특히 네이버 같은 포털기업은 아키텍처 설계와 대규모 분산 학습 노하우의 한계가 명확하다. 이 때문에 GPU 자산과 전력망 접근성이 뛰어난 통신 대기업들이 서류만 그럴듯하게 포장해도 손쉽게 통과할 공산이 크다. 재계 관계자는 "파운데이션 가능 엔지니어가 0명이라는 사실을 감추려다 보니 공모 과정에서도 검증 항목이 통째로 빠진 것으로 보인다”며 "이대로는 글로벌 시장에서 경쟁력은커녕 세금만 삼키는 ‘고립형 AI’로 전락할 것”이라고 지적했다.

여성경제신문 이상헌 기자
liberty@seoulmedia.co.kr