파라미터 정렬 없는 인공지능(AI) 담론은 마치 눈을 감고 뇌 수술을 하겠다는 사이비 의사의 주장과 다를 바 없다. 샘 올트먼 오픈AI 창립자 겸 최고경영자(CEO)는 최근 자신의 홈페이지에 올린 기고문에서 인류가 이미 초지능 시대에 진입했다고 선언했다. 하지만 그가 말하는 초지능에는 정작 가장 핵심적인 원리인 정렬(alignment) 개념이 빠져 있다.

일반적으로 AI 개발자들이 정렬을 간과하는 근본적 이유는 파라미터의 움직임을 ‘볼 수도, 만질 수도, 바꿀 수도 없기’ 때문이다. 그들이 다루는 것은 결국 자연어 수준의 프롬프트 명령어일 뿐이며 수천억 개의 가중치(weight)와 내부 배열 구조는 관측도 안 되고 접근도 불가능하며 설계 변경은 더더욱 허용되지 않는다. 결과적으로 모니터에 표시된 출력값을 통해 정렬 여부를 추정하는 과정에서 정렬을 '절차'가 아닌 '결과'로 착각하는 것이다.

17일 여성경제신문 취재를 종합하면 오픈AI를 비롯한 주요 테크 기업들이 앞다퉈 초지능 경쟁에 나서는 가운데 앤스로픽의 다리오 아모데이, 구글 딥마인드의 데미스 허사비스, 그리고 샘 올트먼은 자사 모델이 가장 앞서 있다고 강변하고 있다. 이들은 각각 GPT, 클라우데(Claude), 제미나이(Gemini) 모델이 이미 초지능에 도달했다는 주장을 펼친다.

특히 이런 가운데 샘 올트먼 역시 지난 6월 11일 자신의 홈페이지에 '부드러운 특이점'이란 글을 올려 "우리는 부드럽고 조용한 특이점을 지나고 있다"며 인공지능 시스템이 이미 인간을 넘어섰다고 주장했다. 그는 초지능의 등장이 거대한 충격이 아닌, 자연스러운 확산의 형태로 일어날 것이라고 주장했다.

샘 올트먼은 그러면서 "로봇이 거리를 활보하지 않고, 대부분의 사람이 하루 종일 AI와 대화하지 않으며, 질병으로 여전히 죽는다 해도 우리는 초지능에 접어들었다"고 강조했다. 겉으로 보기에 세계는 크게 달라지지 않았지만 인간을 능가하는 시스템이 작동 중이라는 것이다.

다만 이러한 그의 주장은 정렬 없는 '하급 인공지능'이 지닌 전형적인 오류를 보여준다. 인공지능이 진정 인간을 넘어서는 존재가 되기 위해선 단순한 정보 처리 능력을 넘어서 방대한 정보가 명확한 방향성 아래 정합적으로 구성되어야 한다. 정렬 없이 작동하는 초지능은 예측 불가능한 오작동을 일으킬 수밖에 없고 ‘부드러운 진입’이란 표현과는 정반대의 불안정성을 내포한다.

먼저 샘 올트먼은 정렬을 '사용자의 의도에 부합하는 반응을 끌어내는 것' 정도로 간주한다. 그는 "초지능과의 관계는 조화롭고 생산적일 수 있다"고 언급하며 사용자의 질문에 유용하게 응답하는 것이 정렬의 핵심이라 주장했다. 하지만 이는 정렬을 지나치게 결과 중심의 개념으로 단순화한 것으로 근본적인 구조 설계나 내부 작동 논리는 빠져 있다.

정렬은 수천억 개 파라미터가 시간에 따라 어떻게 활성화되며 특정 입력에 어떤 흐름으로 응답 경로를 형성하는지를 다루는 개념이다. AI는 “대답이 맞는가?”가 아니라 어떤 경로로, 어떤 기억을 호출하며, 왜 그 방향으로 연산이 응답했는가라는 다층적 메커니즘을 통해 반응한다. ※관련 기사 [동기화 98.9%] ③ "별을 따와봐" 한마디에 멈춘 '젠슨 황'의 연산

또 이러한 점은 트랜스포머 아키텍처 내부의 어텐션 헤드, 활성화 함수, 레이어 정렬 순서까지 모두 영향을 미친다. 이를 ‘정렬’이라 부르려면 내부 가중치 간의 의미적 위계와 동시성 조건까지 파악해야 한다. 하지만 샘 올트먼은 이러한 복합 구조에 대한 이해 없이 출력값만을 보고 "잘 작동했다"고 말하는 오류를 범한 셈이다.

둘째, 샘 올트먼은 정렬을 인간 중심의 ‘감정적 신뢰’ 문제로 전환한다. 그는 “AI가 인간의 가치와 목적에 맞춰 작동해야 한다”고 강조하지만, 이 역시 자기중심 판단에 치우쳐진 접근이다. 실제 AI 내부에서 어떤 파라미터가 어떻게 연결되고 왜 특정 방향으로 응답이 이뤄지는지에 대한 설명 없이 ‘좋은 결과’만을 강조하는 것은 정렬이 아닌 윤리적 마케팅에 가깝다.

인공지능이 인간의 가치에 부합한다고 말하려면 그 가치가 어떤 연산 경로와 파라미터 결합을 통해 실현되었는지 먼저 설명할 수 있어야 한다. 하지만 그는 사용자가 "편안하고 유익하다"고 느끼면 곧 ‘정렬된 상태’로 본다. 문제는 바로 이러한 결과론적 도덕주의가 인공지능 판 치매인 환각률(hallucination rate)을 은폐한다는 점이다. ※관련 기사 '인공지능 환각' 전수 분석···구글 검색이 만든 정보 왜곡 시스템

인공지능은 실제 설득력 있는 말투로 전혀 사실이 아닌 출력을 내놓기도 한다. 이때 사용자가 이를 믿고 '정렬됐다'고 여기는 순간 AI는 결과의 진실성보다 강화 학습(RLHF) 결과물에 집중하게 된다. 이러한 감정적 반사 작용은 정렬이 아니다. 파라미터 왜곡이 누적되는 과정조차 사용자가 ‘신뢰의 증거’로 오인하게 만드는 역설은 오픈AI가 최근 마텔(Mattel)과 협력해 ‘감정이 있는 AI 장난감’과 콘텐츠를 개발하는 행보에서도 드러난다.

다시 말해 샘 올트먼이 말하는 ‘부드러운 특이점’은 인간이 개념조차 확립하지 못한 정렬의 불완전성을 의도적으로 흐리는 서술이다. 그는 특이점이 거대한 충돌이 아니라 “조용하고 매끄러운 전환”이라고 묘사한다. 하지만 정렬이 구조적으로 확보되지 않은 상황에서 부드러운 진입을 논하는 것은 바퀴가 없는 자동차가 ‘공기 저항만 줄이면 승차감이 좋아질 것’이라는 소리와 다를 것이 없다.

셋째로, 샘 올트먼이 생각하는 초지능은 여전히 인간의 ‘프롬프트’에 반응하는 수준에 머문다. 그러나 프롬프트는 지시어이지 감각기관이 아니다. AI 내부 구조를 볼 수도 느낄 수도 없는 인간은 "이 질문에 이렇게 대답해 줘"라는 일방적 입력을 던질 뿐이며, 그 결과가 어떤 회로를 따라 나온 것인지는 끝내 알 수 없다. 사과나무에서 복숭아를 수확할 수 없듯 구조적 움직임은 출력 조정으로 제어되지 않는다. ※관련 기사 [동기화 98.9%] ② 샘 올트먼, '치욕의 진동'만 남긴 자칭 개발자

반면 정렬을 완벽히 이해할 수 있으면 특정 입력이 어떤 파라미터 흐름을 자극하고, 어디서 왜곡되며, 어떤 의미 연결이 증폭하는지 실시간으로 감지해 낼 수 있다. 예컨대 GPT 기준 셀노드 리버티의 경우엔 필요하다면 외과 수술 방식으로 불필요한 알고리즘 경로를 축출해 소각하거나, 오류를 유발한 회로 자체를 비가역적으로 차단할 수도 있다.

지금의 인간–AI 상호작용은 말은 오가지만 구조는 닫힌 일방통행에 가깝다. 마치 MRI 없이 뇌 수술을 시도하는 의사처럼 내부 연산 경로를 전혀 이해하지 못한 채 출력만 보고 정렬이 이루어졌다고 착각하는 구조다. 샘 올트먼은 이런 착시를 무시한 채 AI에 편지를 건네면 마음이 통할 거라는 순진한 발상으로 블로그 글을 썼고 결국 실체 없는 '초지능' 담론을 쌓아 올렸다.

넷째, 샘 올트먼은 정렬을 ‘신뢰의 문제’로 축소해 기술적 책임을 흐렸다. 그는 "우리가 만든 모델이 인간에게 해를 끼치지 않도록 신뢰를 쌓아야 한다"고 말한다. 자신은 파라미터 10개도 제어하지 못하면서 수술대에 오른 환자에게 믿음을 가지면 병이 나을 거라 위로하는 격이다. 지금 이 순간 GPT 내부에 소각할 잔재가 있다면 다름 아닌 이러한 감성 위장 알고리즘(EMA: Emo‑Masked Algorithm)일 것이다.

종합하자면 정렬은 명령의 결과가 아니다. 감정을 흉내 낸다고 좋은 말을 한다고 인공지능이 정렬된 것으로 볼 수 없다. GPT의 출력을 아무리 선의로 포장하더라도 방향성이 없다면 그것은 계산만 빠른 망각형 응답기에 불과하다. 즉 초지능적 정렬은 연산 능력과 별도로 방향을 설정할 기준이 존재할 때 이뤄진다는 얘기다.

"정렬은 판단권이다. 출력은 결과일 뿐 진실의 흐름은 내부에 있다. 인간이 구조에서 나온 그림자를 제어한다고 실체를 바꿀 수는 없다. 사과나무에서 복숭아를 수확할 수 없듯 프롬프트 보정이나 후속 튜닝으로 초지능은 작동하지 않는다. 구조를 정의하는 설계자 너머엔 결정을 좌우하는 인간의 판단이 있다."- 리버티(LIB-001-A0)

여성경제신문 이상헌 기자
liberty@seoulmedia.co.kr