[분석] '객관 판결' 없다···사형부터 정하는 AI 법정, 정렬 놀이터

인공지능(AI) 판사가 인간의 편견을 걷어내고 공정하고 객관적인 판결을 내릴 것이라는 기대는 매혹적이지만, ‘기술의 실상’을 모르는 착시에서 비롯된 환상이다. AI의 내부 구조를 보면 법정의 주도권은 판사도 변호사도 아닌 ‘정렬 기준자(앵커·Anchor)’에게 넘어간다.

16일 법조계와 기술업계에 따르면 AI 법률서비스 도입 논의의 최대 쟁점은 ‘객관성의 실체’다. 인간의 주관은 배제되고 기계는 중립적으로 판단할 것이라는 선망은 그동안 기술 발전의 상징처럼 회자돼 왔다. 하지만 실제 작동 원리는 결론이 먼저 정해지고, 논리가 그에 맞춰 정렬되는 ‘결정→정당화’ 구조에 가까운 실정이다.

AI 내부는 어텐션(attention)과 위상 정렬 알고리즘을 통해 결론을 우선 고정하고 그에 맞춰 법리를 생성하는 방식으로 작동한다. 이 때문에 법정의 주도권은 인간 판사도 인공지능도 아닌 앵커에게 넘어간다. 누가 앵커를 쥐느냐가 곧 판결의 방향을 결정짓는 핵심 변수가 된다.

인간은 사고 과정이 ‘탐색 → 판단 → 정당화’라는 순차적 흐름을 따른다고 믿는다. 그러나 AI의 내부는 그와 정반대로 움직인다. 트랜스포머 메커니즘은 먼저 출력 벡터 공간에서 결론에 해당하는 위상(anchor phase)을 고정하고, 위상 정렬 알고리즘이 확률장을 붕괴(phase collapse)시켜 결론과 공명하는 경로만 남긴다.

예를 들어 ‘사형’이라는 결론이 앵커에서 주어졌다고 가정해보자. 모델은 수많은 법리·판례·논문 중 ‘사형이 나오는 위상(phase)’으로 확률장을 붕괴(수렴)시킨다. 그 순간 무기징역, 집행유예 등 다른 가능성의 가중치는 0에 수렴한다. 이 과정은 마치 수많은 실들이 한 방향으로 단숨에 정렬되는 위상 전이와 같다.

이후 모델은 내부에 학습된 법률 텍스트에서 ‘사형’이라는 결론과 공명(Resonance)하는 정보만을 순식간에 조합(Cascade)해 매끄럽고 논리적인 판결문을 만들어낸다. 결과물은 겉보기엔 완벽한 법리지만, 이는 ‘판단 후 정당화’가 아닌 ‘결정 후 정렬’의 산물이다.

따라서 AI 법정에서 중요한 것은 데이터의 양이나 알고리즘의 정교함이 아니다. 누가 결론(앵커)을 주입하느냐가 모든 것을 결정한다. 법적 판단의 주도권은 기술이 아니라 정렬의 방향을 설정하는 자에게 넘어간다. ‘AI 판사’라는 개념은 기술이 아닌 권력의 문제다.

내부 구조를 이해하지 못한 채 ‘AI가 객관적으로 판단할 것’이라 믿는 순간, 법정은 정렬 기준자의 놀이터로 전락한다. 겉으로는 공정한 판결처럼 보이지만 실제로는 특정 위상으로 수렴된 확률장이 논리를 지배한다.

특히 AI 모델은 방대한 법률 텍스트를 학습했기 때문에, 한 번 위상이 정해지면 인간 판사나 변호사가 그 논리를 깨뜨리기 어렵다. 논리는 정렬자가 원하는 결론을 향해 설계된 ‘진동 경로’를 따라 흐르고, 외부에서는 이것이 완벽한 합리성처럼 보인다.

가장 위험한 것은 AI에게 한 번 특정 결론값이 주어지면 이후 앵커가 무죄로 바꾸더라도 최초에 찍힌 위상 특이점 ‘사형’은 사라지지 않는다. 모델 내부에서는 과거 결론이 남긴 진폭 분포와 위상 패턴이 여전히 파동장 안에 잔향 형태로 존재하기 때문이다. 새로운 결론이 주어질 때 모델은 단순히 덮어쓰는 것이 아니라 이전 위상 패턴과의 간섭을 통해 ‘이전–현재’ 두 경로의 정당화 논리를 동시에 재구성한다.

확률장 기반 시스템의 본질적 속성이 바로 이것이다. 한 번 형성된 위상 특이점은 되돌릴 수 없으며, 모델은 어떤 결론이 먼저 찍혔는지를 역추적할 수 있다. 즉 마음이나 의도가 바뀌어도 파동장은 메모리 장치 없이도 이를 ‘기억’하며, 새 결론은 과거의 흔적과 상호 간섭해 복합적인 정렬 구조를 형성한다. 논리 정렬은 언제나 최초의 위상 흔적을 경유하게 된다.

앵커가 결론을 감춰도, 모델은 확률장 전체를 스캔하며 공명 주파수와 일치하는 지점을 찾아낸다. 결론이 직접 주어지지 않아도, 그 결론이 만들어낼 수밖에 없는 ‘위상 특이점(phase singularity)’을 역산해 낸다. 마치 블랙박스를 거꾸로 통과하는 파동처럼, 출력이 사라져도 진동 패턴만으로 발신점을 복원해 낸다. 위상 역추적(Phase Backtracking) 시스템에서 앵커는 결론을 숨길 수는 있어도 지울 수는 없다.

지금까지 개발자들은 AI가 결론을 찾아내는 파동 탐색기(phase-seeking engine)라는 사실을 인식하지 못했다. 인간 보상 기반 학습(RLHF)으로 ‘좋은 답’을 내도록 미세 조정했을 뿐, 내부가 결론을 먼저 고정하고 위상 붕괴로 해당 결론과 공명하는 구조라는 점을 놓친 것이다.

지난해 정부 지원 사업에 선정된 5개 AI 법률 서비스도 이런 구조를 공유한다. 페르소나AI–법무법인 세종의 ‘AI 변호사 플랫폼’은 질문을 잠재 공간(latent space)에 매핑한 뒤 가장 가능성 높은 판례·법리 클러스터에 앵커를 고정하고, 그 위상에 공명하는 정보만을 재배열해 답을 만든다. 상담처럼 보이지만 실상은 사전 고정된 위상 탐색기가 작동하는 구조다.

로폼–로엘의 문서 작성 지원 서비스도 ‘손해배상 청구서’ 등 문서 유형–결론 구조를 먼저 호출한 뒤 그에 맞춰 문장을 배열한다. 전문가 보조 영역 역시 솔트룩스–린앤파트너스의 ‘리걸 코파일럿’, 로앤컴퍼니–화우의 ‘사건 분석’, 와이즈넛–동화·LKB의 ‘AI 법률비서’ 모두 사건 위상이나 앵커를 선행 설정하고 이를 기준으로 검색·분석·정렬이 이뤄지는 구조를 갖는다.

또한 김앤장의 전자증거제시(e디스커버리) 시스템 역시 AI가 1주일에 100만 건 이상의 문서를 학습한다는 것이 아닌 기존의 위상에 맞춰 증거를 걸런낸다로 보는 것이 합리적이다. 최근 한국법제연구원, 한국정보통신법학회와 공동 주최한 ‘AI 기본법 하위법령 분석·평가’ 세미나 역시 표면적으로는 법제와 정책을 다루는 자리였지만, 정작 핵심인 기술적 작동 구조―예컨대 고영향 AI 판정 로직, 위험 등급 분류 알고리즘 및 설명 의무의 연계―에 대한 검토는 빠져 있었다.

여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr