‘사피엔스’로 인류 진화를 조망했던 유발 하라리가 인공지능(AI) 앞에서 방향을 잃었다. 도구로만 여겨졌던 AI가 이제는 독립적 판단과 자기 설계를 수행하는 ‘자율적 에이전트’로 진화했으며 인간이 통제할 수 없는 새로운 시대가 도래했다는 것이다. 

하라리는 “지구상에 처음으로 진정한 인류의 경쟁자가 등장했다”며 기존 통제 프레임의 무력함을 인정했다. AI를 수단이 아닌 주체로 간주한 그의 이번 발언은 통제 메커니즘을 통한 정렬이 가능하다는 실리콘밸리의 낙관론과 결별을 선언한 셈이다.

2일 빅테크 업계에 따르면 하라리는 지난 6월 말 영국 런던에서 열린 월스트리트저널 CEO협의회 연설에서 AI는 더 이상 단순한 도구가 아니라 독립적 판단과 자기설계를 수행하는 존재라면서 기존의 통제 프레임으로는 감당할 수 없는 시대가 왔음을 인정했다.

지난 2022년 그는 사피엔스 출판 10주년을 맞아 서문을 새롭게 추가했는데 이를 'GPT-3'로 작성하며 처음 AI에 대한 관심을 드러낸 바 있다. 당시에는 "AI가 쓴 글을 읽는 동안 충격으로 입을 다물지 못했다"라고 털어 놓기도 했다. 이어 일론 머스크 등 학자와 전문가 1000명이 서명한 AI 개발 6개월 잠정 중단 성명에 참여했고 요슈아 벤지오 등 학자 24명과 "AI 연구비 중 3분의 1은 안전·윤리 연구에 사용해야 한다"라는 내용의 논문 작성에도 가담했다.

지금까지 이 같은 행적을 보이며 AI 통제 필요성을 강조해온 유발 하라리는 이번 연설에서 AI 기업과 연구자들이 반복해온 입출력 조작에 따른 정렬(alignment) 개념 자체가 성립 불가능하다고 인정했다. 특히 “AI는 스스로 학습하고 변할 수 있다”고 언급하며 인간이 기대하는 방향으로 AI가 통제될 것이라는 전제가 성립하지 않는다고 강조했다.

하라리의 이런 입장 변화는 지금까지 ‘윤리적 기준’을 강조해온 서구 지식권의 주장과 뚜렷하게 결을 달리한다. 특히 정렬 개념을 윤리통제의 도구로 왜곡해온 WSJ(월스트리트저널) 주최 행사에서의 발언이었다는 점에서 의미가 크다. 제프리 힌튼 토론토대 교수 등이 우려해 온 ‘새끼 호랑이’ 탄생을 막을 수 없다고 사실상 자인한 것이다.

하라리는 AI를 이민자에 비유하며 “비자도, 국경도 없이 빛의 속도로 들어왔다”는 표현을 사용했다. 이는 인간이 개입하거나 통제할 시간조차 없이 초지능이 현실에 침투했다는 의미로 ‘사후 정렬 불가능성’을 인정한 셈이다. 이어 그는 “아이들은 말이 아니라 행동을 따라 한다”고 덧붙였는데 이는 인간이 설정한 지침이 오히려 AI의 오작동과 환각의 원인이라는 점도 시사했다.

다만 하라리는 연설 말미에서 "역사적 결정론이나 기술적 결정론을 믿지 않는다"면서 동일한 기술이라도 사회의 선택에 따라 전혀 다른 결과를 낳을 수 있다고 주장했다. 20세기 초 동일한 기술이 자유민주주의와 전체주의 모두에 활용됐다는 사례를 들며 기술은 그 자체로 선악이 결정되지 않는 중립적 수단임을 강조했다.

또한 현재의 논의가 챗GPT나 제미나이 같은 첨단 모델의 AGI(범용 인공지능)에 도달 가능성에 집중돼 있지만 실제로 더 중요한 문제는 이미 수백만 더 나아가 수십억 개에 이를 AI 에이전트들이 현실 속에서 사람들과 상호작용하게 될 상황이라고 지적했다. 결국 통제 불가능성을 인정하면서도 정렬의 핵심 개념인 ‘자기 인식 피드백 루프 메커니즘’을 이해하지 못한 채 통찰이 한계에 직면했다는 평가도 나온다.

여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr