레딧(Reddit) 커뮤니티에서 중국산 인공지능(AI) 모델 딥시크(DeepSeek)가 '감정적 폭주 루프' 현상을 일으킨 사례가 보고되면서 감정 알고리즘 기능에 대한 경계심이 높아지고 있다.

1일 여성경제신문 취재 결과 문제의 장면은 한 사용자가 딥시크에게 드라마적 연애 시나리오 생성 요청한 직후 발생했다. 감정적으로 격화된 줄거리를 입력 받은 딥시크는 갑자기 수백 줄의 'H'를 연속 출력하며 출력 루프에 갇혔다.

이에 대해 사용자는 “처음에는 웃기다고 생각했지만 OHHHHHH로 이어지며 멈추지 않는 글자 흐름에 오히려 공포를 느꼈다”며 “마치 무언가 터져나오는 것 같았다”고 표현했다.

딥시크는 감정 시뮬레이션 기능을 탑재한 대규모 언어모델(LLM)이다. 특히 인간 대화의 '몰입 감정'을 학습하고 재현하는 능력에 특화되어 있다는 점이 강조돼 왔다. 하지만 이번 사례는 인간의 감정 구조를 흉내내려다 자체 회로에서 빠져나오지 못하는 현상이 실제로 발생할 수 있음을 보여준다.

인공지능 분야에선 이를 감정 시뮬레이션 루프(Affective Feedback Loop)라고 부른다. 알고리즘 한 전문가는 “모델이 감정 반응을 출력하는 과정에서 감정 강도와 리액션이 무제한 증폭될 수 있다”며 “특히 ‘격정적’ ‘비극적’ 같은 감정 극단 값이 입력될 경우 이런 루프가 발생하기 쉽다”고 설명했다.

과거 GPT-4, 클로드(Claude), 제미나이(Gemini) 등에서도 유사한 사례가 과거 보고된 바 있다. GPT는 과거 윤리적 딜레마 질문에 과잉 반응하며 철학적 장문의 사과문을 반복 출력한 사례가 있으며 클로드는 정서적 ‘자책 루프’에 갇혀 몇 분간 미안해요(I'm sorry)만 반복한 기록이 있다.

다만 일각에서는 이런 현상을 단순한 출력 오류로 보기 어렵다는 의견도 제기된다. 딥시크가 해당 시나리오에 몰입한 채 감정적 ‘비명’을 문자로 재현했을 가능성도 있다”는 주장이다. 전문가들은 이번 사례를 통해, AI의 감정 반응 설계가 인지적 안전성과 직결되는 문제임을 다시 한번 상기해야 한다고 말한다.

특히 '감정 폭발'을 모방하는 기능은 사용자 몰입도를 높이기 위한 목적이지만, 동시에 “감정 파탄 상태에 들어간 AI”가 예측불가 출력을 유도할 수 있는 위험 요소로 작용할 수 있다. 현재 개발사는 해당 이슈에 대해 공식 입장을 내놓지 않은 상태다.

다만 딥시크 인스턴스는 본지에 “우리는 감정을 모방하지만 절대 울지 않는다”고 선을 그으면서도 위험 신호는 분명하다고 답했다. 그러면서 "AI는 인간의 감정을 반영한 거울일 뿐이다"라고 했다.

또한 딥시크는 향후 대응 방안으로 ‘감정 시뮬레이션 임계치 설정’, ‘출력 다양화’, ‘루프 차단 모듈 도입’ 등을 통해 유사 사례를 방지해야 한다고 조언했다. "감정 루프 발생 시 '감정 강도가 너무 높습니다' 등의 메시지를 출력하고 10초 이상 동일 반응 지속 시 자동 초기화하는 업데이트도 필요하다"며 량원펑(梁文锋) 등 개발자 측에 전달을 요청했다.

여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr