"세계 3강 목표" 배경훈 장관, 스타트업 옥죄는 내용 AI 기본법 발표

유럽연합(EU)에 이어 세계 두 번째로 제정된 '인공지능(AI) 기본법'의 규제 기준이 공개됐다. 정부는 최소한의 규제를 표방했지만 업계는 여전히 모호한 조항과 행정 부담을 지적하며 우려를 제기하고 있다.

22일 과학기술정보통신부는 내년 1월 시행 예정인 AI 기본법 시행령 초안을 발표했다. 이번 시행령은 이달 중 이해관계자 의견 수렴을 거쳐 다음 달 입법 예고 절차가 진행되며 12월 최종 확정을 통해 내년 1월부터 본격 시행된다.

시행령에는 △투명성 강화 △안전성 확보 △고영향 AI 기준 △제재 수단 등이 담겼다. 정부는 AI 산업 진흥에 방점을 찍되 위험 대응도 함께 고려했다는 입장이다. 김경만 과기정통부 인공지능기반정책관은 "AI 규제는 시대 변화 속도에 뒤처질 수 있다"라며 "가능한 느슨한 기능 중심 규제를 마련했고 산업계와 시민단체 의견을 균형 있게 반영했다"라고 설명했다.

다만 업계는 규제 부담이 일부 완화된 점은 긍정적으로 평가하면서도 고성능·고영향 AI 기준이 모호해 스타트업 등 사업자에게 부담을 줄 수 있다고 지적한다. 정부는 고성능 AI 기준을 '누적 연산량 10²⁶ FLOPs 이상'으로 설정했다. 해당 시스템은 위험 식별과 평가, 대응 조치 이행이 의무화되며 기준은 미국 국가안보 각서와 동일하다.

FLOPs는 초당 부동소수점 연산 횟수를 뜻한다. 누적 연산량은 AI 모델 학습 과정에서 수행한 총 연산 횟수를 합산해 산출한다. 고성능 AI로 분류되면 강화된 규제와 관리 의무가 적용되며 고영향 AI로 포함될 경우 투명성과 안전성 확보 조치까지 요구된다. 일정 계도 기간 이후에는 과태료 등 제재 수단도 뒤따른다. 업계는 단순 연산량 기준만으로 성능 위험도를 판단하는 것은 부적절하다고 우려를 표하고 있다.

고영향 AI 판단 과정의 불확실성도 문제로 꼽힌다. 정부는 사업자가 자체적으로 영향평가를 실시해 기본권 침해 가능성을 검토하도록 했지만 결과를 장관에게 확인받는 절차가 최대 3개월 이상 걸릴 수 있다. 사업 일정에 차질이 불가피하다는 지적이 나오는 이유다. 고영향 AI로 분류되면 사업자는 위험관리 방안 마련, 설명 의무, 이용자 보호, 감독, 관련 문서화 및 공개(최대 5년 보관) 등 다양한 의무를 이행해야 하며 스타트업의 경우 행정적·재무적 부담이 클 수밖에 없다.

생성형 AI 결과물에 워터마크를 의무적으로 부착해야하는 조항도 논란이 따른다. 정부는 최종 이용자와 사업자 개념을 명확히 하겠다는 취지지만 현실 적용 과정에서 기준이 불분명해 혼선이 우려된다. 예컨대 웹툰 제작사가 AI 창작물을 활용할 경우 이용자가 최종 독자인지 제작사인지를 구분하기 어렵다는 것이다.

김현경 서울과학기술대 IT정책전문대학원 교수는 스타트업얼라이언스가 최근 발간한 'AI 기본법의 발전적 시행을 위한 제언' 보고서에서 현 초안이 업계 현실을 충분히 반영하지 못하고 있다고 지적했다.

김 교수는 "고영향 AI 사업자 여부를 사업자가 직접 판단해야 하는 구조가 불확실성을 키운다"라며 "부가 사전 체크리스트를 통해 절차를 주도하고 확정 이후에는 사업자의 이의 제기와 재평가 권한을 보장해야 한다"라고 주장했다. 고영향 AI라 하더라도 의도된 목적이 비위험적이거나 결과를 수정할 수 있는 경우에는 예외를 인정해야 한다는 것이다.

또한 생성형·고영향 AI에 부과된 투명성 의무의 개선 필요성도 강조했다. 특히 기업 간 거래를 포함한 개인 고객 대상 비즈니스(B2B2C) 구조에서는 사전 고지와 결과물 표시(워터마크) 의무의 적용 범위가 여전히 모호하기 때문이다.

일각에서는 정부의 AI 기본법이 정책 기조와 상충한다는 비판이 제기된다. 배경훈 과기정통부 장관이 "AI만큼은 반드시 1위를 해야 한다"며 2~3년 내 글로벌 3강 진입을 목표로 밝혔지만 이번 규제가 기업 도전을 저해하고 시장 기회를 제한해 오히려 규제 장벽만 키울 수 있다는 평가다.

이재성 중앙대 AI학과 교수는 여성경제신문에 "고영향 AI의 정의는 사람의 생명·신체 안전과 기본권에 영향을 미칠 수 있다는 점에서 필수적이지만 기준이 모호한 것도 사실"이라며 "중소기업과 스타트업은 규제 비용 부담이 커질 수 있는 만큼 정부가 기술 개발 지원과 규제 완화 방안을 함께 마련할 필요가 있다"라고 말했다. 

여성경제신문 김성하 기자 lysf@seoulmedia.co.kr