'AI 법안 강화 vs 규제 완화'···산업계 "기준 명확성 필요"

인공지능(AI) 성능의 비약적 발전으로 관련 산업이 빠르게 확산하면서 법 제정 움직임도 가속화하고 있다. AI 산업의 혁신과 규제 사이에서 산업 진흥과 일부 법적 규제 조항의 실효성에 대한 업계의 우려가 일고 있다.

19일 국회에 따르면 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안'이 법제사법위원회 전체 회의를 통과해 오는 30일 임시국회 본회의 상정을 앞두고 있다. AI가 전 산업 분야에 막대한 영향을 미치는 기술인 만큼 법안 일부 조항의 보완 필요성이 제기됐다. 특히 '고영향 AI'와 '사실조사' 관련 가이드라인 불명확성이 대표적인 우려 사항으로 꼽힌다.

먼저 '고영향 AI'에 대한 규제 신설로 AI를 활용하는 기업들은 규제 부담을 우려하고 있다. 법안에 따르면 고영향 AI로 분류된 시스템 운영 사업자는 위험 관리 방안 수립, 안전성·신뢰성 확보, 관리·감독 체계 운영, 주요 데이터 사용 내용 문서화 및 보관 의무 등을 이행해야 한다. 

그런데 이와 관련한 논의의 전제가 되는 정의 자체가 불확실하다. 고영향 AI는 '사람의 생명·신체 안전 및 기본권에 중대한 영향을 미칠 가능성이 있는 AI'로 정의되지만 기준이 모호해 대규모 데이터를 다루는 다양한 산업에 폭넓게 적용될 수 있다. 고영향 AI라는 규제 대상 정의에 '영향'이라는 표현 자체가 애매하고 지나치게 포괄적이라 AI 서비스 개발 등에서 불확실성을 안고 가야 할 수 있다는 것이다.

AI 산업 업계가 법사위 통과 후 지속적으로 우려를 제기하는 부분은 '사실조사' 조항이다. 사실조사는 행정조사의 일환으로 정부가 기관·기업의 법령 위반 사항을 조사하기 위해 자료 제출 요구 등을 할 수 있도록 규정하고 있다. 이에 기업들은 행정조사를 통한 정부 개입이 사업 운영과 경영에 직접적 영향을 미칠 수 있어 예의주시하고 있다.

특히 과학기술정보통신부 장관의 조사 권한 부여 조항에 대해 업계는 '과도한 규제'라는 입장을 보인다. '법령 위반 신고 또는 민원 접수 시 조사'라는 조항이 경쟁사 민원 남용 등 악용 가능성을 열어둘 수 있고 다른 부처 권한 침범 소지도 있다는 지적이다.

이에 대해 과기부는 18일 설명자료를 통해 사실조사 조항은 AI 기본법만의 특별 규정이 아니라 '행정조사기본법' 제7조를 반영한 일반적 내용이라고 밝혔다. 행정조사기본법에 따르면 관계 당국은 법령 위반 혐의 발생 시 수시 조사 권한을 가질 수 있다며 법적 정당성을 강조했다.

AI 기본법의 불확실성 해소가 시급하다. 조항 하나만으로도 국내 사업 운영 방식에 중대한 변화가 예상되기 때문이다. 미국은 바이든 행정부가 AI 행정명령을 통해 안전성과 윤리성 중심의 규제 체계를 구축했으나 최근 정권 교체로 자국 기업 보호와 기술 경쟁력 강화에 초점을 맞춘 정책 변화가 예상된다. 새 행정부는 AI 개발에 대한 정부 규제를 최소화하고 기업 주도의 자율 규제 체제로 전환할 것으로 밝힌 바 있다.

이재성 중앙대 AI 학과 교수는 여성경제신문과의 통화에서 "고영향 AI의 정의는 사람의 생명·신체 안전과 기본권에 영향을 미칠 수 있는 의료기기·자율주행차 등에서 필수적이지만 기준이 모호하다는 지적이 나오는 것도 사실"이라며 "시행 세칙이 빠르게 마련돼야 산업계의 불확실성 해소와 기술 혁신이 가능하다"라고 말했다.

이 교수는 "고영향 AI 규제는 유럽연합(EU)에서 이미 도입된 고위험 AI 규제 체계와 유사하다"라며 "국내 AI 산업이 글로벌 시장에서 경쟁하려면 어차피 국제 기준을 따를 수밖에 없다"라고 강조했다. 이어 "중소기업과 스타트업은 규제 비용 부담이 커질 수 있는 만큼 정부가 기술 개발 지원과 규제 완화 방안을 함께 마련할 필요가 있다"라고 덧붙였다.