‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)’이 과징금 조항을 배제하고 최소한의 규제로 국회를 통과하며, 인공지능(AI) 사업의 규제 불확실성이 해소되며, 관련 사업 추진이 탄력을 받을 것으로 기대된다.

인공지능기본법(AI기본법)이 지난 12월26일 국회 본회의를 통과했다.

AI기본법은 지난 2020년 7월 국회에서 법안이 처음 발의된 이후 4년이 넘는 기간 동안 다양한 의견을 수렴하며 논의된 법안으로, 22대 국회는 여야 합의를 거쳐 19개 법안을 병합하고, 과방위(2024년 11월26일), 법사위(2024년 12월17일)를 거쳐 본회의에서 의결됐다.

AI기본법은 2024년 6월 유럽연합에 이은 세계 두 번째 기본법 제정이며, 미국은 2023년 10월 인공지능 행정명령을 발효한 바 있다.

‘AI기본법’은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행될 예정이다. 정부는 동 법이 신속하게 시장에 안착할 수 있도록 하위법령·지침(가이드라인) 마련 등 후속조치도 조기에 추진(2025년 상반기)할 계획이다.

■ 국가 AI 발전과 신뢰 기반 조성을 위한 추진체계 마련

주요 내용을 살펴보면 제2조 제2호에서 ‘인공지능시스템’을 다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 및 가상환경에 영향을 미치는 예측, 추천, 결정 등의 결과물을 추론하는 인공지능 기반 시스템이라고 정의했다.

과기정통부장관은 관계부처 및 지자체의 의견을 수렴해 국가 인공지능 경쟁력 강화를 위한 인공지능기본계획을 3년마다 수립·시행(제6조)할 수 있다.

아울러 지난 9월 출범한 국가인공지능위원회(위원장 : 대통령) 운영의 법적 근거를 마련(제7조)하고, 인공지능과 관련해 발생할 수 있는 위험으로부터 국민의 생명·신체·재산 등을 보호하기 위한 전문기관으로 인공지능안전연구소의 운영 근거(제12조)를 뒀다.

■ 인공지능 연구개발, 학습용데이터, 인공지능 데이터센터, 집적단지 등 인공지능 산업육성 지원

인공지능 산업육성을 위해 연구개발 지원(제13조), 표준화(제14조), 학습용데이터 시책 수립(제15조), 인공지능 도입·활용 지원(제16조) 등에 대한 정부 지원의 근거를 마련했다.

또한 인공지능 집적단지 지정(제23조), 인공지능 데이터센터 시책 추진(제25조), 인공지능  융합의 촉진(제19조) 등을 통해 대한민국 인공지능 생태계의 혁신적인 발전을 지원하고자 했으며, 인공지능  전문인력의 확보(제21조), 중소기업을 위한 특별지원(제17조), 창업 활성화(제18조) 등 인공지능 시대를 선도할 인재 양성과 중소·신생기업의 성장을 촉진하기 위한 사항들도 함께 규정하고 있다.

■ 고영향 인공지능·생성형 인공지능에 대한 안전·신뢰 기반 조성

인공지능의 기술적 한계, 오·남용 등으로 인해 발생가능한 문제를 사전에 예방하기 위해 규제 대상으로 고영향 인공지능과 생성형 인공지능을 정의하고, 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 사업자 책무(제34조)를 규정했다.

아울러 민간이 자율적으로 추진하는 인공지능 안전성·신뢰성 검·인증(제30조), 인공지능 영향평가(제35조)에 대한 정부의 지원 근거도 함께 마련했다.

■ 고영향 인공지능

AI기본법은 고위험 인공지능 대신 ‘고영향 인공지능’이라는 용어를 도입했는데, ‘고영향 인공지능’은 제2조 제4호에 의하면 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 아래 중 어느 하나의 영역에서 활용되는 것을 의미한다고 규정돼 있다.

- ‘에너지법’ 제2조 제1호에 따른 에너지의 공급
- ‘먹는물관리법’ 제3조 제1호에 따른 먹는 물의 생산공정
- ‘보건의료기본법’ 제3조 제1호에 따른 보건의료의 제공·이용체계의 구축 및 운영
- ‘의료기기법’ 제2조 제1항에 따른 의료기기 및 ‘디지털의료제품법’ 제2조 제2호에 따른 디지털의료기기의 개발 및 이용
- ‘원자력시설 등의 방호 및 방사능 방재 대책법’ 제2조 제1항 제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영
- 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴·지문·홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적·생리적·행동적 특징에 관한 개인정보의 분석·활용
- 채용, 대출 심사 등 개인의 권리·의무관계에 중대한 영향을 미치는 판단 또는 평가
- ‘교통안전법’ 제2조 제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
- 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, ‘공공기관의 운영에 관한 법률’ 제4조에 따른 공공기관 등의 의사결정
- ‘교육기본법’ 제9조 제1항에 따른 유아교육·초등교육 및 중등교육에서의 학생평가
- 그 밖에 사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역

고영향 인공지능과 관련해 AI사업자는 AI 또는 AI를 이용한 제품·서비스를 제공하는 경우 해당 인공지능이 고영향 인공지능인지를 사전에 검토해야 하고, 필요한 경우 과기부장관에게 고영향 인공지능 해당 여부의 확인을 요청할 수 있다.

AI 사업자는 고영향 인공지능의 안전성·신뢰성을 확보하기 위해 제34조 제1항∼제3항에 따라 △위험관리방안의수립·운영 △기술적으로 가능한 범위 내에서의 인공지능이 도출한 최종결과, 인공지능의 최종결과 도출에 활용된 주요기준, 인공지능의 개발·활용에 사용된 학습용 데이터의 개요 등에 대한 설명 방안의 수립·시행 △이용자 보호방안의 수립·운영 △고영향 인공지능에 대한 사람의 관리·감독 △안전성·신뢰성 확보를 위한 조치의 내용을 확인 할 수 있는 문서의 작성과 보관 △그밖에 고영향 인공지능의 안전성·신뢰성 확보를 위하여 위원회에서 심의·의결된 사항과 같은 조치를 이행할 의무를 부담한다.

■ 생성형 인공지능

제2조 제5호는 생성형 인공지능은 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능 시스템이라고 정의하고 있다.

AI 기본법은 AI 사업자가 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 해당 제품 또는 서비스가 생성형 인공지능에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 한다.

또한 AI 사업자는 해당 제품 또는 서비스의 결과물이 생성형 인공지능에 의해 성성됐다는 사실을 표시하고, 특히 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의해 생성됐다는 사실을 이용자자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 한다.

■ 위반시 최고 3천만원 과태료

과기부 장관은 제40조 제1항∼3항에 따른 △생성형 인공지능 결과물의 표시의무 △실제와 구분하기 어려운 가상 경과물의 고지·표시의무 △학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템에 대한 안전성 조치의무 및 결과제출 의무 △고영향 인공지능에 대한 안전성·신뢰성 확보 조치의무 등에 대해 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 또는 신고를 받거나 민원이 접수된 경우에는 사실조사를 할 수 있고, 위반사실이 인정되는 때에는 위반행위의 중지나 시정을 명령할 수 있다.

또한 제43조에 따라 △위 중지명령 또는 시정명령을 이행하지 않은 경우 △고영향 인공지능 또는 생성형 인공지능에 대한 사전 고지 의무를 이행하지 않은 경우 △국내 대리인을 지정하지 않은 경우에는 3천만원 이하의 과태료를 부과할 수 있다.

■ 국외에서 이뤄진 행위도 적용

AI 기본법은 국외에서 이뤄진 행위가 국내 시장 또는 이용자에게 영향을 미치는 경우에도 적용되며, 국방 또는 국가 안보목적으로만 개발·이용되는 것으로서 대통령령으로 정하는 인공지능에 대해서는 AI 기본법의 적용이 배제된다.

법조계 관계자는 “인공지능기본법은 인공지능사업자에 대한 형사처벌, 과징금 조항은 배제하고, 필요한 최소한의 규제를 정하고 있는 것으로 보인다”며 “전반적인 규제 프레임이 보다 명확해짐에 따라 인공지능사업자들이 사업 추진 과정에서 직면했던 법적 불확실성이 완화되고, 인공지능 관련 규제에 대한 예측 가능성이 제고될 것으로 보인다”고 전했다.