올해 달라지는 AI 법·제도는?

올해 산업계 법·제도의 화두는 단연 인공지능(AI)이 될 전망이다. AI 산업을 지원하고 규제를 담은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 국회 본회의의 문턱을 넘었기 때문이다. AI 기본법은 올해 유예기간을 거쳐 시행령 방향성이 잡힐 전망이다. 

골자는 AI기본법의 규제 근거다. AI의 영향 정도에 따라서 규제 대상 여부가 결정돼서다. 우리나라의 AI기본법의 규제 여부는 고영향 AI·생성형 AI 등이 기준이다. 

AI기본법은 사람의 생명 또는 신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 가능성이 있는 AI를 고영향 AI로 분류했다. 고영향 AI와 생성형 AI는 규제대상으로 포함된다. 규제대상은 △투명성 확보 △안전성 확보 △사업자 책무 등을 지켜야 한다.  

규제에는 △AI 기본계획 수립·시행 △대통령 소속 국가인공지능위원회 설치 △과학기술정보통신부 장관 인공지능정책센터 지정 △인공지능안전연구소 운영 △인공지능 기술 관련 표준 제정 사업 추진 △인공지능 사업자 안정성·신뢰성 확보 조치 시행 등의 법적 근거를 담았다. 

규제대상에 해당하는 사업자는 해당 사실을 이용자에게 사전 고지해야 한다. 생성형 AI는 정의 규정과 표시의무 규정을 담아 생성형 AI가 만들어낸 결과물이라는 사실을 이용자에게 명시해야 한다. 위반할 경우 과기정통부 장관이 사실조사 및 시정명령을 내릴 수 있다. 시정명령을 이행하지 않으면 3000만원 이하의 과태료 부과가 가능하다. 

일각에서는 발전 제약을 우려하는 목소리도 제기된다. 정부가 사실조사에 착수할 경우, AI 사업자의 세부 경영 활동과 관련된 정보가 유출될 수 있어, 소극적인 발전만이 가능할 것이라는 시각에서다. 이는 법안에 제40조 2항에 과기부 장관이 조사가 필요한 경우 AI 사업자의 사업장 내 장부, 서류, 자료, 물건 등을 조사할 수 있도록 명시한 점을 염두한 우려로 풀이된다. 

누적 학습량도 업계가 우려하는 부분 중 하나다. AI 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상일 경우, AI 안전성 확보 이행 의무가 발생해서다. AI의 누적 학습량은 지속적으로 증가할 수밖에 없어, 결국에는 안전성 확보 의무 대상에 속할 것으로 관측된다. 

산업계는 고영향 AI의 기준이 모호하다고 보고 있다. 이에 따른 규제 대상 구분도 불명확한 상황이다. 정부의 명확한 가이드라인이 요구되는 이유다.

AI기본법은 지난해 12월 26일 국회 본회의에서 통과됐다. 2020년 첫 발의 이후 4년 간의 논의를 거친 결과다. 12월 3일 비상계엄 사태 이후 정국 혼란이 우려됐지만, AI기본법 등 업계 발전을 위해 민생법안은 국회 문턱을 넘는데 성공했다. 여야가 비쟁점 법안 통과에 뜻을 모은 덕이다. 

AI기본법은 국무회의 의결과 공포를 거쳐 1년의 경과 기간을 둔다. 본격적인 시행일은 2026년 1월부터다. AI기본법은 유럽연합(EU)이 세계에서 가장 처음으로 제정한 바 있다.