ETRI AI안전연구소, 24개 기업 모아 컨소시엄 시동

인공지능(AI) 확산이 전 산업과 일상으로 뻗어나가면서 AI 안전 확보가 필수 과제로 부상했다.

정부는 국가AI전략위원회를 발족해 ‘AI 3대 강국’ 전략을 본격 추진하고 있으며, 한국전자통신연구원(ETRI) 산하 인공지능안전연구소(AISI)가 중심에 서 있다.

ETRI AISI는 1일 그랜드 인터컨티넨탈 서울 파르나스에서 국내 AI 안전 관련 전문가가 참여한 가운데 AI 안전컨소시엄 합동회의를 연다고 30일 밝혔다.

이번 회의에서는 △AISI의 활동 결과 보고 △컨소시엄 운영체계 확정 △분과별 의제 심층 논의가 진행된다.

AISI는 개소 직후 24개 기업·기관과 함께 AI안전컨소시엄을 꾸렸다. 이 컨소시엄은 연구 성과 확산, 정책 방향 논의, 안전 평가 방안 마련·공동 수행 등을 통해 국내 AI 안전 논의의 구심점 역할을 한다. 나아가 정부에 시의적절한 정책 제안과 거버넌스 정립 기여도 목표로 한다.

AI안전 연구는 미국 ‘AI표준혁신센터’와 일본 ‘AI안전연구소’도 민간 중심의 컨소시엄을 구성해 추진 중이다. 각국은 이를 통해 주요 연구·평가 이슈를 공유하고 자국 내 AI 안전 역량 확산을 도모하고 있다. AISI 역시 유사한 구조를 도입했다.

AI안전컨소시엄은 정책·평가·연구 3개 분과로 운영된다. 정책 분과는 국내외 AI 안전 정책 전반을 다루며, 특히 EU 인공지능 규제 대응 방안 논의가 시급하다. 평가 분과는 글로벌 안전 평가 사례 공유와 실제 수행 방안을 검토한다. 국제 네트워크 공동 평가 참여·공유 방안도 모색 중이다. 연구 분과는 AISI가 수행하는 연구 이슈를 중심으로 성과 연계·확산 방안을 논의한다.

컨소시엄은 지난 4월 22일 비공식 회의에서 분과 구성과 논의 안건을 초안으로 마련하고, 의견 조사서를 통해 제언 사항을 수렴한 바 있다. 이번 10월 회의에서는 활동과 성과를 공식 공유하고 분과별 심층 논의를 진행했다. 이를 통해 국내 대응 체계를 정립하고, AI 안전 역량 확산의 구심점 역할에 시동을 걸었다.

회의에서는 컨소시엄 운영 규정과 실행위원회 운영 방안도 공개된다. 올 하반기에는 추가 멤버 영입 절차를 마련해 역량 있는 기업·기관의 참여를 유도할 계획이다. AISI는 정책·평가 활동과 연구 성과를 이어가며, 지속적인 교류를 통해 산업계와 기관에 성과를 확산시킬 방침이다.

김명주 ETRI 인공지능안전연구소장은 "AI 안전은 기술 혁신을 뒷받침하는 기반이자 글로벌 경쟁력을 좌우하는 핵심 요소"라며 "AISI가 중심이 돼 정책·평가·연구를 이끌고, 컨소시엄 활동을 확대해 담론 형성과 산업계 지원을 이어가겠다"고 말했다.