배경훈 부총리, 안전한 AI 정책방향 논의

과학기술정보통신부는 23일 배경훈 부총리 겸 과기통신부 장관이 인공지능 안전연구소를 방문해 산‧학‧연 전문가들과 인공지능(AI) 안전 확보를 위한 정책 방향을 논의했다고 밝혔다.

이번 방문은 최근 딥페이크(Deepfake) 기술을 악용한 피해가 잇따르는 가운데 범용인공지능(AGI)과 AI 에이전트 시대를 대비해 새로운 형태의 위험에 대응하기 위한 논의의 일환으로 마련됐다.

AI 안전연구소는 영국(2023년 11월), 미국(2024년 2월), 일본(2024년 2월), 싱가포르(2024년 5월) 등 주요국의 AI 안전 연구소 설립 흐름에 발맞춰 우리 정부가 2024년 설립한 기관이다. 

연구소는 AI 안전 확보 기술 개발, 모델 평가, 정책 논의, 글로벌 협력 등을 수행하며 국가 차원의 AI 안전성 확보를 주도하고 있다.

배 부총리는 ▲딥페이크 탐지 기술 ▲미래 AI 위험 연구 ▲AI 안전 평가 ▲글로벌 협력 등 연구 현장을 직접 둘러보고 연구원들을 격려했다. 이어 산업계, 학계, 연구계 전문가들과 함께 딥페이크 탐지 기술 및 AI 에이전트 안전성 평가 시연을 참관했다.

간담회에서는 'AI 위험 대응을 위한 기술 개발 현황과 AI 안전 생태계 조성 방안'을 주제로 두 개 세션이 진행됐다. 

첫 번째 세션에서는 딥페이크 방지 및 안전한 AI 에이전트 개발 방향을, 두 번째 세션에서는 글로벌 AI 위험 대응 동향에 맞춘 '(가칭)국가 AI 안전 생태계 조성 종합계획' 추진 방안을 논의했다. 

참석자들은 AI 안전 생태계를 구축해 국민이 신뢰할 수 있는 AI 환경을 조성해야 한다는 데 뜻을 모았다.

배경훈 부총리는 "국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫걸음"이라며 "과기정통부는 관계부처와 유관기관과 협력해 올해 안에 '(가칭)국가 AI 안전 생태계 조성 종합계획'을 마련할 것"이라고 밝혔다.