재임 성공에도 여전히 트럼프 ‘전’ 대통령?…AI 믿어도 될까

최근 포털 사이트에 기재된 다수의 기사에서 도널드 트럼프 미국 대통령을 도널드 트럼프 ‘전’ 대통령이라고 언급한 사례가 다수 발견되고 있다.

오픈AI의 챗GPT로 대표되는 인공지능(AI)의 활용이 늘고 있는 미디어 환경에서 이 같은 현상이 주목받고 있다. 사태가 확산되면 AI에 대한 ‘신뢰성’에도 금이 생길 수 있어서다.

9일 IT업계에 따르면 트럼프 대통령이 재임에 성공했음에도 불구하고 AI 모델이 트럼프 대통령을 ‘전 대통령’이라고 결과를 표출하는 이유는 AI 모델이 학습 과정에서 해당 인물이 가장 빈번히 연결된 공식 직함을 자동으로 인식하기 때문이라는 분석이 일반적이다.

흔히 이런 문제를 ‘환각 현상’이라고 부르는데, 쉽게 말해 인공지능이 옳지 못한 대답을 하는 경우를 말한다. 인공지능은 과거의 쌓인 대규모 데이터를 통해 학습하는데, 트럼프 대통령의 경우 재임 직후의 데이터보다 퇴임 직후의 데이터가 더 많아 인공지능이 ‘전 대통령’으로 인식한 것이다.

환각 문제를 해결하기 위해서 대표적으로 거론되는 해결책으론 ‘검색 증강 생성(RAG)’이 있다. 검색 증강 생성은 기존 데이터셋 이외에 외부 데이터를 가져와 답변을 생성하는 기술이다.

이 기술은 크게 세 가지 단계로 이뤄지며, ‘검색’ 단계에서 사용자의 질문을 분석해 관련 키워드를 추출하고 이를 바탕으로 외부 데이터베이스에서 정보를 검색한다.

이어 ‘증강’ 단계에서 검색된 정보를 모델에 입력해 추가하며, 마지막으로 증강된 입력을 바탕으로 최종 답변을 ‘생성’한다.

다만 이 기술도 완벽하진 않아 인간 피드백 기반 강화학습, 데이터 품질 개선 및 정제 등 다양한 방법이 제안된다. 이와 동시에 무분별하게 생성형 AI 콘텐츠를 사용함으로써 여러 가지 문제가 발생하고 있다.

오픈AI는 챗GPT를 통해 원하는 사진을 일본 애니메이션 제작사인 ‘지브리’ 스타일로 변환하는 서비스를 선보였다. 이에 전국적으로 ‘지브리 열풍’이 불고 있지만, 저작권 문제가 도마에 올라오면서 논란이 일고 있다. 이에 대해 오픈AI는 침묵으로 일관 중이다.

업계 관계자는 "인공지능 기술이 점점 고도화되면서 업무와 일상생활에서 AI를 사용하는 사례가 점차 많아질 것"이라면서 "이에 따라 관련 문제도 계속해서 발생할 것"이라고 전했다.