생성형 AI의 한계?…하나투어, AI검색 서비스 정보 제공 미흡

하나투어의 인공지능(AI) 검색 서비스가 잘못된 정보를 제공하는 경우가 발생하고 있다. 

하나투어의 AI검색 서비스는 오픈AI(생성형AI) 챗GPT 서비스에서 자동으로 생성하는 답변을 가져와 쓰는 방식으로 운영되고 있어 잘못된 정보도 그대로 반영되기 때문에 지속적인 모니터링이 필요하단 목소리가 나온다. 

14일 업계에 따르면 전날까지 하나투어 홈페이지에서 '다케시마'를 검색하면 '여행정보AI' 섹션에 "다케시마(독도)는 일본과 한국 간의 영유권 분쟁이 있는 섬으로 한국에서는 독도로 알려져 있습니다"라는 설명이 표시됐다. 문제는 '영유권 분쟁이 있는 섬'이라는 표현이다.

반대로 '독도'를 검색하면 "한국의 동해에 위치한 작은 섬으로 한국의 영토로서 역사적, 정치적 의미가 깊습니다"라고 설명한다. 이처럼 정보 제공의 정확성이 떨어지는건 하나투어의 AI검색 서비스가 오픈AI를 적용해서다. 오픈AI는 대량의 빅데이터로 정보를 제공하는데 허위조작정보도 나오기 때문에 주의가 필요하다.  

하나투어의 여행정보 AI는 오픈AI의 챗 GPT를 적용한 AI 챗봇 서비스다. 일정 및 상품 추천부터 현지 날씨, 맛집, 명소 추천 등 여행 전 일정 계획에 필요한 정보를 대화형으로 24시간 실시간 제공한다. 하나투어 측은 잘못된 정보가 나오지 않게 모니터링을 강화한다는 방침이다. 

하나투어 관계자는 "여행정보AI는 오픈AI 챗GPT 서비스에서 자동으로 생성하는 답변을 가져와서 쓰는 방식으로 운영하고 있어 자동으로 해당 내용이 반영됐다"며 "해당 문제를 인지한 직후 독도와 관련한 올바른 표기와 안내로 수정 완료했다"라고 말했다.