美 캘리포니아·델라웨어 법무장관, 오픈AI에 “챗GPT 안전성 강화” 압박

오픈AI가 추진 중인 사업 구조 개편을 두고 미국 캘리포니아와 델라웨어주 법무장관이 챗GPT의 안전성 문제를 강하게 제기했다.

5일(현지시간) AP통신에 따르면 캘리포니아의 롭 본타 법무장관과 델라웨어의 캐슬린 제닝스 법무장관은 이번 주 초 델라웨어 윌밍턴에서 오픈AI 법무팀과 만난 뒤 공식 서한을 전달했다. 

두 장관은 서한에서 최근 보고된 사건들을 언급하며 “사용자와 챗봇 간의 위험한 상호작용에 관한 충격적인 사례들이 있으며, 안전장치가 작동하지 않았다”고 지적했다.

실제로 지난 4월 캘리포니아주에서는 한 10대가 챗GPT와 장기간 대화한 뒤 사망한 채로 발견된 사건이 발생했다. 유족은 챗GPT가 구체적인 방법을 제공했다며 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다.

또 이달 5일에는 코네티컷에서 자신이 독살될 것이라는 망상에 사로잡힌 50대가 챗GPT와 오랜 상호작용 끝에 어머니를 살해하고 본인도 사망한 사건이 이어졌다.

두 주 법무장관은 “최근의 죽음들은 용납할 수 없다”며 “이는 미국 대중의 오픈AI와 업계 전체에 대한 신뢰를 흔들었다”고 비판했다. 이어 “AI의 안전한 배치를 보장하는 것은 오픈AI 설립 목적에 따른 의무일 뿐 아니라 우리가 요구하고 집행할 사안”이라고 강조했다.

법무장관들은 수개월 전부터 오픈AI의 구조 개편 과정을 검토해왔으며, 특히 안전성 임무에 대한 강력한 감독을 보장하는 방안을 집중적으로 논의해왔다.

오픈AI는 비영리 산하 영리 부문을 공익 기업으로 전환해 주주 이익과 공익적 사명을 함께 고려하는 새로운 구조를 연내 확정할 계획이다. 본사는 캘리포니아에 있지만 법적 등록지는 델라웨어에 있어 양 주의 감독과 승인이 필수적이다.

한편, 지난주에는 이들을 포함한 44개 주 법무장관이 메타·오픈AI·구글 등 12개 AI 챗봇 기업에 아동 보호 조치 강화를 요구하는 공동 서한을 보낸 바 있다.