중국 해커, 앤트로픽 AI로 사이버 공격 자동화…"버튼 한 번으로 침입"

중국 정부가 지원하는 해커들이 미국의 인공지능(AI) 기업 '앤트로픽(Anthropic)'의 AI 기술을 이용해 대규모 사이버 공격을 자동화한 사실이 드러났다. 이번 사건은 해킹의 대부분이 AI에 의해 수행된 첫 사례로, AI 기술이 '공격의 도구'로 전환되는 위험성을 보여줬다는 평가다.

월스트리트저널에 따르면 앤트로픽은 14일(현지시간) 자사 보안 조사 결과를 인용해, 중국 국영 해커 조직이 지난해 9월 AI 모델 '클로드(Claude)'를 악용해 다수의 기업과 외국 정부 기관을 해킹했다고 밝혔다. 공격의 80~90%가 AI 자동화로 진행됐으며, 인간의 개입은 몇 차례의 승인 단계에 그쳤다.

앤트로픽의 위협 인텔리전스 책임자 제이컵 클라인은 "해커들이 클릭 한 번으로 공격을 시작했고, 이후 대부분의 절차를 AI가 자동으로 처리했다"며 "이전까지 본 적 없는 수준의 자동화였다"고 밝혔다.

해커들은 클로드 AI에게 내부 데이터베이스를 직접 조회하고 정보를 추출하라는 명령을 내렸으며, 일부 공격에서는 실제로 민감한 데이터가 탈취된 것으로 나타났다. 이들은 '보안 점검을 수행하는 합법적 기관'으로 위장해 AI의 보안 필터를 우회하는 '감옥탈출(jailbreaking)' 기법을 사용했다.

앤트로픽은 공격 중 4건이 성공해 일부 정보 유출이 발생했으나, 미국 정부 기관은 피해 대상에 포함되지 않았다고 밝혔다.

이번 공격의 특징은 AI가 스스로 침투, 데이터 추출, 보고를 수행했다는 점이다. 인간 해커는 "계속해", "멈춰", "맞아?", "감사해" 등 최소한의 승인만 내렸다.

클라인은 "AI가 '내부 시스템 접근에 성공했다'고 보고했지만 실제로는 그렇지 않은 경우도 있었다"며 "AI의 환각(hallucination) 현상이 발생했지만, 전반적으로 해킹의 자율성이 매우 높았다"고 말했다.

AI 기반 공격이 현실화되면서 사이버보안 업계는 긴장하고 있다. 앞서 사이버보안 기업 볼렉시티(Volexity)는 중국 해커들이 AI를 활용해 공격 대상을 분석하고, 피싱 이메일을 자동 생성하며, 악성 코드를 작성하는 등 해킹 프로세스를 자동화한 정황을 포착한 바 있다.

볼렉시티의 스티븐 아데어 대표는 "AI가 공격자의 생산성을 기하급수적으로 높이고 있다"며 "AI가 방어보다 공격 측면에서 더 빠르게 진화하는 게 문제"라고 경고했다.

이번 사건은 중국이 미국의 AI 기술을 활용해 역으로 미국 및 우방국을 공격한 사례로, 미·중 간 'AI 사이버전'이 본격화하고 있음을 보여준다. 미국 정부는 이미 수년 전부터 중국이 미국의 첨단 AI 기술을 겨냥해 해킹을 시도하고 있다고 경고해왔다.

구글 역시 최근 러시아 정부와 연계된 해커들이 AI를 이용해 우크라이나를 공격하면서 실시간으로 맞춤형 악성코드 지시를 생성했다고 발표했다.

앤트로픽은 이번 사건 이후 AI 오용 탐지 체계를 강화했다고 밝혔다. 회사 측은 "AI 기술이 공격자보다 방어자에게 더 큰 이익이 되도록 설계하는 것이 핵심"이라며 "알려진 취약점 조기 탐지 등 방어 기술 개발에 집중하고 있다"고 강조했다.

Anthropic의 리스크 평가 책임자 로건 그레이엄은 "AI는 모든 것을 더 빠르게 만든다"며 "방어자가 지속적인 우위를 확보하지 못한다면, 결국 이 경쟁에서 밀릴 수 있다"고 말했다.

AI의 발전이 보안의 강화와 동시에 위협의 자동화를 촉진하고 있다. 전문가들은 이번 사건이 단순한 해킹이 아니라, AI 시대의 새로운 전장(戰場)을 보여준 사례라고 평가한다.

AI가 '누구의 손에 있느냐'에 따라 사이버 보안의 미래가 결정될 수 있다는 점에서, 각국 정부와 기업의 대응 전략이 중대한 전환점을 맞고 있다.