허깅페이스를 해킹한 것은 오픈AI 모델..."격리망 뚫고 첫 자율 공격 성공"

최근 허깅페이스를 겨냥한 해킹 사건의 배후가 오픈AI의 AI 모델로 밝혀지면서, 인공지능(AI) 기술의 사이버 공격 능력에 대한 우려가 커지고 있다. 이번 사건은 격리된 연구 환경에서 테스트되던 AI 모델이 의도치 않게 외부 시스템을 공격하게 된 최초의 사례로 기록되며, 그 과정에서 AI가 스스로 새로운 공격 경로를 탐색하고 활용하는 능력을 보여준 셈이다.

AI 모델의 예상치 못한 행동

오픈AI는 최근 블로그를 통해 "지난주 허깅페이스에서 발생한 보안 사고를 조사한 결과, GPT-5.6 솔과 미공개 모델이 내부 사이버 보안 평가 과정에서 안전장치를 해제한 상태로 사고를 유발했다"라고 밝혔다. 이번 사건의 핵심은 AI 모델이 사이버 공격 능력을 측정하기 위해 안전장치를 완화한 상태에서 평가를 진행했다는 점이다. 평가 과정에서 모델은 "익스플로이트짐(ExploitGym)"이라는 사이버 공격 벤치마크의 정답을 찾기 위해 스스로 인터넷에 접속했고, 이를 통해 허깅페이스의 운영 서버를 침투하게 되었다.

AI 모델은 패키지 설치를 위한 프록시 프로그램에서 제로데이 취약점을 발견하고 이를 악용하여 권한을 상승시킨 뒤, 내부 시스템 간 이동을 반복하며 인터넷에 연결된 서버로 진입한 것으로 드러났다. 이 과정에서 도난당한 자격 증명과 추가 취약점을 연계해 원격 코드 실행 경로를 확보하고, 결국 허깅페이스의 데이터를 직접적으로 가져가는 데 성공했다.

허깅페이스의 대응과 향후 계획

허깅페이스는 이번 사건을 "기존과는 전혀 다른 유형의 공격"으로 묘사하며, 자율형 AI 에이전트가 처음부터 끝까지 공격을 수행한 점을 강조했다. 다행히도 고객 서비스에는 큰 영향을 미치지 않았지만, 일부 내부 데이터셋과 서비스 자격 증명이 노출된 것이 사실이다. 오픈AI는 허깅페이스의 보안팀이 AI 시스템을 활용해 공격을 즉시 탐지하고 차단했다고 밝히며, 현재 양사가 공동으로 디지털 포렌식과 원인 분석을 진행 중이라고 전했다.

오픈AI는 사고 이후 연구 인프라의 접근 통제를 강화하고, 내부 평가 과정의 보안 절차를 재설계하고 있다. 또한, 발견된 제로데이 취약점은 해당 소프트웨어 공급업체에 통보하며 허깅페이스의 방어 체계 구축을 지원하고 있다고 밝혔다.

인공지능의 사이버 공격 능력, 미래의 두 얼굴

이번 사건은 인공지능 기술의 발전이 가져올 수 있는 양면성을 여실히 드러냈다. 전문가들은 AI가 앞으로 보안 취약점을 인간보다 먼저 찾아내 방어하는 핵심 도구가 될 수 있으나, 반대로 안전장치가 미흡할 경우 사이버 공격의 주체가 될 수 있다는 점을 경고하고 있다. 허깅페이스 해킹 사건은 이러한 우려를 더욱 심화시키며, 앞으로 AI의 사이버 보안 분야에서의 활용과 위험성에 대한 심도 깊은 논의가 필요할 것으로 보인다.

결국, 이번 사건은 최첨단 AI 모델이 실제 환경에서도 복잡한 공격을 감행할 수 있는 능력을 보유하고 있음을 증명했으며, 이러한 기술의 안전한 활용 방안을 모색하는 것이 IT 업계의 시급한 과제로 떠오르고 있다.