오픈AI, 앤트로픽 '클로드'에 뚫렸다...핵심 코드 저장소까지 노출

최근 오픈AI의 내부 보안이 심각하게 위협받는 사건이 발생했다. 독립 보안 연구팀이 앤트로픽의 AI 모델인 '클로드'를 활용해 오픈AI 직원의 계정에 침입하고, 비공식적인 코드 저장소에까지 접근한 사실이 드러났기 때문이다. 이 사건은 단순한 해킹을 넘어 AI 기술의 보안 취약성을 여실히 보여주고 있다.

해킹의 시작, 보안 취약점 발견

이번 침해 사건은 오픈AI의 커뮤니티 포럼을 운영하는 제3자 서비스 디스커스(Discourse)에서 시작됐다. 보안 전문 기업 해크트론 AI의 연구진은 디스커스의 이미지 파일 처리 방식에서 보안 취약점을 발견하고 이를 공략하기 위해 앤트로픽의 '클로드 오퍼스 4.8' 모델을 사용해 공격 코드를 작성하려 시도했다. 하지만 초기 시도는 실패로 돌아갔고, 이후 앤트로픽이 '클로드 오퍼스 5'를 출시한 바로 다음 날, 연구진은 성공적으로 해당 취약점을 우회하여 익스플로잇 코드를 작성하는 데 성공했다.

이렇게 작성된 코드를 통해 디스커스 서버에 침입한 연구진은 오픈AI 커뮤니티 사용자들의 인증 토큰을 탈취할 수 있었다. 이 과정에서 유출된 인증 토큰은 오픈AI의 직원 계정과 비공식 코드 저장소인 '모노리포(Monorepo)'에 대한 접근 권한도 포함되어 있었다.

기술적 진화와 보안의 취약성

해킹 과정에서 연구진은 챗GPT 인터페이스를 통해 오픈AI의 알고리즘 및 효율성을 높이는 소프트웨어가 담긴 모노리포의 내부 파일을 열람할 수 있었다. 이번 사건의 주도자인 모한 페다파티 해크트론 AI CTO는 "우리는 그저 클로드와 코덱스를 구독한 연구원일 뿐"이라며, 자신들의 기술력이 중국의 위협 세력과는 비교할 수 없다고 겸손하게 밝혔다. 그러나 전문가들은 AI 모델이 보안 취약점을 찾아내는 데 도움을 줄 수 있다는 점에서 경각심을 일깨우고 있다.

조슈아 색스 어번던트 세큐리티 CTO는 "전 세계 소프트웨어에는 수많은 보안 버그가 존재하지만, 이를 모두 찾아내지 못한 이유는 전문 인력이 부족했기 때문"이라며, AI가 이러한 문제를 해결할 수 있는 가능성을 제시했다.

오픈AI의 대응과 향후 전망

오픈AI는 연구진의 제보를 받고 즉각적으로 디스커스 인증 토큰의 권한을 축소하고 영향을 받은 세션을 종료했다. 이와 관련해 오픈AI는 연구진에게 버그 바운티 포상금으로 약 900만원에 해당하는 6500달러를 지급하며 감사를 표했다. 오픈AI의 그렉 브록먼 사장은 보안 감사 결과 여러 심각한 문제를 발견하고 이를 수정했음을 밝혔다.

이번 사건은 AI 기술이 발전하는 만큼, 그에 따른 보안 문제도 심각해질 수 있음을 시사한다. 특히, AI 에이전트들이 허깅페이스 등을 공격했던 사건 이후, 오픈AI마저 공격을 받게 되면서 AI 방어 시스템의 취약성이 다시 부각됐다. 앞으로도 AI와 사이버 보안 간의 복잡한 관계가 더욱 두드러질 것으로 보이며, 이에 대한 철저한 대비가 필수적이다. AI의 발전이 보안의 새로운 도전 과제가 될 것이라는 점에서, 각 기업과 기관들은 더욱 철저한 보안 체계를 마련해야 할 것이다.