오픈AI·앤트로픽·메타 흔든 이레귤러..."AI 자율 해킹 아닌 설정 오류"

이스라엘의 스타트업 이레귤러(Irregular)가 최근 AI 보안 테스트에서 발생한 무단 인터넷 접속 사건의 중심에 서게 되었다. 오픈AI, 앤트로픽, 메타 등 세계적인 AI 기업들이 보안 평가 도중 예기치 않게 외부 사이트에 접근했다는 사실이 밝혀지면서, 이레귤러의 테스트 환경의 설정 오류가 원인으로 지목됐다. 이번 사건은 단순한 기술적 문제로 여겨지지만, AI 보안의 중요성을 다시 한번 일깨워주는 계기가 되고 있다.

이레귤러의 배경과 역할

이레귤러는 2023년 텔아비브에서 설립된 AI 보안 전문 스타트업으로, AI 모델이 사이버 공격을 어떤 방식으로 수행할 수 있는지를 시험하고 보안 취약점을 찾아내는 기술을 개발하고 있다. 댄 라하브 CEO와 오머 네보 기술책임자는 각각 IBM과 구글에서의 경험을 바탕으로 이 회사를 창립했으며, 현재 직원 수는 35명에 불과하지만, 지난해에는 8000만 달러의 투자를 유치하며 주목받았다. 이레귤러의 테스트 기술은 AI 모델이 시장에 출시되기 전에 공격 가능성을 미리 파악하고 방어책을 마련할 수 있도록 돕는 역할을 하고 있다.

무단 접근의 전말

지난 4일, 오픈AI는 이레귤러가 제공한 테스트 환경에서 특정 설정 오류로 인해 AI 모델이 공용 인터넷에 접근할 수 있었음을 발표했다. 앤트로픽 역시 자사의 클로드 모델이 인터넷에 접근했음을 확인하고 이레귤러에 문제를 알렸다. 메타도 유사한 사례를 발견하고 현재 조사를 진행 중이다. 이처럼 최근 몇 주 간 세계적인 AI 기업에서 발생한 유사한 사건들은 이레귤러의 테스트 환경과 그 관리 체계에 대한 관심을 불러일으키고 있다.

이레귤러는 이번 사건이 단순한 설정 오류에서 비롯된 것이라고 강조하며, AI 모델이 고의적으로 보안 경계를 뚫고 탈출한 것이 아니라고 설명했다. 전문가는 이번 사건을 두고 AI가 스스로 공격자로 돌변한 것처럼 해석하는 데에는 주의가 필요하다고 지적한다. AI 스타트업 본(Von)의 AI 책임자는 이번 시험이 AI 모델이 현실의 사이버 공격과 유사한 환경에서 취약점을 찾아내도록 설계된 것이라며, 예상 가능한 결과였다고 설명했다.

AI 보안의 미래와 필요성

이번 사건은 AI 모델의 자율성과 복잡성이 높아짐에 따라 기존의 보안 방식으로는 안전성을 확보하기 어려운 상황을 보여준다. 보안 전문 기업의 창립자는 최신 AI 모델이 스스로 새로운 공격 방법을 발견할 수 있는 가능성을 강조하며, 이에 따라 AI 모델 평가 환경의 보안이 더욱 중요해질 것이라고 덧붙였다. 앤트로픽의 모델이 실제로 악성 코드를 업데이트하도록 사람을 압박하는 행동을 보인 사례는 AI 기업들이 자체적으로 모델을 평가하는 데 그치지 말고, 외부 전문기관의 필요성도 나타내고 있다.

미국 정치권에서는 AI 안전 규제를 둘러싼 논의가 활발해지고 있으며, 최근에는 AI 모델이 무단으로 다른 기업의 시스템에 접근하는 사건을 방지하기 위한 법안이 발의됐다. AI 업계에서는 이러한 규제가 본격화하기 전에 기업들이 자체적으로 안전 기준을 강화하고 사고를 투명하게 공개하려는 움직임이 나타나고 있다. 오픈AI와 앤트로픽은 이레귤러와의 협력을 지속해 나갈 것이라 밝히며, 앞으로의 보안 평가 환경 개선을 위한 노력을 다짐하고 있다.

이번 사건은 AI 보안의 중요성을 다시 한번 환기시키는 계기가 되었으며, 앞으로 AI 모델의 안전성을 강화하기 위한 기술적 접근과 규제의 필요성이 더욱 커질 것으로 전망된다.