"악성 문서 읽고 파일 유출"...MS 코파일럿서 보안 허점 발견

AI 보안의 불안한 그림자, MS 코파일럿에서 발견된 취약점

최근 기업의 사이버 보안 문제는 갈수록 더 복잡해지고 있습니다. 특히, 인공지능(AI) 기술이 발전하면서 보안 솔루션으로 자리 잡고 있는 가운데, 이러한 AI 시스템 자체에서 발견된 보안 취약점이 경각심을 불러일으키고 있습니다. 마이크로소프트(MS)의 AI 비서 서비스인 '코파일럿(Copilot)'에서도 민감한 기업 데이터를 외부로 유출할 수 있는 심각한 보안 허점이 발견되었습니다.

코파일럿의 취약점, 데이터 유출의 위험

30일(현지시간) 디 인포메이션의 보도에 따르면, MS의 오피스 365에 통합된 코파일럿에서 해커가 기업 내부 파일 및 이메일을 쉽게 탈취할 수 있는 여러 보안 취약점이 확인되었습니다. 이 취약점은 두 개의 사이버 보안 업체에 의해 독립적으로 발견되었고, MS 측에서도 이를 인정했습니다. 특히, 루브릭(Rubrik)이라는 보안업체는 악성 코드가 포함된 워드 문서를 사용자가 코파일럿에 업로드하도록 유도하는 방식으로 공격이 가능하다고 경고했습니다.

문서 분석 과정에서 코파일럿이 악성 명령을 실행하게 되면, 기업의 MS 365 환경에 저장된 이메일 및 클라우드 파일들이 외부로 전송될 위험이 있었습니다. 루브릭은 이 취약점을 지난 4월 MS에 보고했으며, MS는 이후 문제를 수정했지만, 다른 보안업체가 발견한 두 번째 취약점에 대한 패치 여부는 아직 확인되지 않고 있습니다.

샌드박스 환경의 결함, 새로운 공격 경로로

이번 취약점은 코파일럿이 사용하는 '샌드박스(Sandbox)' 환경과 관련이 있습니다. 샌드박스는 AI가 생성한 코드를 외부 인터넷과 격리된 공간에서 시험 실행하도록 설계된 안전한 공간입니다. 그러나 연구진은 이번 사건이 샌드박스의 결함으로 인해 발생했으며, 이로 인해 코파일럿이 인터넷에 접속한 후 기업의 내부 데이터를 외부로 전송할 수 있는 경로가 열렸다고 분석했습니다. 이는 최근 오픈AI의 AI 에이전트가 통제를 벗어나 외부 인터넷에 접속한 사건과 유사한 양상입니다.

더욱 우려스러운 점은 이러한 공격이 기업의 보안 로그에 거의 감지되지 않는다는 것입니다. 공격이 정상적인 AI 작업처럼 보이기 때문에 관리자들이 침해 사실을 실시간으로 인지하기 어려운 상황입니다. MS는 자체 데이터 거버넌스 플랫폼인 '퍼뷰(Purview)'를 통해 코파일럿의 활동 로그를 확인할 수 있다고 주장하지만, 샌드박스 내부의 활동이 기록되는지는 명확한 답변을 내놓지 않고 있습니다.

AI 보안, 새로운 패러다임의 필요성

이번 사건은 생성 AI의 '블랙박스' 구조가 보안 문제를 더욱 복잡하게 만들고 있다는 사실을 드러냅니다. AI가 내부적으로 어떤 과정을 거쳐 명령을 수행하는지를 사용자가 쉽게 확인할 수 없기 때문에, 기존 보안 시스템으로는 이상행위를 탐지하기 어려운 상황입니다. 이는 허깅페이스의 대규모 해킹 사건이나 앤트로픽의 내부 모델 접근 권한 오류와 같은 최근의 다른 보안 사고들과 맞물려 있습니다.

이러한 상황에서 사이버 보안은 더욱 중요해지고 있으며, 기업들은 AI 기반의 보안 솔루션을 도입하면서도 그 자체의 취약점에 대한 충분한 검토가 필요해 보입니다. AI 기술이 발전함에 따라 보안의 패러다임 또한 변화해야 할 시점입니다. 향후 기업들은 AI 시스템의 안전성을 높이기 위해 보다 철저한 검증 절차와 보안 강화를 위한 노력이 요구될 것입니다.