오픈AI, AI 에이전트 위협 맞서 ‘디펜스 팩토리’ 공개…보안 전 과정 자동화

오픈AI가 최근 AI 에이전트의 공격 역량 증가에 대응하기 위해 자율형 보안 시스템인 ‘디펜스 팩토리(Defense Factory)’를 공개했습니다. 이 시스템은 사이버 공격에 대한 탐지부터 패치 및 배포에 이르는 모든 과정을 자동화하여 보안 업무의 부담을 크게 줄이는 것을 목표로 하고 있습니다. 특히 오픈웨이트 모델을 악용하는 장기간의 사이버 공격에 맞서, 보안 팀의 대응 속도를 극대화하는 데 중점을 두고 있습니다.

디펜스 팩토리의 기능과 구조

디펜스 팩토리는 오픈AI의 프론티어 AI 모델과 오픈웨이트 모델 간의 사이버 역량 격차인 ‘디펜더 창(Defender’s window)’을 활용합니다. 이러한 격차가 좁혀질 경우 공격자들이 더 쉽게 취약한 시스템을 타격할 수 있다는 점에 착안하여, 방어 측에서도 더 강력한 모델을 통해 지속적으로 취약점을 탐지하고 수정할 수 있는 체계를 구축하는 것입니다. 오픈AI는 디펜스 팩토리 시스템을 통해 취약점 탐지, 검증, 패치, 배포 확인까지의 모든 프로세스를 자동화하여 공격자의 속도를 앞서는 것을 목표로 하고 있습니다.

이 시스템 구축을 위해 오픈AI는 250명 이상의 인력을 투입하고 100개 이상의 서비스 영역에 대해 대규모 보안 점검을 실시했습니다. AI 에이전트는 수백 개의 시스템에서 취약점을 찾아내고, 이를 재현하며 심각도를 평가한 후 수정안을 작성하는 과정을 수행했습니다. 그 결과, 발견된 항목의 37%가 중복 이슈로 확인되어 자동으로 필터링되었고, 에이전트가 지정한 담당 팀의 승인 비율은 90.6%에 달했습니다.

동적 검증과 패치 신뢰도

디펜스 팩토리의 핵심 기술 중 하나는 ‘재현 가능한 데이터 플레인’입니다. 이 환경에서는 AI 에이전트가 실제 서비스의 코드와 구성 요소를 갖춘 격리된 공간에서 취약점을 재현하고, 제안한 패치를 실행해 검증할 수 있습니다. 각 검증 작업은 독립적으로 이루어지며, 이전 작업의 상태가 다음 검증에 영향을 미치지 않도록 설계되었습니다. 이러한 동적 검증 방식 덕분에 실제 런타임에서 재현된 발견 사항은 19.5%에 달했으며, 오탐률은 0.81%로 낮아졌습니다. 이는 보안팀이 불필요한 경고를 처리하는 부담을 줄이는 데 크게 기여했습니다.

또한, AI 에이전트가 제안한 패치의 신뢰도 또한 높아, 운영 중 롤백된 패치 비율은 0.53%에 불과했습니다. 보안 과정에서의 자동화는 초기에는 소규모 배치와 사람의 검토를 병행했지만, 결과에 대한 신뢰가 쌓이면서 점점 더 많은 작업을 AI에 맡기는 방향으로 발전하고 있습니다.

향후 전망과 의미

오픈AI는 디펜스 팩토리를 통해 사이버 보안 분야에서의 자동화와 효율성을 한 단계 끌어올린 것으로 평가받고 있습니다. 이 시스템은 단순히 취약점을 찾는 데 그치지 않고, 전체적인 보안 프로세스를 혁신할 가능성을 보여주고 있습니다. 고성능 보안 AI를 확보하기 어려운 조직을 지원하기 위한 ‘데이브레이크 포 프론트라인 디펜더(Daybreak for Frontline Defenders)’ 프로그램도 함께 발표하여, 더욱 많은 기관들이 AI 기반 보안을 활용할 수 있는 길을 열었습니다.

향후 오픈AI의 디펜스 팩토리가 사이버 공격에 대한 방어의 새로운 표준을 세울 수 있을지 귀추가 주목됩니다. 지속적으로 진화하는 사이버 위협에 맞서, 더욱 발전된 보안 솔루션이 필요해진 현재, 오픈AI의 혁신적 접근 방식은 그 의미가 더욱 커질 것으로 보입니다.