챗GPT로 3주 만에 취약점 50개 적발…애플, 버그 바운티 'AI 과부하'

애플이 최근 보안 취약점 신고에 대한 정책을 변경했다고 발표했다. 이는 생성 AI가 보안 취약점을 발견하는 데 기여하는 동시에, 허위 신고의 양이 급증하면서 내부 보안팀의 부담이 커졌기 때문이다. 애플의 새로운 정책은 연구자들이 제출할 수 있는 버그 제보의 수를 제한하고, 일정 한도에 도달하면 30일의 대기 기간을 마련하는 방식이다. 이러한 조치는 보안 업계에서 AI의 활용이 가져오는 새로운 도전 과제를 반영하고 있다.

AI의 영향력과 새로운 도전

최근 애플은 이탈리아의 사이버 보안 스타트업인 바이너리오가 생성 AI인 챗GPT를 활용해 3주 만에 50개 이상의 보안 취약점을 발견했다고 밝혔다. 이 취약점들은 시스템 권한을 탈취할 수 있는 치명적인 위험을 내포하고 있다. 그러나 바이너리오는 애플의 신고 건수 제한에 걸려 즉각적으로 이 취약점을 보고할 수 없었다. 알프레도 페솔리 바이너리오 CEO는 "현재 업계는 AI로 인한 버그 신고의 폭증에 어려움을 겪고 있다"고 전했다.

AI의 발전은 보안 연구자들에게 더 빠르고 효율적인 취약점 발견의 기회를 제공하는 한편, 경험이 부족한 사용자들이 검증되지 않은 보고서를 대량 제출할 수 있게 만들고 있다. 이로 인해 보안팀은 실제 유의미한 취약점을 검증하고 우선순위를 매기는 작업에 더 많은 자원을 할애해야 하는 상황이다.

애플의 대응과 보안 강화를 위한 노력

애플은 AI를 활용한 보안 강화에도 적극적으로 나서고 있다. 최근 발표된 운영체제 보안 업데이트에서는 앤트로픽과 오픈AI의 AI 도구가 여러 보안 취약점을 발견하는 데 기여했다고 전했다. 이번 업데이트에서는 이전보다 약 5배 많은 보안 수정 사항이 포함되었으며, 이는 AI가 사이버 공격 방어 체계에 큰 변화를 가져오고 있음을 보여준다. 그러나 AI는 보안 체계를 우회하는 새로운 공격 기법을 찾는 데에도 활용되고 있어, 보안 업계에 양날의 검으로 작용하고 있다.

특히 바이너리오가 발견한 취약점은 '논리적 결함'을 이용한 것으로, 신뢰할 수 있는 소프트웨어가 예상과 다른 방식으로 작동하도록 유도해 시스템 권한을 탈취하는 방식이다. 이러한 공격 방식은 암시장에서 높은 가격에 거래될 수 있는 위험이 있다. 애플은 지난해 보안 취약점을 발견할 경우 최대 500만 달러의 보상금을 지급하는 버그 바운티 제도를 도입하기도 했다.

앞으로의 전망

AI 기술이 보안 분야에 미치는 영향력은 앞으로도 계속해서 증가할 것으로 보인다. 전문가들은 "버그 바운티의 핵심은 이제 취약점을 찾는 것이 아니라, 이를 기계적인 속도로 검증하고 우선순위를 정하는 능력이 될 것"이라고 전망하고 있다. 이는 보안 연구자들에게 새로운 도전이자 기회로 작용할 것이다. AI의 발전이 사이버 보안의 미래를 어떻게 변화시킬지, 그리고 업계가 이에 어떻게 적응해 나갈지가 주목되는 시점이다.