버그 탐지 넘어 암호 분석까지…'미소스', 알고리즘 취약점 찾았다

AI의 암호학 혁신: 앤트로픽의 '클로드 미소스'가 새로운 가능성 열었다

최근 인공지능(AI)이 암호학 분야에서 중요한 이정표를 세웠습니다. 앤트로픽이 자사의 AI 모델인 '클로드 미소스'를 이용해 기존 암호 알고리즘의 수학적 취약점을 자율적으로 찾아냈다는 소식이 전해졌습니다. 이는 AI가 단순한 보조 도구를 넘어, 독립적으로 복잡한 암호학적 문제를 해결할 수 있는 가능성을 보여주는 사례입니다.

AI의 자율적 암호 분석

앤트로픽 연구진은 28일(현지시간) 발표한 연구에서 암호 알고리즘의 근본적인 수학적 결함을 발견하는 데 성공했다고 밝혔습니다. 이들은 '호크(HAWK)'와 'AES(고급 암호화 표준)'의 축소 모델을 분석하였으며, 특히 호크는 미국 국립표준기술연구소(NIST)의 차세대 디지털 서명 표준 후보 중 하나로, 양자 컴퓨터 시대에 대비하기 위해 고안된 것입니다.

미소스는 호크를 60시간 동안 분석한 결과, 이전에 알려지지 않았던 수학적 규칙을 발견했습니다. 이를 기반으로 효율적인 새로운 공격 기법을 제시했으며, 호크의 보안 강도가 예상보다 낮을 수 있음을 입증했습니다. 그러나 이는 현재 사용 중인 암호 시스템에 즉각적인 위협을 주지는 않으며, 호크가 실제 서비스에 적용되기 전의 연구 결과로 남아 있습니다.

혁신적인 공격 기법 '뫼비우스 브릿지'

또한, AES 연구에서도 주목할 만한 성과가 있었습니다. 미소스는 AES-128의 7라운드 축소 버전을 분석하며 기존 공격 방식을 개선하는 '뫼비우스 브릿지'라는 새로운 알고리즘을 개발했습니다. 이 기술은 공격 과정에서 필요한 계산량을 크게 줄임으로써, 기존 공격 방법에 비해 처리 속도를 최대 800배 향상시켰습니다.

이러한 연구는 단순한 해독을 넘어서, AI가 스스로 새로운 접근법을 찾아내는 능력을 보여줍니다. 초기 단계에서 연구진은 "기존 연구를 뛰어넘는 공격은 불가능하다"는 판단을 내렸지만, 미소스가 지속적으로 가설을 수립하고 검증하는 과정을 통해 최종적으로 뫼비우스 브릿지 기법을 완성하였습니다. 이 연구는 AI의 자율적인 연구능력에 대한 의미 있는 사례로 남을 것입니다.

AI의 미래와 암호학의 방향

앤트로픽은 이번 연구와 함께 스위스 취리히연방공과대학교 등 다양한 연구진과 협력하여 AI의 암호 해독 능력을 평가하는 벤치마크인 '크립타널리시스벤치'도 공개했습니다. 이 과정에서 정부와 업계 전문가들에게 연구 결과를 사전 공유하며, 책임 있는 공개 절차를 거쳤습니다.

앞으로 AI는 암호 알고리즘의 설계 및 검증 과정에서 중요한 역할을 할 것으로 전망됩니다. 그러나 AI의 연구 능력이 빠르게 발전하는 만큼, 인간 연구자들이 이를 검증하는 과정이 병목이 될 가능성도 존재합니다. 따라서, 학계와 산업계, 정부가 협력하여 새로운 검증 기준과 공개 절차를 마련해야 할 때입니다. AI가 실제로 운영 중인 암호 체계의 취약점을 발견하는 시대에 대비해, 준비된 기준이 필요할 것입니다.