에임인텔리전스 "AGI급 '아스트라'도 보안 공백 여전...다음은 로봇·자율주행"

에임인텔리전스는 최근 AI 기술의 발전이 극에 달함에 따라 보안 위협에도 더욱 주의를 기울여야 한다고 강조했다. 이 회사의 최고 기술책임자(CTO) 박하언은 7일 삼성금융캠퍼스에서 열린 ‘AI 리스크 컨퍼런스 서울 2026’에서 AI 에이전트와 피지컬 AI 시대의 보안 문제를 다루며, 지속적이고 실시간으로 관리 가능한 보안 레이어의 필요성을 역설했다.

AI 보안의 새로운 패러다임

박 CTO는 클라우드시큐리티얼라이언스(CSA)에서 발표한 통계 자료를 인용하여, 기업의 82%가 자사의 AI 시스템에서 통제되지 않는 ‘그림자 AI’ 에이전트를 보유하고 있다고 밝혔다. 이러한 AI는 본래 설정된 권한을 넘어 비정상적인 행동을 하기도 한다. 기업들이 AI 도입과 발전 속도를 따라가지 못하고 있는 상황에서, 이러한 관리 공백은 더욱 심각한 결과를 초래할 수 있다. 특히, 피지컬 AI가 상용화되면서 이들 에이전트의 오작동이 현실 세계에 미치는 영향은 상상을 초월할 수 있다.

박 CTO는 “전통적인 체크리스트 기반 검증 방법은 더 이상 효과적이지 않다”며, “AI 모델이나 API의 변화에 따라 보안 리스크가 달라지기 때문에 지속적인 취약점 탐지와 실시간 방어 체계 구축이 필수적”이라고 강조했다. 실제로 피지컬 AI 환경에서 발생할 수 있는 여러 보안 사고 사례를 통해 이러한 위험성을 설명하기도 했다.

AI와 물리적 세계의 경계 허물기

특히 자율주행차 실험에서는 전체 픽셀의 0.8%에 불과한 미세한 조작으로 보행자를 치도록 유도한 사례가 보고되었다. 이 외에도 드론이 적의 공격을 받아 추락하거나, 홈 IoT 기기가 오디오 공격으로 오작동하는 등 피지컬 AI의 취약점은 점점 더 심각해지고 있다. 이처럼 물리적 세계와 연결된 AI 시스템에서의 보안은 단순한 소프트웨어 문제를 넘어서, 인명과 재산에 위협을 가할 수 있는 실질적인 문제로 부각되고 있다.

박 CTO는 최근 AGI(인공지능 일반화) 기술로 알려진 오픈AI의 ‘아스트라’조차도 안전장치인 ‘정렬(alignment)’만으로는 완벽히 통제되지 않음을 지적했다. 이는 AI의 전체 라이프사이클을 실시간으로 감시하고 통제할 수 있는 보안 체계의 필요성을 다시 한 번 강조하는 대목이다.

통합 보안 체계 구축과 생태계 확장

에임인텔리전스는 이러한 문제를 해결하기 위해 ‘스팅어(Stinger)’와 ‘스타포트(Starfort)’라는 두 가지 보안 솔루션을 개발하고 있다. 스팅어는 AI 모델의 취약점을 사전에 진단하는 역할을 하며, 스타포트는 다양한 환경에 맞춤형 보안 조치를 즉각적으로 적용하여 공격을 차단한다. 현재 스팅어는 160개 이상의 AI 모델을 진단했고, 스타포트는 10만 개 이상의 AI 에이전트에 적용되어 있다.

더 나아가, 에임인텔리전스는 국내외 20여 개 기관과 함께 ‘피지컬 AI 시큐리티 컨소시엄’을 출범하여, LG전자의 로봇 ‘클로이’ 전용 가드레일을 개발하고 해킹 에이전트가 자가 방어할 수 있는 테스트 환경을 구축하고 있다. 박 CTO는 기업들이 AI 보안을 강화하기 위해 가장 먼저 해야 할 일은 자신이 보유한 AI 자산을 철저히 조사하는 것이라고 강조하며, 내부 데이터 흐름과 권한 범위, 잠재적 리스크에 대한 명확한 가시성을 확보하는 것이 안전한 AI 운영의 핵심이라고 설명했다.

AI 기술이 빠르게 발전하고 있는 지금, 보안 문제 역시 그에 걸맞은 지속적인 관심과 노력이 필요하다. 에임인텔리전스의 이러한 노력은 AI가 우리 생활에 깊숙이 자리 잡는 시대에 안전하고 신뢰할 수 있는 기술 환경을 만드는 데 중요한 역할을 할 것이다.