에임인텔리전스, 피지컬 AI 안전 컨소시엄 출범..."구글·MS·오라클도 모였다"

AI 기술의 발전과 함께 피지컬 AI의 안전성 문제는 점점 더 중요해지고 있습니다. 이에 AI 전문 기업 에임인텔리전스가 글로벌 피지컬 AI 안전 컨소시엄인 '파스크(PASC)'를 출범하며 이 문제에 대한 해결책을 모색하고 나섰습니다. 17일 발표된 이 소식에 따르면, 파스크에는 구글, 마이크로소프트(MS), 오라클 등 세계적인 IT 기업이 참여하여, 피지컬 AI의 안전성을 높이기 위한 연구와 표준화 작업에 착수할 예정입니다.

피지컬 AI의 안전성, 누구의 책임인가?

피지컬 AI란 로봇이나 자율 시스템, 산업 장비 등 물리적 세계에서 작동하는 인공지능 기술을 의미합니다. 이러한 기술이 발전하면서 그 안전성에 대한 우려도 커지고 있습니다. 특히, 자율주행차나 산업 로봇과 같은 시스템은 사람의 생명과 안전에 직접적인 영향을 미칠 수 있습니다. PASC는 피지컬 AI의 안전을 위한 공통 정의와 평가 방법론을 제시하고, 벤치마크를 마련하는 등 안전성을 높이기 위한 연구를 진행할 계획입니다.

이 컨소시엄은 비영리 방식으로 운영되며, 개인과 기관 모두가 참여할 수 있습니다. 현재 PASC에는 30여 명의 전문가들이 참여하고 있으며, 이들은 로봇과 AI의 안전 연구 분야에서 쌓아온 풍부한 경험을 바탕으로 협력하고 있습니다. 구글, MS, 오라클의 대표 연구원들이 포함되어 있어, 이들의 기술적 전문성이 PASC의 연구에 큰 도움이 될 것으로 기대됩니다.

공동 연구의 첫걸음, 포지션 페이퍼

PASC의 첫 번째 공동 과제는 피지컬 AI 안전의 정의와 평가 방향을 다루는 포지션 페이퍼를 작성하는 것입니다. 이 페이퍼는 다양한 로봇과 자율 시스템의 안전성을 평가하기 위한 기준과 방법론을 정립하는 데 중점을 두고 있습니다. 이후 PASC는 공동 평가 체계와 벤치마크 설계, 그리고 적대적인 테스트와 시뮬레이션을 통한 연구로 영역을 확대할 예정입니다.

특히 주목할 점은 피지컬 AI의 위험 정의와 위험 징후 감지, 환경과 로봇 형태에 따른 평가 결과의 일관성, 그리고 적응형 공격에 대한 안정성까지 다각적인 연구를 진행할 계획이라는 점입니다. 이러한 연구들은 향후 피지컬 AI 시스템의 안전성을 높이는 데 중요한 역할을 할 것으로 예상됩니다.

안전한 미래를 위한 도전

박하언 에임인텔리전스 최고 기술책임자(CTO)는 "피지컬 AI가 현실화될수록 안전은 모델 성능과 별개로 설계하고 검증해야 할 핵심 기반이 된다"며, PASC가 학계와 산업계의 전문성을 연결하여 피지컬 AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 되기를 바란다고 전했습니다.

향후 PASC의 연구 결과는 피지컬 AI의 안전성을 높이는 데 기여할 뿐 아니라, 다양한 산업에서의 AI 기술 활용에도 긍정적인 영향을 미칠 것으로 기대됩니다. 이러한 노력은 궁극적으로 기술의 발전과 함께 인간의 안전을 보장하는 데 큰 의미를 가질 것입니다. AI 기술이 우리 생활에 깊숙이 들어오고 있는 만큼, 그 안전성을 확보하는 것은 이제 선택이 아닌 필수입니다.