비드래프트, 범용 LLM서 ‘인과누설’ 탐지…AI 안전성 진단 ‘AX-RAY’ 공개

AI 분야에서의 안전성 진단이 더욱 중요해지는 가운데, 비드래프트가 범용 AI 모델의 안전성 취약성을 탐지하는 혁신적인 도구 'AX-RAY'를 발표했습니다. 이번에 공개된 AX-RAY는 허깅페이스 플랫폼에서 사용할 수 있으며, AI 모델의 인과누설(Causal Leakage)을 실질적으로 탐지할 수 있는 평가 데이터셋과 리더보드를 제공합니다. 인과누설은 AI가 의도하지 않은 방식으로 정보를 처리하거나 판단하는 현상을 의미하며, 이는 시스템의 안전성을 심각하게 위협할 수 있는 요소입니다.

AX-RAY의 혁신적 접근

비드래프트의 AX-RAY는 117개의 안전성 진단 항목을 통해 범용 LLM(대형 언어 모델)의 위험 신호를 모니터링합니다. 이 진단 항목들은 국가별 법률 및 규제 체계와 연결되어 있어 각국의 특수한 환경을 반영한 AI 안전성 평가를 가능하게 합니다. 아랍권을 포함한 다양한 문화적 배경을 고려한 점은 비드래프트의 차별화된 접근 방식으로, AI 기술이 글로벌 시장에서 통용될 수 있도록 하려는 의지를 보여줍니다.

AI 모델의 안전성 문제는 단순히 기술적 사안에 그치지 않습니다. 예를 들어, 자율주행차가 예기치 않은 행동을 하거나, 금융 및 의료 분야에서 잘못된 결정을 내릴 경우 심각한 사고로 이어질 수 있습니다. AX-RAY는 이러한 잠재적 위험 요소를 사전에 진단하고, 법률 및 사회규범과의 연결을 통해 AI의 안전성과 통제 가능성을 높이는 데 기여할 것입니다.

AI 안전성의 새로운 패러다임

비드래프트 김민식 대표는 "AI 경쟁의 다음 단계는 지능이 아니라 안전성"이라고 강조했습니다. AI 기술의 발전이 가속화됨에 따라, 안전성이 더욱 중요해지고 있으며, AX-RAY는 이러한 변화에 부응하는 핵심 도구가 될 것으로 기대됩니다. AI가 실제 의사결정 영역에 널리 사용되면서, 기술의 안전성을 미리 점검하고 관리하는 것이 필수적이라는 점을 인식해야 합니다.

비드래프트는 AI 평가의 중심이 '얼마나 똑똑한가'에서 '얼마나 안전하고 통제 가능한가'로 변화하고 있다는 점을 강조하며, AX-RAY가 이러한 글로벌 흐름에 부합하는 시스템으로 발전할 것이라고 자신했습니다. 특히, AX-RAY는 AI 모델의 평가를 통해 향후 AI 기술의 안전성을 높이고, 사회적 신뢰를 구축하는 데 중요한 역할을 할 것입니다.

이번 AX-RAY의 출시는 AI 안전성 진단에 있어 새로운 이정표가 될 가능성을 제시합니다. 비드래프트의 혁신적인 접근법이 AI 기술의 안전성을 높이고, 다양한 분야에서의 AI 활용을 더욱 원활하게 만들어 줄 것으로 기대됩니다. 향후 AI가 사회의 다양한 측면에서 안전하게 통합될 수 있도록 하는 데 기여할 수 있을지 주목됩니다.