미스트랄, 멀티모달 안전 모델 '실드스트랄' 오픈 공개...프롬프트로 맞춤형 가드레일 지원

콘텐츠 안전성 확보를 위한 AI 기술이 날로 중요해지고 있는 가운데, 미스트랄 AI가 새로운 오픈소스 안전 모델 ‘실드스트랄(Shieldstral)’을 공개했습니다. 이 모델은 멀티모달 안전 검증을 지원하며, 사용자와 서비스에 맞춘 맞춤형 가드레일을 제공하는 혁신적인 기능으로 업계의 주목을 받고 있습니다.

AI 가드레일의 진화

미스트랄의 실드스트랄은 서비스마다 다른 안전 기준을 손쉽게 적용할 수 있는 경량 오픈소스 모델입니다. 기존의 고정된 유해성 분류 체계에서 벗어나, 사용자 요구에 맞춘 안전 정책을 유연하게 설정할 수 있도록 설계되었습니다. 이 모델은 텍스트, 이미지, 그리고 이 두 가지가 혼합된 콘텐츠를 동시에 평가할 수 있는 멀티모달 안전 모델로, 30억 개의 매개변수를 갖추고 있습니다.

특히 실드스트랄의 가장 큰 특징은 콘텐츠 검열 방식을 기존의 위험 카테고리 기반에서 자연어 질의 방식으로 전환한 점입니다. 개발자는 “이 콘텐츠가 폭력을 조장하는가?”와 같은 질문을 입력하면, 모델은 이를 분석해 위험도를 0에서 1 사이의 점수로 제시합니다. 이 점수를 바탕으로 서비스 운영자는 콘텐츠의 안전성을 평가하고, 필요시 정책을 재조정할 수 있습니다.

성능과 활용 가능성

이 모델은 단일 16GB 메모리의 엔비디아 GPU에서도 실행 가능하며, 허깅페이스를 통해 모델 가중치가 공개되어 있어 상업적 활용이 가능합니다. 성능 평가에서도 대형 모델에 비견할 만한 결과를 보여주며, 텍스트 안전성 벤치마크에서 F1 점수 84.9%를 기록했습니다. 이는 7배 큰 모델인 ‘GPT-OSS-세이프가드-20B’와 동등한 성능을 나타냅니다.

또한, 멀티모달 평가에서도 강력한 성능을 발휘하며, 이미지 및 텍스트 혼합 콘텐츠 평가에서 83.8%의 점수를 기록했습니다. 이러한 성과는 미스트랄의 AI 모델 학습 플랫폼인 포지를 통해 개발된 것으로, 실제 및 합성 데이터 5410만 건을 이용해 훈련되었습니다.

향후 전망

미스트랄은 앞으로 실드스트랄의 다국어 지원을 확대하고, 장문 문서 처리 능력 및 멀티모달 안전 기능을 강화할 계획입니다. 서비스별 맞춤형 안전 정책을 손쉽게 적용할 수 있는 차세대 AI 가드레일 모델로 발전해 나간다는 방침을 세우고 있습니다. 이와 같은 발전은 AI 콘텐츠 안전성 분야의 패러다임을 바꿀 가능성이 크며, 다양한 서비스가 보다 안전하게 운영될 수 있는 토대를 마련할 것입니다.

미스트랄의 실드스트랄이 가져다줄 변화에 귀추가 주목됩니다. AI 기술이 콘텐츠의 안전성을 강화하는 데 중요한 역할을 할 것으로 기대되며, 이는 결국 사용자 경험을 더욱 향상시키는 계기가 될 것입니다.