앤트로픽, 안전 분류기 고도화…'페이블 5' 오탐 답변 거부 85% 줄였다

앤트로픽, AI 생물학 안전 분류기 혁신… 페이블 5의 오탐 줄여

최근 앤트로픽이 자사의 AI 모델인 '페이블 5'의 생물학 분야 안전장치를 대폭 개선했다는 소식이 전해졌다. 이 혁신적인 변화는 정상적인 생물학적 질문이 위험한 요청으로 잘못 판단되는 경우를 크게 줄여, 연구 및 의료 분야에서의 활용도를 한층 높였다. 앤트로픽은 7일(현지시간) 자사의 공식 발표를 통해 생물학 관련 요청이 안전 분류기에 의해 오탐되는 비율이 무려 85% 줄어들었다고 밝혔다.

생물학 분야의 안전 장치 개선

페이블 5는 생물학적 데이터를 다루는 복잡한 작업을 수행할 수 있는 고급 AI 모델로, 연구자들에게 실질적인 지원을 제공할 수 있는 능력을 지니고 있다. 그러나 이러한 강력한 기능이 악용될 가능성도 존재하기 때문에 앤트로픽은 생물학 관련 요청의 대부분을 차단하는 방안을 선택했다. 기존 시스템에서는 생물학적 요청을 판단하는 안전 분류기가 이러한 요청을 위험한 것으로 잘못 인식할 경우, 사용자는 불필요한 제한을 받게 되었다.

앤트로픽은 이러한 문제를 해결하기 위해 생물학 안전 분류기의 규칙 체계를 전면 개편했다. 이를 통해 정상적인 생물학적 질문에 대해 보다 정교하게 판단할 수 있는 체계를 마련하였다. 이 과정에서 다양한 전문가의 의견을 수렴하고, 학습 데이터를 재구성하여 분류기를 재훈련한 결과, 오탐의 빈도가 크게 줄어들었다.

연구와 교육에서의 활용성 증가

이러한 변화는 연구자와 의료 전문가들에게 실질적인 혜택을 제공하고 있다. 생물학적 실험 결과를 해석하거나 교육 목적으로 사용되는 질문에 대해 페이블 5가 훨씬 더 적극적으로 답변을 제공할 수 있게 된 것이다. 이제 사용자는 실험 결과의 의미를 이해하거나 생물학적 개념을 학습하는 과정에서 불필요한 제한 없이 AI의 지원을 받을 수 있다.

물론 이번 개선이 모든 생물학적 요청에 대한 제한을 해제한 것은 아니다. 여전히 바이러스학, 독성학, 분자 설계 등 악용 가능성이 높은 분야에 대해서는 기존과 마찬가지로 제한이 유지된다. 앤트로픽은 이러한 고위험 분야에 대해서는 신뢰할 수 있는 연구자에게만 접근을 허용하는 '신뢰 기반 접근' 체계를 도입하겠다고 밝혔다.

앞으로의 방향

앤트로픽은 앞으로도 안전 분류기의 오탐 및 누락 문제를 지속적으로 개선할 계획이다. AI 기술의 발전과 함께 생물학적 연구에서 발생할 수 있는 새로운 위협에 대한 경각심도 높아지고 있는 만큼, 안전성과 활용성을 동시에 고려한 균형 잡힌 접근이 필수적이다. 이러한 노력은 AI 기술이 연구와 의료 분야에서 더욱 안전하게 활용될 수 있도록 하는 중요한 발걸음이 될 것으로 기대된다.

안전하고 신뢰할 수 있는 AI 시스템의 구축은 향후 생물학적 연구의 질을 높이고, 혁신적인 발견을 촉진하는 원동력이 될 것이다.