앤트로픽, AI 안전 평가 기관으로 액센추어 선정…독립성 논란 확대

앤트로픽, 액센추어와 AI 안전성 검증 파트너십 체결

인공지능(AI) 기술의 발전 속도가 빨라짐에 따라 안전성 검증의 필요성이 더욱 부각되고 있습니다. 이러한 배경 속에서 앤트로픽이 기술 컨설팅 기업 액센추어를 첫 번째 내부 상주형 평가 기관으로 선정한 소식이 전해졌습니다. 이번 발표는 AI 모델의 안전성을 높이기 위한 앤트로픽의 노력의 일환으로, 다리오 아모데이 CEO의 제안에 따라 진행된 첫 단계로 평가받고 있습니다.

내부 상주형 평가 기관의 역할과 과제

앤트로픽과 액센추어 간의 파트너십은 AI 안전성 평가 체계를 강화하기 위한 중요한 발걸음입니다. 액센추어는 2026년 인수한 AI 전문 기업 패컬티의 인력을 앤트로픽 사내에 파견하여, 모델 훈련 과정과 내부 의사결정 구조, 안전장치를 검증하는 역할을 맡게 됩니다. 이 평가단은 직원 수준의 접근 권한을 바탕으로 지속적으로 안전성을 모니터링할 예정입니다.

이러한 조치는 AI의 발전이 가져오는 위험성과 책임을 함께 고려하는 방향으로 나아가고자 하는 앤트로픽의 의지를 보여줍니다. 그러나, 액센추어와 앤트로픽 간의 관계가 평가의 객관성을 저해할 수 있다는 우려도 동시에 제기되고 있습니다. 즉, 검증 기관의 독립성과 공정성을 확보하는 것이 여전히 중요한 과제로 남아있다는 것입니다.

전문가들의 우려와 제안

이번 발표에 대해 100명 이상의 AI 전문가와 연구자들이 참여한 'AI 평가자 포럼'은 공개서한을 통해 제3자 평가 기관의 독립성과 재정적 자립성을 보장할 수 있는 장치가 필요하다고 강조했습니다. 저명한 AI 연구자인 제프리 힌튼과 스튜어트 러셀 등은 "AI 기업은 자신들이 만든 기술의 위험성을 정확히 평가하기 위해 독립적인 평가 기관의 참여를 요구해야 한다"며, "이러한 기관은 상업적 관계를 맺지 않도록 해야 하며, 평가 결과에 따른 재정적 대가를 받아서는 안 된다"고 주장했습니다.

특히, 비영리 AI 평가 기관인 METR은 AI 모델의 위험성을 평가하며 주목받았으나, 주요 AI 기업들과의 연결 고리로 인해 독립성에 대한 의문이 제기되고 있습니다. 이러한 비영리 기관들은 자금 조달의 한계로 인해 기업의 지원에 의존할 수밖에 없는 현실을 안고 있습니다.

앤트로픽의 향후 방향

앤트로픽은 이러한 문제를 인식하고, 장기적으로 공공 기금이나 정부 조달을 통한 독립적인 평가 시스템 구축의 필요성을 인정하고 있습니다. 현재 관련 제도가 미비한 상황에서, 먼저 액센추어의 작업에 자금을 지원하고 비영리 단체와의 협력을 통해 시범 운영 방안을 논의하고 있다고 밝혔습니다. 아모데이 CEO는 "내부 상주형 평가자의 도입이 우리의 책임을 경감시키는 것이 아니며, 오히려 검증 가능성을 높이는 데 도움을 줄 것"이라고 강조했습니다.

향후 AI 기술이 더욱 발전할수록 안전성에 대한 요구는 더욱 커질 것으로 예상됩니다. 앤트로픽이 이번 협력을 통해 AI 안전성을 높이고, 업계 전반에 긍정적인 영향을 미칠 수 있을지 주목됩니다. 현재의 논란을 해결하고 진정한 독립성을 확보하는 데 있어 앤트로픽과 액센추어의 행보는 매우 중요한 이정표가 될 것입니다.