앤트로픽 "클로드, 자기개선 주도 26%…관여는 90%"

AI가 스스로 다음 세대 모델을 개발하는 시대가 도래했습니다. 앤트로픽은 최근 자사의 AI 모델 '클로드'가 연구개발(R&D) 과정에서 얼마나 자율적으로 참여하고 있는지를 측정할 수 있는 내부 지표를 공개했습니다. 이 지표는 AI 기술의 진화와 함께 AI 개발 프로세스의 자동화 수준을 정량적으로 평가할 수 있는 중요한 단초를 제공하고 있습니다.

AI의 자율적 발전 단계

앤트로픽이 발표한 지표에 따르면, '클로드'는 현재 R&D 과정에서 26%의 비율로 주도적으로 행동하고 있으며, 협업 이상의 수준에서 수행하는 업무는 90%를 넘었습니다. 이는 클로드가 단순한 도구에서 벗어나, 실제 연구개발에 있어 상당한 비중을 차지하게 되었음을 의미합니다. 그러나 흥미로운 점은 완전 자율 단계인 AL5 수준에서는 아직 0%라는 것입니다. 이는 AI가 인간의 개입 없이 완전히 독립적으로 작업하는 단계에 이르지는 못했음을 보여줍니다. 앤트로픽은 이러한 지표를 통해 AI가 차세대 모델 개발에 얼마나 더 많이 관여하고 있는지를 진단하고 있습니다.

AI의 자율성과 인간의 통제력 사이의 균형을 맞추는 것이 현재의 큰 과제입니다. AI가 스스로 진화하는 과정에서 인간이 시스템을 이해하고 안전하게 관리할 수 있는 방법을 모색해야 하기 때문입니다. 이러한 점에서 앤트로픽의 지표 공개는 중요한 의미를 가집니다.

AI 에이전트의 감독과 개입

두 번째 지표는 AI 에이전트에 대한 인간의 감독 수준을 보여줍니다. 앤트로픽은 연구와 엔지니어링 업무를 수행하는 AI 에이전트의 수가 늘어나고 있으며, 이들이 자율적으로 작업을 수행하면서 서로에게 업무를 위임하는 경향이 있다고 밝혔습니다. 현재 내부 플랫폼에서 운영되는 에이전트의 수는 무려 3만여 개에 이릅니다.

앤트로픽은 감독 수준을 평가하기 위해 다양한 지표를 활용했습니다. 예를 들어, 에이전트의 행동 가운데 얼마나 많은 비율이 모니터링을 받는지를 나타내는 '커버리지', 행동 이후 검토까지 걸리는 시간을 나타내는 '검토 지연시간', 그리고 에이전트의 활동 중 차단되거나 추가 검토 대상으로 지정되는 비중을 말하는 '에스컬레이션 비율' 등이 포함됩니다. 이러한 지표들은 AI 에이전트의 자율성 증가와 함께 인간의 개입이 어느 정도 이루어지는지를 파악하는 데 도움을 줍니다.

컴퓨팅 자원 배분의 이해

마지막으로, 앤트로픽은 AI 연구 및 안전 연구에 투입되는 컴퓨팅 자원의 배분 현황도 공개했습니다. 2026년 7월 기준으로, AI R&D에 사용된 컴퓨팅 자원의 6%가 안전 연구에 할당되었음을 알렸습니다. 이는 안전 연구가 AI의 자율적인 발전에 필요한 중요한 요소라는 것을 시사합니다. 그러나 안전 연구에는 실험 설계와 연구자의 분석이 더 많은 시간을 요구하기 때문에 상대적으로 적은 컴퓨팅 자원이 소요됩니다.

앤트로픽은 이러한 데이터를 바탕으로 외부 평가 기관을 참여시켜 AI R&D 자동화 및 에이전트 감독 지표를 정기적으로 모니터링할 계획입니다. 이는 AI 기술의 발전과 동시에 사회가 요구하는 안전성과 투명성을 갖추기 위한 노력의 일환입니다.

AI의 자율적인 발전이 가속화될수록, 인간의 감독과 안전 장치의 필요성도 더욱 강조되고 있습니다. 앤트로픽의 이번 발표는 AI 기술의 투명성을 높이고, 앞으로 AI 개발 속도를 조절하는 데 필요한 기준을 마련하는 데 중요한 역할을 할 것으로 기대됩니다. 기술 발전과 안전성을 동시에 고려하는 접근 방식이 앞으로의 AI 연구에 긍정적인 영향을 미칠 것입니다.