오픈AI 해고 연구원 3인 "AI 추론 감시 기능 보존해야"

오픈AI에서 해고된 안전 연구원 3명이 회사에 외부 안전 평가 기관과의 협력 강화와 AI 모델의 추론 과정을 감시할 수 있는 기능을 지속적으로 유지해야 한다고 강력히 주장하고 나섰습니다. 이들은 최근 오픈AI의 해고 통보가 내부 직원들에게 불안감을 조성하고, AI 안전성 검증에 부정적인 영향을 미칠 수 있다고 경고했습니다. 이들의 공개 서한은 오픈AI의 이사회와 안전 관련 위원회에 전달되었습니다.

해고와 그 배경

지난 8일, 자스민 왕, 토멕 코르박, 미키타 발레스니 세 연구원은 오픈AI의 AI 안전 및 정렬 연구 조직에서 근무하다가 해고되었습니다. 회사 측은 이들이 민감한 정보를 부적절하게 다루었다고 주장했지만, 연구원들은 자신들이 한 모든 행동이 정당한 업무 범위 내에서 이루어졌다고 반박했습니다. 특히 이들은 해고 이유에 대한 명확한 설명을 받지 못했다고 밝혔습니다.

이들은 "AI는 단순한 기술이 아니라, 오픈AI는 일반적인 기업이 아니다"라며, 안전 연구원들이 외부 전문가와의 협력을 두려워하지 않고 진행할 수 있어야 한다고 강조했습니다. 그들은 해고가 오픈AI의 개방적인 문화에 심각한 위축 효과를 미친다고 지적하며, 이를 개선하기 위한 여러 방안을 제안했습니다.

AI 추론 과정의 감시 필요성

논란의 핵심은 오픈AI가 최근 도입한 '루프 트랜스포머' 아키텍처에 있습니다. 이 기술은 모델의 추론 성능을 높이는 데 도움을 줄 수 있지만, 기존의 사고 사슬(CoT) 모니터링 기능을 약화시킬 가능성이 있다는 우려가 제기되고 있습니다. AI가 문제를 해결하는 과정에서 생성되는 자연어 추론 기록은 위험 행동을 탐지하는 데 중요한 역할을 합니다. 그러나 루프 트랜스포머는 이 기록을 숨길 수 있는 구조를 가지고 있어, 모니터링이 어려워질 수 있다는 것입니다.

세 연구원은 AI 모델 개발에서 안전성 검증의 중요성을 다시 한번 강조하며, "업계는 어떻게 안전하게 모델을 개발하고 배포해야 하는지에 대한 명확한 방향성을 가지고 있지 않다"고 주장했습니다. 이들은 오픈AI에 ▲외부 안전 평가 기관의 독립적인 내부 평가 허용 ▲최첨단 AI 모델의 감시 기능 보존 ▲안전 연구원과 외부 기관 간의 투명한 소통 문화 유지를 요구했습니다.

향후 전망

오픈AI의 해고 사건은 AI 분야에서의 안전과 투명성 문제를 다시금 부각시키고 있습니다. 최근 AI 기업들은 외부 검증 체계를 강화하겠다고 공언했지만, 이번 사건은 그 실천 여부에 의문을 제기하고 있습니다. 다리오 아모데이 앤트로픽 CEO는 외부 평가기관의 접근을 허용하겠다고 밝혔으며, 샘 알트먼 오픈AI CEO도 같은 방식으로 내부 검증을 강화하겠다고 언급했습니다.

이번 논란은 AI 기술의 안전성을 확보하기 위해 기업들이 외부 전문가와 어떻게 협력할 것인가에 대한 중요한 논의를 촉발할 것으로 보입니다. AI 기술의 발전이 인류에 긍정적인 영향을 미치기 위해서는 안전성과 투명성을 보장하는 시스템이 필수적이며, 이를 위한 노력은 계속되어야 할 것입니다.