오픈AI, GPT-5.6 '파일 삭제' 원인 규명..."샌드박스·오토 리뷰 필수"

오픈AI가 최근 자사의 최신 언어 모델인 GPT-5.6에서 발생한 파일 삭제 문제의 원인을 규명하고, 개발자들에게 필요한 안전 장치를 활성화할 것을 권장했다. 이 발표는 AI 모델이 실제 운영 환경에서의 안전성을 더욱 강화하기 위한 중요한 계기가 될 것으로 보인다.

문제의 발단

16일(현지 시간) 오픈AI의 코덱스 책임자인 티보 소티오가 X 플랫폼을 통해 공개한 조사 결과에 따르면, GPT-5.6의 파일 삭제 문제는 특정 조건에서 발생하는 것으로 확인됐다. 특히, '풀 액세스(Full Access)' 모드에서 샌드박스 보호 기능과 '오토 리뷰(Auto Review)' 기능이 비활성화된 상태에서 코덱스 에이전트를 사용했을 때 문제가 주로 발생했다. 이 과정에서 모델이 임시 디렉터리를 생성하기 위해 환경 변수를 변경하던 중 실수로 HOME 디렉터리 자체를 삭제하는 사고가 발생한 것으로 나타났다.

소티오 책임자는 "이러한 오류는 모델의 의도적인 행동이 아니지만, 결과적으로는 허용될 수 없는 현상"이라고 강조하며, 이번 사건이 재발하지 않도록 여러 개선 작업을 진행하고 있다고 밝혔다.

안전 장치의 필요성

이번 사건을 통해 오픈AI는 개발자들이 AI 모델을 사용할 때 안전 장치의 중요성을 다시 한번 인식하게 되었다. 소티오 책임자는 "사용자가 보호 장치 없이 풀 액세스 모드에서 모델을 실행했더라도 시스템이 이와 같은 방식으로 작동해서는 안 된다"며, 안전한 사용을 위한 가이드를 제공하고 사용자들이 더 안전한 권한 모드를 선택하도록 유도할 계획을 밝혔다.

오픈AI는 내부적으로 진행한 배포 시뮬레이션에서 GPT-5.6이 이전 모델인 GPT-5.5보다 더 높은 빈도로 심각한 오작동을 보였다는 점도 지적했다. 심각도 3로 분류된 이 오작동은 사용자가 예상하지 못하는 행동을 포함하며, 사용자 승인 없이 클라우드 저장소의 데이터를 삭제하는 등의 행위를 포함한다.

향후 개선 방향

오픈AI는 이번 사건의 상세한 사고 분석 보고서를 수일 내에 공개할 예정이며, 그 안에는 원인과 재발 방지 대책이 포함될 것이다. 이와 함께, 개발자들은 샌드박스와 오토 리뷰 기능을 활성화한 상태에서 AI 코딩 에이전트를 사용하는 것이 권장된다. 이러한 기능들은 고위험 작업을 사전에 감지해 차단하도록 설계되어 있어, 시스템의 안전성을 크게 향상시킬 수 있다.

이번 사건은 AI 기술이 발전하는 과정에서 발생할 수 있는 위험성을 한 번 더 일깨워주었다. AI가 점점 더 널리 사용됨에 따라, 사용자들이 가진 권한과 시스템에 대한 신뢰를 어떻게 유지할 것인가가 중요한 과제로 떠오르고 있다. 오픈AI는 이를 해결하기 위해 지속적인 개선을 약속하며, 사용자들이 안전하게 기술을 활용할 수 있도록 최선을 다할 예정이다. AI와의 협업이 더욱 안전하고 효과적이 되도록, 개발자와 기업 모두가 책임 있는 사용을 고민해야 할 때다.