오픈AI, '기업용 데이터 보안'으로 승부...프롬프트·응답 저장 안 해

오픈AI가 기업용 데이터 보안을 한층 강화한 새로운 기술을 도입하며, 기업 고객을 대상으로 한 경쟁력을 더욱 높이고 있다. 이번 기술의 주된 사항은 고객의 민감한 데이터에 대한 보안을 철저히 지키면서도, 여러 대화에서 발생할 수 있는 위험 신호를 효과적으로 탐지할 수 있는 기능을 추가했다는 점이다.

제로 데이터 보존 정책의 지속

오픈AI는 19일(현지시간) 발표한 새로운 보안 기술을 통해 기존의 '제로 데이터 보존(Zero Data Retention, ZDR)' 정책을 유지하면서도 보안성을 강화할 수 있는 방안을 제시했다. ZDR 정책 하에서는 고객의 프롬프트와 모델의 응답이 요청 처리 완료 후 오픈AI의 서버에 저장되지 않는다. 이는 고객의 데이터가 오픈AI 직원에 의해 검토되거나, 학습 용도로 사용되지 않도록 보장한다.

이러한 정책은 특히 금융, 의료, 연구 분야와 같이 민감한 정보를 다루는 기업들에게 매우 중요한 요소로 작용한다. 기업들은 AI 기술을 통해 수많은 데이터와 정보를 처리할 수 있지만, 데이터 보존에 대한 우려가 커지고 있기 때문이다. 오픈AI는 이러한 우려를 해결하기 위해 고객이 직접 통제하는 인프라에서 데이터를 안전하게 보관할 수 있는 방식도 제공합니다.

프라이빗 안전 처리의 도입

오픈AI의 새로운 안전 기술은 '프라이빗 안전 처리(Private Safety Processing)'라는 이름으로 불린다. 이 시스템은 여러 대화의 상호작용을 종합적으로 분석하여 잠재적인 사이버 공격이나 악용의 징후를 탐지하는 데 중점을 두고 있다. 기존 시스템은 각 프롬프트와 응답을 개별적으로 분석했으나, 이제는 여러 상호작용에서 나타나는 패턴을 자동으로 분석하여 보다 정교하게 위험을 판단할 수 있다.

예를 들어, 한 사용자가 소프트웨어 취약점에 대해 질문한 후 다른 대화에서 원격 접근 방법이나 보안 탐지 회피 방법을 물어본다면, 단순히 개별적인 요청으로는 정상적인 연구로 비춰질 수 있다. 하지만 여러 대화의 맥락을 종합적으로 분석하면, 실제 공격을 준비하고 있다는 정황을 파악할 수 있게 된다.

이러한 방식은 고객 데이터가 오픈AI에 공개되지 않도록 설계되어 있으며, 위험 신호가 발생하더라도 고객은 자신의 시스템에서 경고나 조치를 조사할 수 있는 권한을 가진다. 오탐지 여부를 판단하거나 정상적인 활동임을 확인하기 위해 필요한 경우에 한해 관련 정보를 오픈AI에 전달할 수 있다.

향후 전망과 의미

오픈AI의 새로운 보안 기술은 기업 고객에게 "내 데이터는 안전하게 보호받고 있다"는 확실한 메시지를 전달하는 것으로, 데이터 보안에 대한 신뢰를 구축하는 데 중요한 역할을 할 것으로 기대된다. 최근 AI 시장에서 데이터 보관과 안전성 확보를 두고 경쟁이 치열해지고 있는 가운데, 오픈AI는 프라이버시를 유지하면서도 안전성을 강화하는 기술을 내세우며 차별화를 꾀하고 있다.

이 기술은 향후 기업들이 AI를 더욱 적극적으로 도입하고 활용할 수 있는 기반을 마련할 것으로 보인다. 여러 단계의 작업을 수행하는 AI 에이전트가 증가함에 따라, 단순한 요청 처리 방식에서 벗어나 시간의 흐름에 따른 행동 패턴을 분석하는 것이 필수적이기 때문이다. 이에 따라 오픈AI의 프라이빗 안전 처리 기술은 기업용 AI의 핵심 보안 기능으로 자리 잡을 가능성이 높아 보인다.