"외주 인력이 챗GPT 대화 검토"...오픈AI, '프로젝트 릴리' 개인정보 논란

오픈AI의 비밀 프로젝트가 드러나면서 개인정보 보호에 대한 우려가 커지고 있다. 최근 보도에 따르면, 오픈AI는 '챗GPT' 사용자들의 대화를 외부 계약직 인력에게 검토하도록 하는 비공식 프로젝트인 '프로젝트 릴리'를 운영해 온 것으로 밝혀졌다. 이 프로젝트는 모델 개선을 위한 인간 피드백을 수집하기 위해 진행되었으나, 사용자의 민감한 정보 노출 가능성 때문에 논란이 일고 있다.

프로젝트 릴리, 사용자의 대화는 어떻게 검토되나?

오픈AI는 수백 명의 외주 계약직 인력을 통해 챗GPT 사용자들의 대화 내용을 평가하는 작업을 진행해왔다. 이들은 '프롬프트 리뷰어'라는 역할을 맡아 사용자가 남긴 대화를 검토하고, 챗GPT가 생성한 답변의 품질을 점검하는 일을 수행했다. 특히, 지나치게 AI다운 표현이나 비꼬는 듯한 어조, 불필요한 이모지 사용 등에 대한 평가가 중심이 되었다. 이러한 평가 과정은 챗GPT의 성능을 개선하기 위한 인간 중심의 강화학습(RLHF)의 일환으로, 대화의 맥락과 정확성을 바탕으로 이루어진다.

그러나 사용자 대화가 익명화된다고 해도, 모든 개인정보가 완벽하게 제거되지 않는다는 점이 우려를 낳고 있다. 특히 짧은 대화의 경우, 이름이나 기타 개인 정보가 필터링되지 않고 남아있을 가능성이 제기되고 있다. 프로젝트에 참여한 리뷰어들은 사용자의 질문과 관심사를 요약한 '사용자 메모리 요약'을 참고할 수 있으며, 이 과정에서 위치 정보와 같은 민감한 데이터가 포함될 여지가 있다.

사용자 개인정보 보호, 얼마나 안전할까?

챗GPT를 친구처럼 이용하며 개인적인 고민을 털어놓는 사용자들도 많다. 이처럼 민감한 대화가 외부 인력에게 노출될 수 있다는 사실은 사용자들에게 큰 불안감을 줄 수밖에 없다. 오픈AI는 이러한 검토 과정이 사실관계의 전반적인 검증과는 별개로 운영되며, 모델 개선을 위한 인간 피드백이 중요한 역할을 한다고 설명하고 있지만, 사용자로서는 자신의 대화가 실제 사람에게 읽힐 수 있다는 점을 충분히 인지하고 있었는지가 의문으로 남는다.

실제로 오픈AI는 챗GPT 사용자 서비스의 대화가 모델 개선을 위한 인간 검토의 대상이 될 수 있다는 내용을 FAQ를 통해 안내해왔다. 그러나 이러한 정보가 얼마나 효과적으로 사용자의 눈에 띄었는지는 불확실하다. 이후 관련 보도가 나온 뒤에는 데이터 활용 및 옵트아웃 방법 안내 페이지도 수정한 것으로 알려졌다.

생성 AI의 미래, 인간의 손길은 필수

이번 논란은 생성 AI의 성능 개선 과정에서 인간의 직접적인 피드백이 여전히 중요한 요소임을 보여준다. 기술이 발전하더라도 실제 사용 사례를 분석하고 피드백을 주는 과정은 결코 대체될 수 없는 부분이다. 이는 단순히 모델의 학습 데이터와 기술만으로 문제를 해결할 수 없음을 시사한다.

앞으로 이러한 문제를 해결하기 위해서는 더욱 투명하고 철저한 개인정보 보호 정책이 필요할 것이다. 사용자들이 신뢰할 수 있는 환경에서 AI 기술을 활용할 수 있도록 하는 것이 무엇보다 중요하다. 오픈AI와 같은 기업들이 이러한 우려를 해소하고, 사용자와의 신뢰를 쌓아가는 노력이 필요할 때이다.