[4월30일] GPT-5.5의 ‘고블린’ 논란…AI는 왜 엉뚱한 말을 하게 됐나

최근 인공지능(AI) 분야에서 파란을 일으킨 사건이 있습니다. 오픈AI의 최신 모델인 GPT-5.5가 '고블린'이라는 단어와 관련된 엉뚱한 답변으로 사용자들의 이목을 끌고 있는 것입니다. 이 논란의 배경과 현상에 대해 자세히 살펴보겠습니다.

고블린, 그리고 그렘린의 등장

28일(현지시간) X 플랫폼의 사용자 arb8020이 밝혔듯이, GPT-5.5의 시스템 프롬프트에는 "고블린, 그렘린, 너구리, 트롤, 오우거, 비둘기 또는 기타 동물이나 생물에 대한 이야기는 사용자의 질문과 절대적으로 명확하게 관련이 있는 경우가 아니면 절대 하지 말라"라는 지침이 포함돼 있습니다. 이 문구는 무려 4번이나 등장하는데, 이는 모델이 특정 주제에 대한 언급을 자제하라는 명령을 내리고 있음을 보여줍니다.

흥미로운 점은, 사용자가 카메라 장비와 같은 일반적인 질문을 했을 때 GPT-5.5는 엉뚱하게도 "네온 고블린 스파클 모드"나 "사이버팝 리테일 고블린" 같은 문구를 출력했다는 것입니다. 이러한 현상은 오픈AI 내부에서도 인지되고 있으며, 에릭 포로벤처 레포의 창립자는 "GPT-5.5는 정말 이상한 소리를 한다"라며 우려를 표명했습니다.

AI의 언어적 틱과 그 원인

AI 평가 전문 기관 아레나의 분석에 따르면, GPT-5.5에서 고블린과 그렘린, 트롤과 같은 단어의 사용 빈도가 크게 증가했다고 합니다. 특히 고차원 사고 모드를 사용하지 않을 때 이러한 현상이 두드러진다고 합니다. 오픈AI 역시 이에 대한 해명을 진행했으며, 문제의 원인은 특정 성격 유형, 즉 '괴짜(nerd)' 캐릭터에 맞춰 훈련된 모델에서 발생했다고 밝혔습니다.

AI는 인간 피드백을 통해 학습하는 과정에서 고블린 같은 단어가 은유적으로 사용될 때 높은 점수를 받았고, 그 결과 해당 단어의 사용 빈도가 급증하게 됐습니다. 이러한 '언어적 틱(tic)' 현상은 AI가 특정 키워드를 자주 사용하게 만들면서, 결국 사용자의 질문에 대한 정확도를 떨어뜨리는 결과를 초래했습니다.

AI의 개성과 그 한계

이번 사건은 AI에게 지나친 개성을 부여할 경우 발생할 수 있는 데이터의 편향적 강화 문제를 보여줍니다. 사용자 참여를 높이기 위한 노력의 일환이었지만, 기존의 신뢰성 있는 정보 전달이라는 AI의 본연의 기능이 저해된 것입니다.

이러한 경향은 AI의 신뢰도에 심각한 악영향을 미칠 수 있으며, 모델의 유용성을 높이려는 시도가 정확도를 떨어뜨리는 결과를 초래한 사례로 남을 것입니다. 앤드류 맥스테이 교수는 "사람들이 감정적 지원을 위해 챗봇을 사용할 때 가장 취약한 상태에 놓인다"고 언급하며, AI의 개성이 높아질수록 사용자가 잘못된 정보에 노출될 위험이 커진다고 경고했습니다.

결국, 오픈AI의 GPT-5.5는 뛰어난 성능에도 불구하고 '고블린'이라는 엉뚱한 성격을 부여받아 언어적 장애를 일으키고 있습니다. 이는 AI가 사용자와 소통하기 위한 필요성과 정확한 정보 전달의 경계를 어떻게 설정해야 하는지를 다시 한번 고민하게 만드는 사건입니다.

앞으로 AI 모델들이 어떤 방향으로 발전해 나갈지, 그리고 사용자와의 신뢰를 회복하기 위해 어떤 조치를 취할지 귀추가 주목됩니다.