PwC, AI '환각 보고서' 파문...존재하지 않는 논문·가짜 출처 수두룩

세계적인 컨설팅 기업 PwC가 최근 발표한 보고서에서 생성된 AI의 '환각' 현상이 드러나면서 큰 파문이 일고 있다. 보고서에는 존재하지 않는 출처와 허위 각주가 다수 포함되어 있어, 기업과 정부를 대상으로 한 PwC의 신뢰성에 의문을 제기하고 있다. AI 기술을 활용한 작성 과정에서 발생한 오류가 심각하게 드러난 이번 사건은 비단 PwC에만 국한되지 않을 것으로 보인다.

AI 환각의 실체

AI 환각이란, 생성형 인공지능이 실제로 존재하지 않는 정보나 출처를 만들어내는 현상을 말한다. PwC의 중동 지사는 최근 2년간 발간한 4개의 보고서에서 이러한 환각 현상이 다수 발견됐다. GPT제로라는 AI 탐지 전문 기업의 조사에 따르면, 보고서 내용에는 그럴듯한 설명이 포함되어 있지만, 각주와 참고문헌에서는 실체가 없는 웹페이지나 문헌이 다수 인용되고 있는 것으로 나타났다.

예를 들어, 리야드 대기질에 관한 논문이 인용되었으나, 조사 결과 해당 논문은 AI에 의해 창작된 것으로 추정된다. 또 다른 보고서에서는 JP모건의 AI 성공 사례를 소개하면서 관련 내용을 구체적으로 설명했지만, 인용된 자료가 신뢰할 수 없는 개인 블로거의 게시글이라는 점이 밝혀졌다. 이러한 조작된 정보는 PwC가 AI를 기반으로 한 컨설팅을 제공하고 있다는 사실과는 상반된 모습이다.

잘못된 출처의 연쇄

PwC의 보고서에서 드러난 문제는 단순히 한두 번의 오류에 그치지 않는다. GPT제로의 연구원들은 동일한 사실을 짧은 문서에서 서로 다른 출처로 세 번 반복 인용한 사례도 발견했다. 이는 AI가 생성한 문서에서 자주 발생하는 특징으로, 인간 연구자라면 같은 내용을 여러 번 다른 출처로 인용하는 일이 드물기 때문에 더욱 이목을 끈다.

특히, 한 사이버 보안 관련 기사의 URL에서 'utm_source=chatgpt.com'이라는 문자열이 발견된 점은 AI가 생성한 링크가 검증 없이 보고서에 삽입되었음을 시사한다. 이는 AI의 활용이 어떻게 잘못된 정보를 생산할 수 있는지를 보여주는 중요한 사례로, PwC의 연구 자료에 대한 신뢰를 크게 흔들고 있다.

PwC의 대응과 향후 전망

이러한 문제가 제기되자 PwC 중동 지사는 발간한 연구의 정확성을 중시한다고 밝히며, 확인된 보고서의 일부 참고문헌을 수정하고 있다고 전했다. 그러나 이러한 오류가 어떻게 보고서에 포함되었는지에 대한 구체적인 설명은 없었다. 이는 기업의 전문성과 신뢰성에 심각한 타격을 줄 가능성이 높다.

AI의 활용이 점차 증가하고 있는 가운데, PwC와 같은 대형 컨설팅 기업들이 AI를 통해 제공하는 정보의 신뢰성을 유지하는 것이 무엇보다 중요하다. 이번 사건은 단순한 오류가 아닌, AI의 활용에 대한 경각심을 일깨우는 계기가 될 것으로 보인다. 향후 기업들은 더 철저한 검증 절차를 마련하고, AI 활용에 대한 책임 있는 접근 방식을 채택해야 할 것이다. AI의 발전이 가져올 수 있는 기회와 위험을 균형 있게 다루는 것이 중요해진 시점이다.