구글, 재난·공격 딥페이크 논란에 '구글 어스' AI 이미지 생성 기능 철회

구글이 최근 3D 위성 사진 서비스인 '구글 어스'에 도입한 AI 이미지 생성 기능을 단 하루 만에 중단했습니다. 이 기능은 사용자들이 텍스트 프롬프트를 입력하면 AI가 고화질의 객체나 장면을 실제 위성 지도 위에 합성할 수 있게 해주는 혁신적인 서비스였으나, 예상치 못한 문제들이 발생하자 급히 철회된 것입니다.

AI의 위기, 딥페이크의 확산

구글은 지난 30일(현지시간) '나노 바나나 2'라는 AI 이미지 생성 모델을 구글 어스에 통합하여 새로운 기능을 선보였습니다. 사용자들은 이를 통해 자신이 원하는 이미지를 생성할 수 있었고, 초기 반응은 긍정적이었습니다. 하지만 서비스 개시 직후, 몇몇 사용자가 이 기능을 악용해 재난과 전쟁을 연상시키는 가짜 위성 이미지를 제작하고 이를 소셜 미디어에 공유하기 시작했습니다. 예를 들어, 9·11 테러를 연상시키는 장면부터 이란의 핵 발전소, 샌프란시스코의 금문교 위에 군용 탱크가 있는 모습까지, 사실적인 딥페이크 이미지가 생성되어 온라인에서 난무하게 되었습니다.

이러한 상황은 전문가들 사이에서 큰 우려를 낳았습니다. 구글 어스는 오랫동안 사건과 분쟁 피해를 검증하는 데 중요한 역할을 해온 플랫폼임에도 불구하고, 이곳에서 가짜 이미지가 쉽게 생성되고 배포됨으로써 위성 정보에 대한 대중의 신뢰가 위협받게 된 것입니다. 더욱이 AI가 생성한 이미지는 기존의 자연스러운 위성 이미지와 매우 유사하게 보였고, 스크린샷이나 재촬영을 통해 원래의 워터마크를 쉽게 제거할 수 있는 가능성도 지적되었습니다.

즉각적인 철회와 앞으로의 방향

구글은 이러한 문제가 발생하자, 31일 공식 성명을 통해 해당 기능의 운영을 즉시 중단한다고 발표했습니다. 구글 대변인은 “생성된 이미지의 스크린샷을 공유해 구글 정책을 위반하는 사례를 확인했다”며 “더 강력한 안전장치를 마련하는 동안 구글 어스에서 해당 기능을 철회한다”고 설명했습니다. 이와 함께 AI가 생성한 이미지에는 워터마크가 표시되어 있으며, 일반 구글 어스에서는 이를 볼 수 없다고 덧붙였습니다.

이번 사건은 단순히 구글의 문제만이 아닙니다. 메타도 최근 비슷한 상황을 겪었는데, 인스타그램에서 AI 생성 이미지를 사용할 수 있는 기능을 도입했다가 사용자의 반발로 인해 단 며칠 만에 서비스를 중단한 바 있습니다. 이러한 사례들은 AI 기술 도입이 가져오는 리스크와 그에 대한 사회적 검증 기준의 충돌을 여실히 보여줍니다.

결론: AI 기술의 미래와 안전성 확보 필요성

구글 어스의 딥페이크 이미지 생성 기능 철회 사건은 AI 기술이 사회에 미치는 영향과 그에 따른 부작용을 다시 한번 일깨워줍니다. 브래디 애프릭 미국기업연구소 연구원은 “AI가 위성 이미지 조작의 문턱을 획기적으로 낮췄다”며 “전문 정보기관 수준의 기술 없이도 누구나 그럴듯한 정황을 만들어 여론과 시장을 흔들 수 있게 되었다”고 지적했습니다. 이러한 사태는 빅테크 기업들이 시장 선점을 위해 성급히 AI 기능을 도입하는 것에 대한 경각심을 불러일으키고 있으며, 향후 더 강력한 안전장치와 규제 기준 마련의 필요성을 강조하는 계기가 될 것입니다. AI 기술의 발전이 긍정적인 방향으로 나아가기 위해서는 사회적 신뢰를 확보할 수 있는 근본적인 통제 장치가 절실히 요구되고 있습니다.