"단순 실수가 26억 손실로"…아마존, AI 도입 중 예산 860% 폭증

아마존이 최근 AI 도입 과정에서 발생한 비용 통제 실패로 인해 엄청난 손실을 입은 사실이 드러나면서, 기업들이 AI를 활용하는 데 있어 비용 관리의 중요성이 다시 한번 부각되고 있다. 특히, 단순한 코딩 오류나 설정 실수가 수백만 달러의 예산 낭비로 이어질 수 있다는 점이 이번 사건을 통해 명확히 드러났다.

AI 도입, 예산 폭증의 문제

30일(현지시간) 파이낸셜타임스에 따르면, 아마존은 생성 AI 프로젝트에서 발생한 예산 초과 사례를 분석하며 내부 비용 관리 체계를 재정비하고 있다. 과거 몇 달러면 해결되던 문제들이 AI 모델을 활용하는 환경에서는 수백만 달러 단위의 손실로 이어지면서, 기업들은 새로운 비용 관리 문제에 직면하게 되었다. 아마존이 최근 도입한 앤트로픽의 '클로드 소네트'는 전자상거래 플랫폼에서 도서 저자 정보와 상품 목록을 자동으로 일치시키기 위한 프로젝트였으나, 예산이 무려 860%나 초과해 180만 달러(약 26억 원)의 손실을 기록했다. 더욱이, 문제를 인지하기까지 5개월이 걸려 피해 규모는 눈덩이처럼 증가했다.

이와 함께 아마존의 재무 감사 시스템 구축 프로젝트에서도 54만1000달러(약 7억8000만 원)의 추가 비용이 발생했으며, 물류 네트워크의 배송 시간을 단축하기 위한 AI 시스템 개발에서도 13만4000달러(약 2억 원)의 예산 초과가 나타났다. 이러한 사례들은 아마존의 수석 엔지니어들이 회의를 통해 정보를 공유하고 있으며, 발생 원인과 개선 방안에 대한 논의가 지속되고 있다.

AI 활용 환경의 새로운 도전

AI 시스템의 토큰 기반 과금이 증가하면서, 기존에는 미미했던 오류들이 막대한 비용으로 확대되는 경향이 뚜렷해졌다. 아마존 내부에서는 AI 활용 과정에서 발생하는 비용 관리 실패가 기존 프로그래밍 환경에서는 거의 비용이 들지 않던 실수들이 AI 환경에서는 "재앙적인 비용(catastrophically expensive)"으로 이어질 수 있다는 우려가 제기되고 있다. AI를 활용한 작업이 커질수록 토큰 사용량이 기하급수적으로 증가하게 되며, 이로 인해 일부 기업들은 연간 AI 예산을 불과 몇 주 만에 소진하는 사례도 발생하고 있다.

아마존은 이러한 문제를 해결하기 위해 AI 관련 프로젝트를 점검하고 있으며, 실험과 학습을 통해 비용 효율성을 높이겠다는 의지를 보이고 있다. 그러나 일부 팀에서 발생한 비용 초과 사례가 전체 조직의 AI 활용 현황을 반영하지 않는다는 점도 강조하고 있다.

향후 전망 및 의의

AI 기술의 발전은 기업들에게 새로운 기회를 제공하지만, 그와 동시에 비용 관리의 필요성도 더욱 증가시키고 있다. 아마존은 AI 비용 통제 문제를 해결하기 위해 시스템 접근 권한을 축소하고, AI 활용 실적을 경쟁시키던 직원별 AI 사용 순위표를 폐지하는 등의 조치를 취하고 있다. 이는 기업들이 AI 도입을 가속화하면서도 효율적인 비용 관리를 함께 고려해야 함을 시사한다.

AI가 구독형 요금제에서 토큰 사용량 기반 과금 체계로 전환됨에 따라, 기업들은 더욱 철저한 비용 관리 체계를 갖추고, 예측 가능한 예산 운용을 통해 AI 기술을 안정적으로 활용해야 할 시점에 이르렀다. 이번 아마존의 사례는 단순한 실수가 가져올 수 있는 결과를 여실히 보여주며, 기업들이 AI 도입 시 예산 관리의 중요성을 다시 한 번 깨닫게 되는 계기가 될 것으로 보인다.