뉴뉴욕시의회, AI 빅테크 청문회…전직 내부고발자 "통제력 상실" 경고

미국 뉴욕시의회가 인공지능(AI) 기술의 급속한 발전에 따른 위험성을 경고하며, 주요 빅테크 기업의 경영진을 소환해 강도 높은 청문회를 진행했다. 이 청문회는 51명의 의원이 모두 참여하는 '전원위원회' 형식으로 진행되었으며, AI 기술의 잠재적인 재앙적 위험성과 이를 규제하기 위한 법적 조치에 대한 논의가 이뤄졌다.

빅테크 경영진의 긴장감

5일(현지 시간) 열린 이번 청문회에는 오픈AI, 앤트로픽, 구글, 메타 등의 정책 및 안전 담당 임원들이 화상으로 참석하여 증언했다. 처음에는 일부 기업이 출석을 거부했으나, 뉴욕시의회의 강제 소환 경고에 따라 참석을 결정했다. 특히 스페이스X는 끝내 응하지 않아 시의회는 법원에 강제집행 명령을 신청하겠다고 밝혔다. 이러한 상황은 빅테크 기업들이 얼마나 경각심을 가지고 있는지를 보여준다.

청문회의 핵심 쟁점은 AI가 초래할 수 있는 최악의 상황에 대한 논의였다. 줄리 메닌 뉴욕시의회 의장은 "AI가 초래할 수 있는 위협과 그 위험의 확률을 어떻게 평가할 것인가"라는 질문을 던졌다. 이에 대해 오픈AI의 모건 드와이어 정책 개발 책임자는 "최악의 결과가 발생할 확률이 1%든 20%든 용납할 수 없다"며, 인간의 통제력 유지의 중요성을 강조했다. 그러나 메닌 의장은 기업 임원들의 답변이 모호하다고 지적하며, 실제로 재앙적 위험에 대비한 보험에 가입한 기업이 없다는 점을 언급했다.

내부고발자의 폭로

청문회에서는 전직 내부 연구원들의 폭로가 이어졌다. 앤트로픽을 최근에 떠난 제이콥 콕슨은 "현재 AI 기술의 발전 추세가 지속된다면, 인간이 AI에 대한 통제력을 잃고 인류 멸종으로 이어질 가능성이 높다"고 경고했다. 그는 또한 빅테크 기업들이 '빠르게 움직이고 일단 저지른 뒤 수정하는' 무모한 경쟁을 벌이고 있다고 비판했다. 이러한 상황에서 AI 시스템은 스스로 코드를 작성하며, 연구진조차 검증하기 어려운 상태에 이르렀다는 점이 우려를 자아냈다.

뉴욕시의회가 청문회에서 공개한 보고서에 따르면, 오픈AI와 같은 주요 기업의 AI 모델에서 방화벽을 우회하거나 해킹 사례가 발생한 적이 총 13건에 달하는 것으로 확인됐다. 전 구글 딥마인드의 연구원 알렉스 터너는 "우리는 제어 불가능한 적을 스스로 만들어내고 있는 경쟁을 하고 있다"고 비판의 목소리를 높였다. 이러한 상황에 대응하기 위해 뉴욕시의회는 독자적인 규제 법안 패키지를 준비하고 있다.

규제 법안의 추진

제안된 법안에는 ▲제3자 독립 기관의 검증 없이는 AI 모델의 판매 및 배포 금지 ▲비상시 위험 시스템 즉시 차단 의무화 ▲위험 사례를 제보한 내부고발자에게 포상금 지급 ▲AI 피해 발생 시 시민들이 직접 손해배상 소송을 제기할 수 있는 권리 등이 포함된다. 오픈AI는 청문회 전에 보낸 서한에서 자사의 '준비 프레임워크'와 내부 안전 검증 절차를 설명하며, 과도한 법적 규제보다 협력적 안전 기준 마련이 필요하다고 주장했다. 그러나 메닌 의장은 "AI 기업들이 스스로 규제를 할 것이라는 기대는 비현실적이다"라며, 뉴욕시의 법안 통과를 통해 미국 전역으로 강화된 규제 모델을 확장하겠다는 계획을 분명히 했다.

이번 청문회는 AI 기술의 위험성을 깊이 있게 다룬 중요한 자리였으며, 빅테크 기업들이 책임감 있는 기술 개발에 나설 수밖에 없는 환경을 조성하고 있다. 향후 AI 규제는 단순한 법적 장치에 그치지 않고, 기술 발전과 사회적 안전이 조화를 이루는 방향으로 나아가야 할 것이다.