캘리포니아, AI ‘킬 스위치’ 의무화 추진… 뉴섬 주지사, 트럼프에 대립각

캘리포니아주가 인공지능(AI) 기술의 비상 정지 기능인 '킬 스위치' 도입과 독립적인 감사 절차를 의무화하는 강력한 행정명령을 발표했습니다. 개빈 뉴섬 주지사는 18일(현지시간) 이 같은 내용을 담은 행정명령에 서명하며, AI 기술의 잠재적 위험성을 관리하기 위한 주정부의 안전 및 보안 감독 체계를 한층 강화할 것이라고 밝혔습니다. 이러한 결정은 AI 기술에 대한 규제가 지연되고 있는 가운데, 캘리포니아주가 모범 사례를 선도하겠다는 의지를 담고 있습니다.

AI 감독 체계의 강화를 위한 구체적 계획

이번 행정명령에 따라 캘리포니아주는 2개월 내에 전담 전문가 실무 그룹을 구성해 최첨단 AI 연구소에 대한 독립 평가자를 배치하는 등 다양한 조치를 시행할 예정입니다. 이 그룹은 AI 시스템의 안전 계획을 외부에서 검증하고, 비상 시 기능하는 킬 스위치를 구축하는 등 기술적 타당성을 바탕으로 한 강화 가이드라인을 제출하게 됩니다. 킬 스위치는 AI 시스템이 악성으로 작동하거나 통제를 벗어났을 경우 이를 즉각 중단할 수 있는 기능으로, 향후 AI 기술의 안전성을 높이는 중요한 수단으로 자리 잡을 전망입니다.

뉴섬 주지사는 "연방정부가 AI에 대한 의미 있는 감독 체계를 마련하지 못한 것은 모든 미국인에게 심각한 위협이 될 수 있다"며, 캘리포니아가 이러한 문제에 선제적으로 대응하고 있다고 강조했습니다. 그는 또한 마이크 존슨 하원의장에게 의회가 휴회를 중단하고 조속히 안전 법안을 통과시킬 것을 촉구했습니다.

정치적 배경과 의미

이번 행정명령은 단순한 규제 강화에 그치지 않습니다. 뉴섬 주지사가 2028년 민주당 차기 대선 후보로 거론되는 가운데, 도널드 트럼프 전 대통령이 AI 규제를 '사기'라고 주장하는 상황에서 캘리포니아주는 연방 정부와의 대립각을 세우고 있습니다. 뉴섬 주지사는 "워싱턴이 국민을 보호해야 할 책임을 회피하는 동안, 캘리포니아는 강력한 규제 체계를 구축하고 있다"고 강조하며, 주정부 차원에서의 선도적인 역할을 분명히 했습니다.

이러한 움직임은 AI 기술을 다루는 주요 기업들에게도 큰 영향을 미칠 것으로 예상됩니다. 오픈AI와 앤트로픽 등 실리콘밸리에 본사를 둔 기업들은 이번 행정명령에 대해 긍정적인 반응을 보이며, 뉴섬 주지사와 협력하여 국가적인 안전장치를 마련하는 데 기여하겠다고 밝혔습니다.

앞으로의 전망

캘리포니아의 이번 조치는 단순히 주정부 차원의 규제를 넘어, 전국적인 AI 정책의 방향성을 제시하고 있습니다. AI 기술이 더욱 발전하고 있는 가운데, 그에 대한 책임감 있는 관리 및 감독이 절실하다는 점은 이제 더 이상 논란의 여지가 없습니다. 앞으로 미국 내 다른 주에서도 유사한 규제책이 마련될 가능성이 높아 보이며, 이는 글로벌 AI 산업 전반에 걸쳐 안전과 윤리를 중시하는 새로운 기준을 세우는 계기가 될 것으로 기대됩니다.