캘리포니아, AI만으로 직원 해고·징계 못한다…뉴섬 주지사 법안 서명

캘리포니아주가 인공지능(AI)을 활용한 인사 결정 과정에서 인간의 개입을 의무화하는 새로운 법안을 도입했다. 개빈 뉴섬 주지사는 30일(현지시간) AI에 의존해 직원의 해고나 징계를 결정하는 것을 금지하는 법안 SB 947에 서명했다. 이 법안은 ‘노 로보 보스(No Robo Bosses)’라는 이름으로 불리며, AI의 판단에 인간 검토가 필수적임을 강조하고 있다.

인간의 개입을 요구하는 법안

이번 법안은 기업들이 자동화된 의사결정 시스템(ADS)의 결과만으로 인사 결정을 내리는 것을 금지한다. 특히, AI가 주된 근거로 사용됐다면, 인간 검토자가 추가 정보를 바탕으로 판단을 뒷받침해야 한다. 예를 들어, 해고나 징계에 해당하는 직원에게는 AI가 결정 과정에서 활용한 데이터와 그에 대한 설명을 서면으로 제공해야 하며, 이를 통해 직원은 자신의 인사 결정에 대한 투명성을 확보할 수 있다.

법안을 발의한 민주당 제리 맥너니 주 상원의원은 "AI는 인간이 통제하는 도구로 남아야 한다"며, AI의 판단이 일자리와 관련된 결정을 통제해서는 안 된다고 강조했다. AI는 생산성을 높일 수 있는 잠재력을 지니고 있지만, 오류나 편향이 발생할 수 있다는 점을 고려해야 한다는 것이다.

AI 규제의 필요성과 기업의 반발

캘리포니아주에서는 AI가 노동 시장에 미치는 영향에 대한 규제를 강화하고 있다. 주정부는 AI에 의해 발생하는 일자리 변화를 추적하기 위한 ‘AI 실업 추적기’를 도입했고, 최근에는 AI 기업에 대한 안전성 평가와 감독을 강화하는 행정명령도 발표했다. 이러한 법안들은 AI가 노동 시장에 미치는 부정적인 영향을 완화하기 위한 방안으로 해석된다.

하지만 기업 측에서는 ‘주로 의존한다’는 기준이 모호하다는 점을 우려하고 있다. 어떤 AI 도구가 규제 대상이 될지 명확하지 않다는 것이 문제이다. 이로 인해 기업들은 자칫 법을 위반할 위험에 처할 수 있으며, 이는 비즈니스 운영에 부담이 될 수 있다.

AI와 노동 시장의 미래

캘리포니아의 이번 법안은 미국 내 다른 주들에게도 영향을 미칠 가능성이 크다. 일리노이주 등 일부 지역에서는 이미 AI를 활용한 채용 및 인사 결정에 대해 노동자에게 알리도록 하는 규제를 시행하고 있지만, 캘리포니아처럼 AI의 판단에 인간의 검토를 의무화한 사례는 드물다. 이는 AI 기술의 발전과 함께 노동 시장의 규제가 어떻게 진화해야 하는지를 보여주는 중요한 사례로 남을 것이다.

뉴섬 주지사는 이날 카메라와 마이크가 장착된 스마트 안경 등 웨어러블 기기의 몰래 녹음을 제한하는 법안에는 거부권을 행사했으며, 이는 기술 발전에 따른 개인 정보 보호의 필요성을 동시에 강조하는 모습이다. 기업과 정부가 AI를 어떻게 활용하고 규제할 것인가에 대한 논의는 앞으로도 계속될 전망이다. 노동 시장에서 AI의 역할이 커져가는 만큼, 인간의 개입을 의무화하는 이번 법안은 기술과 윤리가 교차하는 지점에서 중요한 의미를 지닌다.