미국 정치권, AI 규제 법안 발의 박차..."AI 개발자도 인류 멸종 믿어"

미국 정치권에서 인공지능(AI)의 발전이 인류에 미칠 잠재적 위협에 대한 우려가 커지고 있습니다. AI 개발자들조차 인류 멸종 가능성을 언급하며, 이에 대한 강력한 규제와 안전장치 마련이 시급하다는 목소리가 높아지고 있습니다. 이러한 분위기 속에서 연방 차원의 법안 제정과 감독 기관 신설이 본격적으로 논의되고 있습니다.

AI의 위험성에 대한 경고

최근 로이터 통신에 따르면, 민주당과 공화당 의원들이 초당적으로 AI의 위험에 대응하기 위한 법안 마련에 나서고 있습니다. 특히, 앤트로픽의 전 연구원 제이콥 콕슨은 “AI를 만드는 사람들이 AI가 이번 10년 안에 우리 모두를 죽일 수 있다고 진지하게 믿고 있다”는 폭로로 정치권의 경각심을 더욱 고조시켰습니다. 같은 회사의 연구원 에번 허빙거 역시 인류 멸종 확률을 10% 이상으로 제시하며, AI의 통제 불가능성에 대한 우려를 표명했습니다.

이러한 내부자의 경고는 정치권의 긴급 대응을 촉발시켰습니다. 버니 샌더스 상원의원과 그레그 카사르 하원의원은 인공 초지능의 개발을 금지하고 이를 감시할 연방기관 설립을 목표로 하는 법안을 발의했습니다. 샌더스 의원은 다음 주에 AI의 인류 위협에 대한 전문가 비공식 브리핑을 개최할 예정이며, 이는 정치적 논의의 시작에 불과합니다.

초당적 대응과 AI 규제 법안

상원에서는 존 튠 공화당 원내대표와 에이미 클로버샤 민주당 상원의원이 함께 AI 제품 규제 법안을 마련하고 있습니다. 클로버샤 의원은 AI 기업이 정부 전문가와 협력해 모델을 검증하도록 해야 한다고 주장하고 있으며, 튠 의원은 재앙적 위험 방지 조항을 법안에 포함시킬 것이라고 강조했습니다. 민주당의 마크 켈리 상원의원은 행정부와 의회가 AI의 위험성을 더욱 심각하게 다루어야 한다고 촉구했으며, 공화당의 테드 크루즈 상원의원도 관련 법안 제정을 착수했습니다.

지방정부 차원에서도 캘리포니아주가 독립 감사기관의 AI 제품 평가 절차를 규정하는 법안을 통과시키며 AI 규제의 필요성을 보여주고 있습니다. 이러한 일련의 움직임은 AI의 급격한 발전이 사회에 미칠 영향에 대한 우려를 반영하고 있으며, 정치권의 긴급한 대응이 필요하다는 점을 강조합니다.

AI 기업의 대응과 앞으로의 방향

AI 기업들도 이러한 정치권의 압박에 대응하기 위해 다양한 대책을 마련하고 있습니다. 예를 들어, 앤트로픽은 사이버 보안 및 생물학적 위험 항목을 중심으로 모델 공격 시험을 강화하겠다고 발표했습니다. 오픈AI는 미국 내 AI 안전 기준의 의무화를 지지하며 개발 속도 조절 가능성까지 내비쳤습니다. 그러나 규제가 지나치게 과도할 경우 경제, 과학, 국가안보 측면에서 부정적인 영향을 미칠 수 있다는 반대 의견도 존재합니다.

결국, AI 기술의 발전과 안전성 간의 균형을 찾는 것이 앞으로의 과제가 될 것입니다. AI의 잠재적 위험이 커지는 가운데, 성급한 규제는 혁신을 저해할 수 있고, 반면 규제가 없다면 인류에게 치명적인 결과를 초래할 수 있습니다. 따라서 정치권과 기업 모두가 협력하여 안전한 AI 발전을 위한 기반을 마련하는 것이 중요할 것입니다.