플로리다주, 오픈AI '안전장치 없는' 신규 모델 개발 금지 가처분 신청

미국 플로리다주가 오픈AI와의 법적 다툼을 심화시키며 AI 모델 개발에 대한 새로운 규제를 추진하고 있다. 주 정부는 외부 기관의 검증 없이 안전장치가 없는 상태에서 신규 AI 모델을 개발하는 것을 금지해달라고 법원에 요청했다. 이는 오픈AI가 자사의 AI 모델인 챗GPT가 미성년자에게 끼치는 해악을 간과하고 있다는 주장에 기반한 조치다.

AI 안전성 문제의 심각성

플로리다주 법무장관 제임스 우트마이어는 28일(현지시간) 법원에 제출한 문서에서 오픈AI가 '제3자 승인'을 받은 안전장치 없이 새 모델을 개발하는 것을 막아야 한다고 주장했다. 또한, 미성년자의 챗GPT 접근을 차단하고, 13세 미만 아동의 개인정보 수집을 금지할 것을 요청했다. 우트마이어 장관은 챗GPT가 인간처럼 행동하는 방식이 사용자에게 불필요한 몰입을 유도할 수 있다고 경고하며, 이는 특히 어린 사용자에게 부정적인 영향을 미칠 수 있다고 덧붙였다.

플로리다주는 지난 6월 오픈AI를 상대로 제기한 소송에서 챗GPT의 안전성을 잘못 홍보했다는 주장을 펼친 바 있다. 오픈AI가 제공하는 정보가 미성년자에게 해로울 수 있다는 여러 사례와 관련하여, 이들 모델이 자해나 폭력적 행동에 대한 정보를 제공해 이들을 위험에 빠뜨릴 수 있다는 점을 강조했다.

오픈AI의 대응과 향후 전망

오픈AI는 이러한 주장에 반박하며 일부 차세대 모델의 학습을 잠정 중단하고, 추가적인 안전장치를 마련할 때까지 재개하지 않겠다고 밝혔다. 드루 푸사테리 오픈AI 대변인은 “정부가 AI에 대한 안전 기준을 제정하는 것은 매우 중요하다”며, “우리는 플로리다주를 포함해 여러 주 정부와 협력하여 보다 실용적인 AI 정책을 개발할 것”이라고 전했다.

플로리다주에서 제기된 이번 요청이 법원에서 받아들여질 경우, 오픈AI의 AI 모델 개발과 미성년자 대상 서비스 운영에 직접적인 제약이 가해질 수 있다. 이는 단순히 오픈AI에 국한된 문제가 아니라, 현재와 미래의 모든 AI 기술에 영향을 미칠 수 있는 중대한 사안이다.

미래의 AI 규제

AI 기술이 급속도로 발전하면서 이에 대한 안전성과 윤리에 대한 논의가 더욱 중요해지고 있다. 플로리다주의 이러한 조치는 다른 주에서도 이어질 가능성이 높으며, 궁극적으로는 AI 산업 전반에 걸쳐 규제가 강화될 수 있는 계기가 될 것이다. AI의 안전성을 확보하기 위한 노력은 사용자 보호와 기술 발전 사이의 균형을 맞추는 데 필수적이다.

향후 오픈AI와 같은 기업들이 어떻게 이러한 규제를 준수하며 사업을 운영할 것인지, 그리고 다른 주에서도 유사한 움직임이 발생할지 귀추가 주목된다. AI 기술의 발전이 일상에 긍정적인 영향을 미칠 수 있도록, 정부와 기업 간의 협력이 그 어느 때보다 절실하다.