"AI가 인류 위협" 경고한 제이콥 콕슨, 뉴욕시의회 청문회 선다

뉴욕시가 인공지능(AI)의 잠재적 위험성을 규제하기 위한 청문회를 개최합니다. 이번 청문회에는 전직 AI 연구원들과 주요 빅테크 기업의 대표들이 참석해, AI 기술의 발전이 초래할 수 있는 위협에 대해 심층적으로 논의할 예정입니다. 특히, 최근 AI 분야의 비판자로 떠오른 제이콥 콕슨이 증언할 예정으로, 그의 발언은 많은 주목을 받고 있습니다.

AI 기술의 위험성, 콕슨의 경고

제이콥 콕슨은 오픈AI와 앤트로픽에서 3년간 사전 훈련 연구를 이끌었던 전문가입니다. 그는 지난달 사임 후, 자신의 SNS에 올린 글이 1억7000만회의 조회수를 기록하며 큰 화제를 모았습니다. 콕슨은 자율 재귀적 자기개선(Recursive Self-Improvement, RSI) 기술 개발 경쟁이 통제 불가능한 상황으로 치닫고 있다고 경고하고 있습니다. 그의 우려는 단순한 개인의 생각이 아닌, AI 기술이 가져올 수 있는 심각한 사회적 파장에 대한 경고로 해석됩니다.

이번 청문회에서는 콕슨 외에도 AI 분야의 다양한 전문가들이 참여합니다. 구글 딥마인드 출신의 알렉스 터너와 전 오픈AI 연구원이자 AI 퓨처스 프로젝트를 이끄는 대니얼 코코타일로 등, AI 기술의 안전성을 문제 삼은 이들이 대거 증언에 나섭니다. 이들은 AI 기술이 인류에게 미치는 영향에 대한 심도 깊은 논의를 이끌어낼 것으로 기대됩니다.

빅테크 기업의 대응과 뉴욕시의회 압박

뉴욕시의회는 이번 청문회를 통해 AI 기술의 안전성을 확보하기 위한 법적 장치를 마련하고자 합니다. 처음에는 출석을 거부했던 구글과 앤트로픽도 시의회 측의 법적 압박에 따라 결국 임원을 보내기로 결정했습니다. 이는 AI 안전 문제에 대한 사회적 요구가 얼마나 강력한지를 보여주는 사례로, 향후 다른 지역에서도 유사한 움직임이 있을 것으로 보입니다.

특히, 뉴욕시의회는 AI 시스템의 위급 상황에서 즉시 작동을 정지할 수 있는 '킬 스위치'를 의무화하는 법안을 논의 중입니다. 이는 AI 기술이 예기치 않은 사고를 일으킬 경우, 즉각적으로 대응할 수 있는 중요한 장치가 될 것입니다. 아울러, 내부고발자에게는 기업으로부터 회수한 과태료의 일부를 보상금으로 지급하는 방안도 검토되고 있습니다. 이러한 조치는 AI 기술의 안전성을 높이는 동시에, 기업의 책임성을 강조하는 방향으로 나아가고 있습니다.

향후 전망: AI 규제의 필요성과 가능성

이번 청문회를 통해 AI 기술의 위험성을 논의하는 것이 단순한 경고에 그치지 않고 실제적인 규제로 이어질 가능성이 높습니다. AI 기술이 발전하면서 인류가 직면할 수 있는 다양한 문제를 예방하기 위해서는 보다 강력한 법적 장치가 필요합니다. 실제로, AI 시스템 피해자가 개발사를 상대로 직접 소송을 제기할 수 있는 '직접 소송권' 부여 방안도 시의회에서 추진 중입니다.

AI 기술의 안전성 문제는 단순히 한 지역의 문제가 아닙니다. 글로벌 차원에서 AI 기술의 발전과 위험성을 함께 고민해야 할 시점입니다. 뉴욕시의회가 선도적인 역할을 하며 AI 기술의 안전성을 확보하려는 이번 움직임은 다른 지역과 국가에서도 유사한 논의가 이루어질 수 있는 기폭제가 될 것입니다. AI 기술의 발전이 인류에게 긍정적인 영향을 미치기 위해서는, 이러한 논의와 규제가 필수적임을 잊지 말아야 할 것입니다.