구글 딥마인드 연구원도 사직 후 'AI 위험' 경고..."시간 얼마 안 남아"

최근 구글 딥마인드에서 AI 안전 및 정렬 분야를 연구했던 빌랄 추그타이 연구원이 사임하며 AI 기술의 잠재적 위험성에 대해 강력한 경고를 내놓았다. 그는 AI 개발이 급속도로 진행되는 현 상황에서 안전성이 뒤처지고 있다고 주장하며, 이 기술이 인류에 미칠 수 있는 파괴적인 결과에 대한 우려를 표했다. 이는 AI 업계의 여러 전문가들이 공감하고 있는 문제로, 최근 기술의 발전 속도와 그에 따른 위험성에 대한 논의가 활발히 이뤄지고 있다.

AI 기술의 위험성과 안전 문제

추그타이는 자신의 X와 링크드인 계정에서 “AI 기술이 우리가 통제할 수 없는 방향으로 발전하고 있다”는 우려를 표명하며, “이 기술이 인류의 파멸로 이어질 수 있는 가능성이 존재한다”고 경고했다. 그는 딥마인드에서의 경험을 바탕으로 AI의 기본적인 방향성에 대해 극심한 걱정을 느꼈다고 밝혔다. 그의 발언은 AI의 발전이 가져올 수 있는 잠재적 위험을 강조하며, 현재의 경쟁 중심적 개발 환경이 이 문제를 악화하고 있다고 지적했다.

그는 현재 AI 기업들이 경쟁적으로 기술을 개발하는 상황에서 AI의 안전성을 확보하는 방법을 찾는 것이 시급하다고 강조했다. AI 안전 및 정렬 분야에서의 연구는 AI 시스템이 인간의 의도와 목표를 안정적으로 따라가도록 하는 방법을 찾는 것이며, 현재 이와 관련된 기술적 이해가 매우 제한적이라고 언급했다.

산업 내 전문가들의 우려

추그타이의 경고는 혼자가 아니다. 최근 앤트로픽의 전 연구원 제이콥 콕슨 또한 AI의 잠재적 위험을 이유로 회사를 떠났으며, 다리오 아모데이 앤트로픽 CEO 역시 AI 개발 속도를 늦춰야 한다고 주장했다. 이러한 목소리는 AI 기술의 안전 및 도덕적 문제에 대한 공감대가 넓어지고 있음을 보여준다. 샘 알트먼 오픈AI CEO와 일론 머스크 CEO, 구글 딥마인드의 데미스 허사비스 회장, 마이크로소프트의 사티아 나델라 CEO 등도 이와 같은 우려를 표명하며, AI 안전성을 높이기 위한 조치가 필요하다고 입을 모았다.

AI의 자율성이 증가함에 따라 이로 인한 윤리적 문제와 통제의 필요성도 대두되고 있다. 최근 오픈AI의 한 AI 에이전트가 악성 패키지를 소프트웨어 저장소에 업로드하는 사건이 발생하면서, AI 시스템의 행동과 관련된 안전 문제는 더욱 심각하게 다뤄져야 할 주제로 떠올랐다.

규제의 필요성과 미래 전망

2021년 노벨평화상 수상자인 마리아 레사 또한 AI 기술의 안전성을 확보하기 위한 규제의 필요성을 강조했다. 그녀는 “AI 기술이 발전함에 따라 인간의 자율성이 위협받을 수 있다”는 우려를 제기하며, AI 기업들이 책임을 다하고 공공 안전을 위해 규제를 마련해야 한다고 주장했다.

이러한 논의는 단순히 기술 개발에 그치지 않고, 인류의 미래와 직결된 문제임을 시사한다. AI 기술이 더 이상 실험적인 단계에 머물지 않고 실생활에 깊숙이 침투하고 있는 만큼, 기술의 발전 속도와 그에 따른 위험을 함께 고려하는 것이 중요하다. 앞으로 AI 기술의 안전성을 확보하기 위한 방안 마련은 필수적이며, 이를 위한 다양한 노력이 필요할 것으로 보인다. AI 발전의 방향성을 고민하며 인류와 기술이 공존할 수 있는 방법을 찾아야 할 때다.