과기부-앤트로픽, 글로벌 AI 안전·보안 협력 MOU

과학기술정보통신부와 앤트로픽이 인공지능(AI) 안전성 및 사이버 보안 분야에서의 협력을 위한 양해각서(MOU)를 체결하였다. 이번 협정은 AI 기술의 발전이 가져오는 위험을 사전에 예방하고, 안전한 AI 환경을 조성하기 위한 중대한 첫걸음으로 평가받고 있다. 배경훈 과기부 장관은 18일 이같은 내용을 공식 발표하며, AI의 안전성을 확보하는 데 있어 앤트로픽과의 협력이 중요한 의미를 가진다고 강조했다.

AI 안전성 확보를 위한 협력의 필요성

최근 AI 기술의 급속한 발전은 다양한 산업 분야에서 혁신을 이끌고 있지만, 반면에 새로운 위험 요소도 함께 증가하고 있다. 특히, 사이버 공격에 대한 AI의 역할이 주목받고 있으며, 안전한 AI 시스템 구축이 절실하게 요구되고 있다. 이번 MOU 체결은 이러한 배경 속에서 이루어진 것으로, 과기부는 AI가 사이버 공격의 대상이 될 수 있는 가능성을 분석하고, 이를 방어하는 방법을 모색할 계획이다.

과기부의 발표에 따르면, 이번 협약은 배경훈 장관이 지난 2월 ‘2026 인도 AI 영향 정상회의’에서 앤트로픽의 다리오 아모데이 CEO와 논의한 협력 방안의 실질적인 후속 조치로 진행되었다. 양측은 AI 모델의 안전성과 오남용 위험을 평가하고, 자율형 AI 에이전트에 대한 레드팀 평가를 통해 첨단 AI의 안전성을 확보하는 데 협력할 예정이다.

한국에서의 앤트로픽의 행보

앤트로픽은 17일 한국 사무소를 정식 개소하며, 일본, 인도, 호주에 이어 아시아태평양 지역에서 네 번째 거점을 마련하였다. 크리스 차우리 앤트로픽 글로벌 총괄은 “한국은 아시아태평양 지역에서 가장 중요한 시장 중 하나로, 이번 MOU 체결은 장기적인 협력의 토대를 마련하는 데 큰 의미가 있다”고 밝혔다. 이는 앤트로픽이 한국 시장에서의 영향력을 더욱 강화하고, AI 안전성 분야에서의 협력을 심화시키려는 의지를 드러낸 것으로 해석할 수 있다.

이도규 정보통신정책실장과 차우리 총괄은 MOU 체결 이후 AI 안전 및 사이버 보안 협력 방향에 대해 심도 있는 논의를 진행하였다. 이러한 협력은 AI 안전 연구소와 앤트로픽 간의 긴밀한 협력을 통해 AI 안전성 평가 및 관련 연구를 추진하는 데 기여할 전망이다.

미래를 향한 비전

이번 MOU 체결은 단순한 협력을 넘어, 한국과 앤트로픽 간에 AI 안전성을 높이는 데 기여할 실질적인 기반을 마련했다고 볼 수 있다. AI 기술이 점차 다양한 분야에 적용되면서, 그 안전성과 보안이 무엇보다 중요해지고 있는 현시점에서, 이번 협약은 AI 기술 발전에 긍정적인 영향을 미칠 것으로 기대된다.

AI의 안전성과 사이버 보안을 위한 국제적 협력은 앞으로 더욱 중요해질 것이며, 한국이 글로벌 AI 안전성 확보를 위한 선도적인 역할을 할 수 있는 기회가 될 것이다. 과기부와 앤트로픽의 지속적인 협력이 AI 기술의 안전한 발전을 이끄는 데 중요한 전환점이 될 것으로 보인다.