“GPU보다 부족한 건 AI 신뢰성 전문가…규제는 발전과 동일 선상”

국내 인공지능(AI) 산업이 데이터, 파운데이션 모델, GPU 등의 인프라 구축에 집중하고 있는 가운데, 이를 검증할 'AI 신뢰성'에 대한 논의는 여전히 부족하다는 지적이 제기되고 있다. 씽크포비엘의 박지환 대표는 이러한 문제를 강조하며, AI 신뢰성을 보장하기 위한 전문 인력 양성이 시급하다고 주장했다.

AI의 신뢰성, 기술과 규제의 동반 성장 필요

박지환 대표는 최근 발표에서 "AI 신뢰성은 단순히 기술의 발전과 대립하는 규제가 아니라, 함께 발전해야 할 중요한 요소"라고 강조했다. 그는 "AI의 신뢰성을 점검하는 기준이 필요하다"며, 국제적으로 통용되는 'Trustworthy AI(신뢰할 수 있는 AI)'의 중요성을 언급했다. 이는 무조건적인 믿음이 아닌, AI 시스템이 안전하게 작동하는지를 평가하는 기준이 되어야 한다는 것이다.

박 대표는 AI 신뢰성을 확보하기 위해서는 단순히 제품 인증이나 성능 평가가 아닌, 전체 시스템을 아우르는 전 주기 관리가 필요하다고 지적했다. "면허가 있다고 해서 교통사고가 사라지지 않듯, AI 시스템도 신호등, 정비, 보험 등 다양한 요소가 유기적으로 결합되어야 한다"며, 시스템 운영 이후에도 지속적인 모니터링과 사고 대응 체계를 갖춰야 한다고 강조했다.

전문 인력 양성, 시급한 과제

AI 기술이 급속도로 발전하는 가운데, 이를 객관적으로 평가할 수 있는 전문 인력이 부족하다는 문제도 도출되었다. 박 대표는 "AI 기술을 개발하는 인력은 많지만, 그 기술이 사회에 미치는 영향을 판단할 수 있는 전문가는 희소하다"며, 신뢰성 전문가의 양성이 절실하다고 언급했다.

씽크포비엘은 이러한 문제를 해결하기 위해 영향평가, 위험 관리, 인간 감독 등을 포함한 교육 커리큘럼을 개발 중이다. 더불어, 프랑스의 누말리스와 협력하여 항공 및 국방 등 고위험 AI 분야로의 진출도 모색하고 있다. 박 대표는 "의대 교육 몇 달 만에 수술대에 설 수는 없는 것처럼, 신뢰성 전문가의 양성에도 최소 3년이 필요하다"고 경고하며, 후발주자들이 이러한 구조를 따라잡기 어려울 것이라고 강조했다.

통제 가능성이 핵심, 안전한 AI 생태계 구축 필요

박 대표는 국내 AI 정책이 하드웨어, 특히 GPU와 데이터센터 구축에 집중되고 있는 현상에 대해 우려를 나타냈다. 그는 "좋은 시설과 장비만으로는 양질의 의료가 이루어질 수 없다"며, 기술이 안전하게 작동할 수 있는 거버넌스 역량이 중요하다고 밝혔다. 특히 고위험 AI 분야에서는 시스템의 평균 성능보다 치명적인 오류 상황을 처리하는 안전모드 설계가 필수적이라는 점을 강조했다.

이러한 신뢰성과 안전성이 확보되지 않는다면, 국내 AI 기술의 세계화는 요원할 것이라는 경고도 잊지 않았다. 그는 "해외에서는 신뢰성을 기술 발전의 필수 조건으로 보지만, 한국은 여전히 발전의 부담으로 인식하고 있다"며, 규제와 발전을 대립시키는 기존의 사고를 탈피해야 한다고 말했다.

결국, AI 산업의 발전은 기술적 혁신만이 아닌, 신뢰성과 안전성을 동반한 지속적인 성장에 달려 있다. 앞으로 한국의 AI 산업이 글로벌 시장에서 경쟁력을 가지기 위해서는 이러한 논의와 인력 양성을 더욱 강화해야 할 시점이다.