앤드류 응이 제시한 AI 엔지니어링 역량 6가지...“불확실성 제어가 핵심”

앤드류 응 교수, AI 엔지니어링 역량 6가지 제시

AI 기술이 날로 발전하면서, 우리는 이제 AI가 스스로 판단하고 행동하는 시대에 접어들었다. 이러한 변화 속에서 스탠포드대학교의 앤드류 응 교수는 불확실한 AI를 신뢰할 수 있는 시스템으로 구축하기 위한 'AI 엔지니어링 역량'의 중요성을 강조하고 있다. 그는 최근 발표한 'AI 엔지니어링 스킬 맵'을 통해 AI 개발자들이 갖추어야 할 핵심 역량을 정리했다.

AI와 기존 소프트웨어의 본질적 차이

응 교수는 AI 애플리케이션과 전통적인 소프트웨어 개발의 가장 큰 차이점으로 '출력의 예측 불가능성'을 지적했다. 전통적인 소프트웨어는 동일한 입력에 대해 예측 가능한 결과를 제공하는 반면, 대형언어모델(LLM)이나 머신러닝 모델은 같은 조건에서도 결과가 달라질 수 있어 그 예측이 어렵다는 것이다. 이러한 특성 때문에, AI 엔지니어링은 반복적인 개발 과정을 요구한다. 즉, 시스템을 구축한 후 결과를 분석하고, 그에 따른 다음 단계를 결정하는 과정을 지속적으로 반복해야 한다. 이처럼 불확실성을 제어하는 능력이 AI 엔지니어에게는 필수적이다.

응 교수가 제시한 6가지 핵심 역량

응 교수는 AI 애플리케이션 구축과 배포를 위해 필요한 6개 영역을 다음과 같이 정리했다.

1. LLM 기초: AI 모델의 기본 작동 원리를 이해하고, 적절한 모델을 선택할 수 있어야 한다.
2. 데이터 기반 모델 그라운딩: 데이터를 효과적으로 활용하기 위한 검색 방식을 선택하고, 데이터를 AI가 사용할 수 있는 형태로 변환하는 파이프라인을 구축해야 한다.
3. 에이전트 시스템 구축: 미리 정해진 순서로 LLM을 호출하는 워크플로우부터 모델이 스스로 행동을 결정할 수 있는 구조를 설계할 수 있어야 한다.
4. 평가 중심 개발: 시스템의 결과를 분석하고 지속적으로 개선하기 위한 평가 체계를 구축해야 한다.
5. 프로덕션 운영: AI 시스템의 불확실성뿐만 아니라 비용과 지연시간을 고려한 모니터링 체계를 마련해야 한다.
6. 머신러닝 기초: 지도학습, 강화학습 등 머신러닝의 기본 원리를 이해하고, 성능 최적화를 위한 트레이드오프를 판단할 수 있어야 한다.

이러한 역량들은 AI 엔지니어가 신뢰성 있는 시스템을 구축하는 데 필수적인 기술적 바탕이 될 것이다.

향후 AI 엔지니어링의 전망

응 교수는 "AI 시스템을 구축하고 배포하는 데 필요한 지식은 상당히 깊고 넓다"며, 이러한 기술적 깊이를 요구하는 AI 엔지니어링 분야에서의 역량 향상이 결국 더 혁신적이고 흥미로운 애플리케이션 개발로 이어질 것이라고 강조했다. 앞으로 AI 엔지니어가 전통적인 소프트웨어 엔지니어링 역량과 함께 AI 전용 기술을 고루 갖추는 것이 중요해질 것이다. 이는 AI 시대에서의 신뢰성과 효율성을 높이는 데 기여할 것으로 기대된다. AI 기술이 우리 삶의 다양한 분야에 깊숙이 자리 잡고 있는 만큼, 엔지니어들에게 요구되는 역량 역시 그에 맞춰 변화하고 발전할 것이다.