GitHub 오픈소스 탐험

AI 기술이 발전하면서 많은 개발자들이 모바일 및 데스크탑 애플리케이션에 인공지능 기능을 통합하고자 하는 욕구가 커지고 있습니다. 특히 애플의 Core AI 프레임워크를 통해 온디바이스 AI를 쉽게 구현할 수 있는 방법이 제공되는데, 그 중 하나가 바로 Core AI Models입니다. 이 프로젝트는 인기 있는 오픈소스 모델을 Core AI 형식으로 변환하여, iOS 및 macOS 애플리케이션에서 쉽게 사용할 수 있도록 돕습니다.

이 글에서는 Core AI Models의 주요 기능과 설치 방법, 그리고 기본 사용법을 살펴보겠습니다.

Core AI Models의 주요 기능

Core AI Models는 다음과 같은 구성 요소로 이루어져 있습니다:

모델 내보내기: Hugging Face와 같은 소스에서 인기 있는 오픈소스 모델을 Core AI 형식으로 변환하는 레시피를 제공합니다.
재사용 가능한 프리미티브: PyTorch에서 Core AI 모델을 작성하기 위한 Python 빌딩 블록을 제공합니다.
런타임 유틸리티: macOS 및 iOS 애플리케이션에서 모델을 실행하기 위한 Swift 패키지를 포함합니다.
스킬: 코딩 에이전트가 Core AI를 효과적으로 활용할 수 있도록 돕는 플러그인입니다.

모델 카탈로그와 내보내기 레시피는 models/ 디렉토리 안에 위치해 있으며, Python 유틸리티는 python/, Swift 패키지는 swift/, 그리고 플러그인 스킬은 skills/ 디렉토리에서 확인할 수 있습니다.

설치 방법

Core AI Models를 사용하기 위해서는 macOS와 iOS에서 컴파일할 수 있는 환경이 필요합니다. 아래 단계를 통해 설치해보세요.

전제 조건 설치: 비주얼 스튜디오 코드와 Xcode가 설치되어 있어야 합니다. Xcode의 경우 27.0 버전 이상이 필요합니다.
uv 설치: Core AI Models에서 요구하는 CLI 도구를 사용하기 위해 uv를 설치해야 합니다. Homebrew를 사용하는 방법은 다음과 같습니다:

   brew install uv

또는 아래의 curl 명령어로 설치할 수 있습니다:

   curl -LsSf https://astral.sh/uv/install.sh | sh

Core AI Models 클론하기: GitHub에서 레포지토리를 클론하여 로컬 환경에 저장합니다.

   git clone https://github.com/apple/coreai-models.git
   cd coreai-models

지원되는 모델 확인하기: 다음 명령어를 통해 사용할 수 있는 모델 목록을 확인합니다.

   uv run coreai.model.registry --list-models

기본 사용법

Core AI Models를 활용하여 실제 AI 모델을 앱에 통합하는 방법을 살펴보겠습니다. 예를 들어, Hugging Face에서 제공하는 NLP 모델을 Core AI 형식으로 변환하고 사용하는 과정을 살펴보겠습니다.

모델 내보내기

각 모델의 README 파일에서 내보내기 레시피를 확인하고, 필요한 명령어를 실행하여 Core AI 형식으로 변환합니다. 예를 들어, 특정 모델을 내보내기 위해 다음과 같은 명령어를 사용할 수 있습니다:

uv run coreai.model.export --model <모델이름>

이 명령어를 실행하면, 모델 및 관련 리소스가 .aimodel 파일로 내보내집니다.

Swift에서 모델 사용하기

이제 Swift 패키지를 통해 내보낸 모델을 앱에 통합할 수 있습니다. Swift 코드 예제는 다음과 같습니다:

import CoreAI

let model = try CoreAI.Model.load(url: URL(fileURLWithPath: "<모델 경로>.aimodel"))
let input = CoreAI.Tensor(data: inputData)
let output = try model.run(input: input)

위 코드에서는 내보낸 모델을 로드하고, 입력 데이터를 Tensor 형식으로 변환한 후 모델을 실행하여 결과를 얻습니다.

실무 활용 시나리오

Core AI Models는 다양한 실무 시나리오에서 활용될 수 있습니다. 예를 들어, 고객 서비스 애플리케이션에서 자연어 처리(NLP) 모델을 사용하여 고객 문의에 대한 자동 응답 시스템을 구축할 수 있습니다. 또한, 이미지 분석을 위한 모델을 사용하여 사용자가 업로드한 이미지를 실시간으로 분석하여 결과를 제공하는 기능을 추가할 수 있습니다.

비슷한 도구와의 비교

Core AI Models 외에도 TensorFlow Lite, ONNX Runtime와 같은 온디바이스 AI 솔루션이 존재합니다. 그러나 Core AI Models는 Apple의 Core AI 프레임워크와 통합되어 있어, Apple 생태계에서의 최적화와 성능을 극대화할 수 있는 장점이 있습니다. 반면, TensorFlow Lite는 플랫폼 독립적인 구축이 가능하지만, Apple 특화 기능을 활용하기에는 제한적일 수 있습니다.

요즘 뜨는 온디바이스 AI 개발, Core AI 모델을 활용해보자!