맥북에서 돌리는 '무삭제 큐원 3.8' 등장...엔비디아 GPU·클라우드 없이 구동

알리바바의 최신 오픈소스 대형언어모델 '큐원 3.8 27B'를 기반으로 한 새로운 '무삭제(Uncensored)' 버전이 최근 공개되면서, 개인용 맥북에서도 손쉽게 실행할 수 있는 가능성이 열렸다. 이 모델은 더 이상 고성능 GPU나 클라우드 서버에 의존하지 않고, 애플의 실리콘 기반 통합 메모리를 활용해 로컬 환경에서 구동할 수 있도록 최적화되어 있다. 이는 AI 모델을 개인이 직접 사용할 수 있는 새로운 장을 열어줄 것으로 기대된다.

무삭제 모델의 특징

개발자 조나단 코레티는 최근 허깅페이스 플랫폼을 통해 이 '무삭제' 버전을 공개했다. 기존의 큐원 3.8 27B 모델에 비해 안전성 제약을 대폭 줄인 것이 가장 큰 특징이다. 이 모델은 수학적·기술적인 변환을 통해 안전 가드레일을 약화시킨 '무력화(abliterated)' 방식으로 제작되었다. 테스트 결과, 유해 프롬프트에 대한 거부율이 원본 모델의 98회에서 12회로 감소하였는데, 이는 안전성에 대한 반응이 크게 줄어들었음을 의미한다. 비록 거부 행동이 완전히 사라진 것은 아니지만, 이 모델은 기존 AI 시스템이 갖고 있던 안전장치의 경계를 허물고 더 자유로운 대화가 가능하도록 해준다.

애플 실리콘이 가져온 변화

가장 주목할 만한 점은 애플의 실리콘을 활용한 실행 가능성이다. 공개된 GGUF 파일은 다양한 양자화 형태로 제공되어, LM 스튜디오나 올라마와 같은 로컬 AI 실행 도구에서도 쉽게 사용할 수 있다. 큐원 3.8 27B는 270억 개의 매개변수를 가진 멀티모달 모델로, 텍스트뿐 아니라 이미지와 영상을 입력받아 처리할 수 있다. 최대 26만2144개의 토큰을 지원하여, 단순한 챗봇 기능을 넘어 코딩, 연구, 문서 분석 등 다양한 작업에 활용될 수 있다.

그러나 모든 맥북에서 실행 가능한 것은 아니다. 가장 작은 양자화 모델조차 16GB 이상의 메모리를 요구하며, 모델 가중치뿐 아니라 운영체제를 포함한 여러 요소를 처리하기 위해 통합 메모리가 필요하다. 따라서 16GB의 메모리를 가진 맥에서는 실행 가능하지만, 메모리 여유가 적어 성능 저하가 발생할 수 있다. 반면, 64GB 이상의 메모리를 가진 고사양 맥에서는 훨씬 여유롭게 모델을 운용할 수 있어 더욱 원활한 경험을 제공할 것으로 기대된다.

보안성과 윤리적 우려

이 모델의 낮은 안전성 제약은 사이버 보안 분야에서도 큰 관심을 받고 있다. 보안 연구자들은 이 모델을 활용해 취약점 분석이나 침투 테스트 등을 더 자유롭게 진행할 수 있을 것으로 보인다. 그러나 안전장치가 약해진 상태에서 사용될 경우, 악성 코드 생성이나 공격 지원 등 보안 및 윤리적 위험이 커질 수 있다는 우려 역시 존재한다. 따라서 해당 모델을 사용할 때는 신중한 접근이 필요하다.

이번 '무삭제 큐원 3.8'의 출현은 개인 사용자와 개발자에게 새로운 가능성을 열어줄 것으로 보인다. 향후 이러한 AI 모델들이 더욱 발전하고, 안전성을 높이기 위한 다양한 기술이 개발된다면, 우리는 보다 안전하고 효율적인 AI 활용 환경을 기대할 수 있을 것이다.