손으로 작동하는 '크랭크GPT'..."AI 답변 받으려면 직접 전력 생산"

최근 한 연구팀이 손으로 직접 전력을 생성해 작동하는 독특한 AI 기기인 '크랭크GPT(CrankGPT)'를 공개하면서 화제를 모았다. 이 장치는 대규모 데이터 센터에 의존하지 않고 사용자가 손잡이를 돌려 전기를 공급해야만 작동하는 방식으로, 에너지 절약과 환경 문제 해결을 동시에 노리고 있다. 이러한 혁신적인 접근은 AI 기술의 새로운 가능성을 제시하고 있다.

손으로 구동되는 AI, 크랭크GPT

크랭크GPT의 개발은 컴퓨터 과학자 카트린 토마넥과 전 구글 첨단 기술 및 프로젝트(ATAP) 그룹의 리더 알렉스 카우프만이 주도했다. 이들은 막대한 전력 소모를 줄이기 위해 사용자가 직접 손으로 전기를 만들어야만 하는 장치를 설계했다. 사용자가 크랭크를 돌리면 전기가 생성되며, 이 전기는 내부 콘덴서 보드에 저장된다. 그러나 이 저장된 전력은 약 20초 동안만 사용할 수 있어, 지속적인 크랭크 작동이 필수적이다. AI와의 소통을 시작하기 위해서는 약 30초간 계속해서 크랭크를 돌려야 한다는 점에서 기존 AI와는 확연히 다른 방식이 적용되었다.

이 장치는 대형 언어 모델(LLM)의 과도한 자원 소비를 비판하며, 특정 용도에 맞춰 최적화된 소형 AI 모델을 개발하기 위한 출발점으로 사용된다. 카우프만은 "클로드에게 간단한 수학 문제를 요청하는 것이 마치 대형 기계를 동원하는 것과 같다"며, 불필요한 리소스 낭비를 줄이기 위한 노력을 강조했다. 이들은 또한 소형 AI 모델이 특정 문제를 해결하는 데 적합하도록 설계되었다고 설명했다.

소형화된 AI의 가능성

크랭크GPT는 저렴한 하드웨어에서 실행될 수 있도록 설계되어, 에너지와 인터넷 연결을 최소화한 엣지 AI의 가능성을 실험 중이다. 이 장치는 강한 억양이나 언어 장애가 있는 사람을 위한 음성 인식 시스템이나, 정원 가꾸기와 자동차 수리 등에 특화된 로컬 AI 모델을 지향하고 있다. 실제로 크랭크GPT는 소형 3D 프린터로 제작된 하드웨어를 기반으로 하며, 라즈베리 파이 5와 같은 기본형 컴퓨터를 사용해 초경량 소프트웨어 환경에서 운영된다.

하드웨어의 설계는 오픈소스로 공개될 예정이며, 소스코드는 현재 깃허브에 올라와 있어 누구나 접근할 수 있다. 이들은 "설정은 간단하지만, 일부 전류 관련 문제에 유의해야 한다"며 개발자들에게 조언하고 있다. 이와 같은 접근은 사용자들에게 손쉬운 제작을 가능하게 하여, 다양한 창의적 활용 방안을 제시할 것으로 기대된다.

결론: AI의 새로운 지평을 열다

크랭크GPT는 단순히 실험적인 장치에 그치지 않고, AI 기술의 새로운 방향성을 제시하고 있다. 기존의 대규모 AI 시스템이 가진 한계, 즉 막대한 전력 소모와 환경 문제를 해결하기 위한 대안으로 작용할 수 있는 가능성을 보여준다. 비록 상용화 제품을 대량 생산할 계획은 없지만, 특정 용도로 특화된 소형 AI 모델 개발의 가능성을 탐구하는 기회가 될 것이다.

앞으로 크랭크GPT와 같은 발전이 지속된다면, AI 기술은 더욱 친환경적이고 효율적인 방향으로 나아갈 것으로 보인다. 이는 사용자의 요구에 맞춘 맞춤형 AI 솔루션을 제공하며, 다양한 사회적 문제를 해결하는 데 기여할 수 있을 것으로 예상된다. AI 기술의 미래가 더욱 기대되는 시점이다.