https://squeezlabs.github.io/handcrank/
요즘 주류 AI 서비스는 대규모 전력 소모 AI 데이터 센터에서
정보 처리를 수행한다.
개인이 사용하는 로컬 AI도 강력한 성능을 갖춘 GPU를
대량의 전력을 사용하서 가동한다.
이러한 추세에서 벗어나기 위해 한 유저가 수동 전력 생산으로
전력을 공급하는 로컬 AI 머신을 만들었다.
메인 유닛 측면에 손으로 돌리는 크랭크가 있고,
그 크랭크를 돌리면 AI 추론에 필요한 전기를 생성한다.
내부 부품은 크랭크 발전기, 8GB RAM을 갖춘 라즈베리 파이 5,
쿨링 팬과 오디오 출력 확장 보드로 구성됐다.
라즈베리 파이 가동에서 대략 15초
AI 에이전트 실행에 15초 정도 걸린다.
사용할 로컬 AI 종류에 따라 음식 인식 및 답변 출력에
몇초간 딜레이가 발생할 수 있다.
사용자가 크랭크를 강하게 돌릴수록 전력 공급량이 늘어나기에
사용하는데 충분한 근력이 필요하다.
당연한 이야기지만 라즈베리 파이 기반이니까
클로드 같은 LLM 성능은 기대하지 않는 게 좋다.
