Gemento 프로젝트는 작은 로컬 LLM이 긴 작업을 수행할 때 외부 상태, 도구, 역할, 루프 제어를 보강하여 성능을 개선하는 실험을 진행했습니다. 이는 모델 내부에 모든 것을 두는 대신, 기억, 계산, 검증 등의 기능을 외부로 분리했을 때 작은 모델의 성능이 어떻게 회복되는지를 측정하는 데 중점을 둡니다.
**핵심 요약:**
* **무엇이 일어났는지:** 작은 로컬 LLM이 긴 작업을 버티는 능력을 실험하기 위해, 작업 기억, 도구 사용, 역할 분리, 루프 제어 기능을 외부로 분리(외부화)하여 성능을 보강하는 실험(Gemento)을 진행했습니다.
* **왜 중요한지:** 모델 크기보다 작업의 복잡성과 외부 구조화(Scaffolding)가 장기 추론 능력에 미치는 영향을 측정함으로써, 작은 모델의 한계를 극복할 수 있는 실질적인 방법론을 제시합니다.
* **주의할 점 또는 맥락:** 실험 결과는 아직 통계적으로 유의하지 않으며, 특정 역할(예: 최종 판단자 Judge)을 강한 모델로 설정하는 방식은 오히려 실패했으며, 최종 요약 과정에서는 정보 손실(abstraction loss)이 발생할 수 있다는 점을 시사합니다. 따라서 모델 크기보다 역할 배치와 외부 구조화의 중요성이 더 크다는 결론을 내리고 있습니다.