Latent On-Policy Self-Distillation
자율적으로 경험을 학습하고 이를 정책에 내재화하는 것은 자기 진화 AI의 핵심 과제입니다. 기존의 온-폴리 정책 증류(OPSD) 방법은 특권적인 자기 교사(privileged self-teacher)를 사용하여 학생의 궤적에 대한 밀도 높은 감독을 제공하지만, 설계자가 지정한 특권적 결과물(답변, 피드백, 기술 등)에 크게 의존하여 지속적인 자기 개선에 필요한 종단 간 학습 능력과 확장성을 제한합니다.
본 연구는 이러한 한계를 극복하기 위해 잠재적 온-폴리 자기 증류(Latent On-Policy Self-Distillation, LOPD)를 제안합니다. LOPD는 특권적 맥락 자체가 경험으로부터 종단 간으로 학습 가능하도록 만들어, 기존 방식처럼 수작업으로 특권적 컨텍스트를 정의하는 대신 이를 해결합니다. 기술적으로 LOPD는 관련 경험을 검색하여 연속적인 잠재 토큰으로 구성하고 이를 자기 교사를 조건화하며, 학생은 태스크와 상호작용 기록으로부터 궤적을 생성하고 방문한 모든 접두사에서 밀도 높은 토큰 수준 감독을 받습니다.
또한 LOPD는 잠재적 맥락 학습을 안정화하고 조절하기 위해 특권 마진 목적 함수를 추가로 도입했습니다. 실험 결과 LOPD는 에이전트 도구 사용 및 코드 생성 모두에서 RLVR과 OPSD, SDPO, Skill-SD를 능가하는 강력한 성능을 보였습니다. 특히 학습 효율성 측면에서는 GRPO 및 Skill-SD보다 30% 미만의 롤아웃 예산으로 더 높은 학습 효율을 달성했습니다.
이러한 결과는 특권적 맥락을 학습 가능하게 만드는 것이 성능 향상과 효율성 증대를 위해 필수적임을 입증하며, LOPD가 에이전트 진화를 위한 보다 확장 가능하고 자기 주도적인 패러다임으로 나아가는 단계임을 제시합니다.
본 연구는 이러한 한계를 극복하기 위해 잠재적 온-폴리 자기 증류(Latent On-Policy Self-Distillation, LOPD)를 제안합니다. LOPD는 특권적 맥락 자체가 경험으로부터 종단 간으로 학습 가능하도록 만들어, 기존 방식처럼 수작업으로 특권적 컨텍스트를 정의하는 대신 이를 해결합니다. 기술적으로 LOPD는 관련 경험을 검색하여 연속적인 잠재 토큰으로 구성하고 이를 자기 교사를 조건화하며, 학생은 태스크와 상호작용 기록으로부터 궤적을 생성하고 방문한 모든 접두사에서 밀도 높은 토큰 수준 감독을 받습니다.
또한 LOPD는 잠재적 맥락 학습을 안정화하고 조절하기 위해 특권 마진 목적 함수를 추가로 도입했습니다. 실험 결과 LOPD는 에이전트 도구 사용 및 코드 생성 모두에서 RLVR과 OPSD, SDPO, Skill-SD를 능가하는 강력한 성능을 보였습니다. 특히 학습 효율성 측면에서는 GRPO 및 Skill-SD보다 30% 미만의 롤아웃 예산으로 더 높은 학습 효율을 달성했습니다.
이러한 결과는 특권적 맥락을 학습 가능하게 만드는 것이 성능 향상과 효율성 증대를 위해 필수적임을 입증하며, LOPD가 에이전트 진화를 위한 보다 확장 가능하고 자기 주도적인 패러다임으로 나아가는 단계임을 제시합니다.