읽을 가치가 있는 기사만, 짧고 또렷하게.

상호 정보량(MI) 추정은 다양한 과학 분야에서 핵심 목표이지만, 기존의 신경망 추정 모델들은 데이터가 부족할 때 정확도가 떨어지며 각 분포마다 별도로 학습해야 하는 한계가 있었습니다. 이러한 제약 때문에 데이터셋 크기가 작거나 분포별 학습이 비현실적인 많은 응용 분야에서 기존 추정 모델의 채택이 제한되어 왔습니다.

이에 연구진은 분포별 학습을 제거한 기반 모델인 ALICE를 제시하며 경쟁력 있는 추정 정확도를 달성했습니다. ALICE는 광범위한 합성 분포만을 사용하여 학습되었으며, 보이지 않는 분포의 샘플에 조건화하여 해당 분포의 속도장(velocity field)을 명시적인 학습 없이 추정하는 인컨텍스트 추정기로 작동합니다.

ALICE는 결합된 필드와 조건부 필드 간의 제곱 차이를 통합하는 고정된 항등식을 통해 상호 정보량을 얻습니다. 이 모델은 생물학, 유전학, 신경과학이라는 세 가지 도메인에 적용되었는데, 모델이 한 번도 보지 못한 데이터에 대해서도 추정이 가능합니다. 이는 단일 모델이 각 분포별로 별도로 학습된 신경망 추정기와의 격차를 좁히며, 데이터 차원과 샘플 수의 차이를 자연스럽게 지원하여 과학 분야 전반에 걸친 제로샷 상호 정보량 분석을 가능하게 합니다.

재귀 추론 모델은 공유 파라미터를 사용하여 잠재 상태를 반복적으로 정제함으로써 테스트 시간 연산을 확장하는 데 주목받고 있습니다. 그러나 이러한 모델들은 학습된 업데이트에 고정된 단위 스케일을 적용하는데, 이는 업데이트가 지속적인 진전을 만들 때 보수적일 수 있고 변동할 때 지나치게 공격적일 수 있어 추가 루프의 이점을 제한합니다. 연구진은 이러한 스케일이 궤적을 따라 어떻게 변화해야 하는지 이해하기 위해 재귀 업데이트 스케일에 대한 종단 손실의 민감도를 분석했습니다.

분석 결과, 시간 평균 손실은 지속적인 진전 기여와 중심 변동 기여로 정확하게 분해됨을 보여줍니다. 이를 바탕으로 연구진은 재귀 업데이트 전반에 걸쳐 이러한 기여도의 균형을 추적하고 단계 크기를 온라인으로 조정하는 궤적 적응 진행-변동 스케줄러(TAPS)를 도입했습니다. 이론적으로 TAPS는 예상 종단 손실을 줄이고 더 적은 재귀 루프에서 목표 품질에 도달할 수 있는 충분한 조건을 확립했습니다.

실험적으로 TAPS는 재학습 없이 구조화된 추론 작업에서 종단 정확도를 개선했습니다. 또한 TAPS는 훈련에 진행-변동 원리를 추가로 통합함으로써, 동일한 기준 정확도에서 최대 1.56배의 벽시계 속도 향상과 함께 추가적인 정확도 이득을 제공합니다. TAPS의 광범위한 적용 가능성은 다양한 재귀 아키텍처와 추론 전략 전반에서 효과가 입증되었습니다. 이 결과는 업데이트 스케일을 아키텍처 및 깊이와 함께 재귀 추론의 보완적인 제어 축으로 확립합니다.

거대 언어 모델의 장문 추론은 상당한 계산 및 메모리 비용을 발생시킵니다. 시각 텍스트 압축(VTC)은 텍스트를 이미지로 렌더링하여 입력 길이를 줄이지만, 고정 해상도 렌더링은 압축 성능과 가독성 사이의 상충 관계를 만듭니다. 즉, 낮은 DPI는 토큰을 절약하지만 가독성을 희생시키고, 높은 DPI는 관련 없는 콘텐츠에 토큰을 소모합니다.

이러한 상충 관계를 해결하기 위해 연구진은 일반적인 멀티모달 능력을 보존하면서 적응형 해상도를 통해 이 균형을 깨는 FocusVTC를 제안합니다. FocusVTC는 압축된 저해상도 전역 뷰와 선택적 영역 향상을 결합하여 향상된 시각 정보를 추론 과정에 통합합니다. 이를 위해 추론 경로를 페이지 인덱스와 경계 상자에 연결하는 29,400개의 고품질 추론-증거 위치 지정 예시(REL-CoT)를 구축했습니다.

모델이 관련 영역을 위치 지정하도록 학습시키기 위해 다중 해상도 REL 지도 학습(REL-SFT)과 그룹 상대 정책 최적화(Group Relative Policy Optimization)를 사용했습니다. 이 방법은 별도의 지속적인 사전 학습 단계 없이 해상도를 향상할 시점과 결과를 사용하는 방법을 학습합니다.

실제 실험 결과, FocusVTC는 72 DPI에서 2.9배 입력 압축(도구 관찰 포함) 시 Glyph의 3.0배 압축 대비 87.4점을 기록했습니다. 이는 텍스트 입력 백본(55.86점)을 능가하고 MRCR 매크로 평균을 13.91점 향상시키며 VTC벤치에서 51.19점의 매크로 평균을 달성했습니다. 또한 온라인 종단 간 속도 측면에서 2.79배의 속도 향상을 보였으며, MMMU는 65.12점에서 66.73점으로, MME는 2424.02점에서 2457.62점으로 멀티모달 능력이 보존되었습니다.

거대 언어 모델(LLM) 라우팅은 각 쿼리를 적절한 모델에 할당하여 서비스 비용을 절감하지만, 라우터를 학습시키기 위해서는 쿼리-모델 품질 피드백을 수집해야 하므로 배포 전에 상당한 지도 학습 비용이 발생합니다. 기존 연구들은 주로 서비스 시간 효율성에 초점을 맞추었을 뿐, 이로 인해 절감된 비용이 초기 지출을 회수하기에 충분한지에 대해서는 간과했습니다.

연구진은 라우팅 품질이 모든 쿼리-모델 피드백이 수집되기 훨씬 전에 포화된다는 점을 관찰하며, 이는 밀집된 지도 학습이 경제적으로 과도하게 제공될 수 있음을 시사합니다. 이에 따라 연구팀은 SaveRouter라는 희소 지도 학습 라우팅 프레임워크를 제안했습니다. 이 프레임워크는 관련 쿼리 간에 능력 정보를 공유하고 유익한 모델 피드백을 선택적으로 획득하면서도 세밀한 라우팅을 위한 쿼리 수준의 정제는 유지합니다.

SaveRouter는 네 가지 라우팅 벤치마크에서 경쟁력 있거나 더 나은 라우팅 품질을 유지하면서 사용 가능한 훈련 피드백의 약 33~41%만을 사용하여 라우팅을 수행했습니다. 이 결과, 기존의 가장 빠른 라우터에 비해 손익분기점 배포 볼륨을 약 1.9배에서 9.5배까지 줄일 수 있었습니다.

다만, 추가적인 지도 학습을 획득하는 것이 항상 경제적으로 유리한 것은 아니라는 분석도 제시되었습니다. 서비스 비용을 최소화하는 지도 학습 수준과 가장 빠른 투자 회수 시점을 달성하는 지도 학습 수준은 다를 수 있다는 것입니다. 이 코드는 공개되어 있으며 GitHub에서 확인할 수 있습니다.

분포 확산 모델(DDM)은 표준 평균 예측 디노이저를 분포 디노이저로 대체하여 조건부 평균 대신 $p(x_1 | x_t)$에 대한 확률적 근사를 학습합니다. 그러나 DDM을 최신 이미지 생성 환경에 확장하는 데는 두 가지 주요 장애물이 존재합니다. 첫째는 다중 입자 훈련이 입자 수에 비례하여 오버헤드를 발생시킨다는 점이며, 둘째는 DDM이 전역적으로 고정된 스코어링 규칙 하이퍼파라미터를 사용하기 때문에 샘플링 예산 전반에 걸쳐 단일한 트레이드오프만 가능합니다.

이러한 한계를 극복하기 위해 연구진은 입자 확장을 후기 트랜스포머 레이어로 연기하고, 동역학적 체제에 기반한 시간 의존적 스코어링 규칙 스케줄을 도입하여 하이퍼파라미터 트레이드오프를 해결했습니다. 이러한 개선 사항을 DiT 기반 잠재 공간 설정과 결합함으로써, DDM 훈련을 ImageNet-256^2 클래스 조건부 데이터에 실용적으로 적용할 수 있게 되었습니다.

그 결과, 별도의 교사 모델, 자기 증류 또는 JVP 없이 단일 단계에서 처음부터 훈련된 모델을 통해 4단계에서 50단계의 샘플링 예산 증가에도 FID가 저하되지 않는 확률적 소수 단계 생성기를 달성했습니다. 이 방법론은 4단계에서 4.48의 FID, 50단계에서 2.38의 FID를 달성했으며, 이는 텍스트-이미지 생성으로도 확장될 수 있습니다.

관련 코드와 사전 훈련된 모델은 GitHub에서 제공되며, https://github.com/CompVis/iDDM 에서 확인할 수 있습니다.

잠재 추론은 두 단계 훈련 패러다임을 통해 멀티모달 추론을 발전시켜 왔습니다. 첫 번째 단계는 보조 이미지를 잠재 토큰으로 인코딩하여 지도 미세 조정(SFT) 단계에서 시각적 사고의 연쇄(chain-of-thought)를 학습하는 것이고, 두 번째 단계는 이 잠재 토큰을 강화 학습(RL) 단계에서 보상 피드백으로 더욱 정제하는 것입니다.

연구진은 이 프레임워크의 각 단계에서 두 가지 주요 한계를 발견했습니다. 첫째, SFT 단계는 일반적으로 기성 비전 인코더에 의존하여 보조 이미지를 인코딩하는데, 이로 인해 다운스트림 추론 작업과 충분히 정렬되지 않은 최적화되지 않은 잠재 표현이 발생합니다. 둘째, 기존 RL 방법들은 잠재 구성 요소를 결정론적 정규화만을 통해 처리하여 정책 표류를 제한하지만 탐색을 위한 대안적인 잠재 궤적을 생성하지 못합니다.

이러한 한계를 해결하기 위해 연구진은 Scaffolding Minds를 제안했습니다. 이 접근 방식은 잠재 공간에서 최적화된 대상을 제공하는 전용 스캐폴딩 인코더를 학습하고 RL 샘플러의 평균과 분산을 모두 학습합니다. 이 두 가지 개선 사항이 상호 보완적이며 강력한 기준선 대비 상당한 이점을 제공함을 보였습니다.

실증적으로 이 방법은 가장 강력한 잠재 추론 기준선보다 FrozenLake 공간 계획에서 9.5점, 32x32 그리드에서는 19점, 그리고 아홉 가지 시각 중심 추론 벤치마크 전반에서 평균 5.6점의 개선을 이루었습니다.

GPT-6.1 Sol이 단 7일 만에 GPT-6 Sol을 대체하며 거의 Astra 수준의 지능을 달성했다는 결과가 발표되었습니다. 이 모델은 지능 지수에서 GPT-6 Astra보다 1점 낮지만, 작업당 비용은 GPT-6 Astra의 4분의 1 수준으로 책정되어 비용 효율성 측면에서 큰 진전을 보였습니다.

GPT-6.1 Sol은 에이전트 작업에서 상당한 지식 작업 능력을 향상시켜 AA-Briefcase v1.1과 GDPval-AA v2.1에서 각각 4점과 5점의 점수를 얻었습니다. 또한 환각률이 60%에서 54%로 감소했으며, 코딩 에이전트 지수에서도 GPT-6 Sol 대비 최대 노력 수준에서 3점의 이득을 얻어 가격 대비 성능 면에서 우위를 점했습니다.

모델은 비용 효율성 파레토 경계를 밀어내며, 특정 지능 수준에서 더 저렴한 모델은 존재하지 않음을 입증했습니다. 다만, 토큰 효율성 측면에서는 GPT-6 Sol보다 10~30% 더 많은 출력 토큰을 사용하지만, 지능 지수가 높아짐에 따라 낮은 노력 수준과 중간 노력 수준이 토큰 효율성 면에서 최적점을 차지합니다.

에이전트가 도구를 사용하는 경우 사용자가 명시적으로 요청한 내용에만 응답하지만, 작업을 완료하기 위해서는 사용자가 요청하지 않은 정보가 필요할 수 있습니다. 연구는 에이전트가 어떤 정보를 추구해야 하는지보다는 스스로 행동해야 하는지, 그리고 언제 행동해야 하는지에 초점을 맞춥니다. 연구진은 선행 증거를 통해 드러나는 필요를 추구하는 수직적 선제성과 현재 맥락이 이미 식별하는 미표시 정보를 추구하는 수평적 선제성이라는 두 가지 선제성의 축을 구분했습니다.

이러한 필요의 의존성을 기록하는 필요 그래프를 통해 에이전트가 적절한 시점에 멈추는지 여부까지도 모델 판단 없이 대화 기록만으로 평가할 수 있습니다. 이러한 행동을 학습하기 위해 연구진은 Q&D(질문자 및 작성자)를 제안했는데, 이는 보상 모델이나 판단자 없이 질문자가 필요한 증거를 더 많이 검색하는 질문을 선호하도록 훈련하는 방법입니다.

실험 결과, Q&D를 통해 훈련된 질문자는 다른 모델보다 두 가지 형태의 선제성을 개선했으며, 세 가지 멀티홉 질문 응답 벤치마크에서 다른 모델보다 우수한 성능을 보였습니다. 특히 질문량과 길이를 통제했을 때도 이러한 성능 향상은 유지되었습니다. 실제 환경에서 이 질문자를 고객 서비스 에이전트에 적용했을 때, 에이전트는 더 적은 질문으로 더 많은 작업을 완료했으며, 소매 환경에서는 15배 큰 모델보다 고객의 후속 질문 횟수가 적었음에도 더 나은 성능을 보였습니다.

이 결과는 에이전트의 선제성이 단순히 요청 없이 행동하는지에만 달려 있는 것이 아니라, 에이전트가 추구하는 내용과 멈추는 시점에 따라 달라진다는 것을 보여줍니다.

능동적 테스트 시간 적응(ATTA)은 분포 변화에 대한 견고성을 향상시키기 위해 추론 중에 모델을 업데이트하면서 감독(supervision)을 선택적으로 요청하는 방법입니다. 그러나 기존 ATTA 방법들은 모든 테스트 배치에 대해 감독 요청이 가능하다고 암묵적으로 가정하여 긴 테스트 스트림에서 상당한 주석 비용을 발생시킬 수 있습니다.

본 연구는 레이블이 일부 테스트 배치에 대해서만 사용 가능한 예산 기반 ATTA(budgeted ATTA)를 도입하여 이 문제를 해결합니다. 이는 배치 내에서 무엇을 레이블링할지 결정하는 중심 과제를 시간 경과에 따라 감독을 언제 적용할지 결정하는 것으로 전환합니다. 이를 위해 온라인으로 계산된 경량 신호를 기반으로 감독을 할당하고 가장 유용한 시기를 우선시하는 예산 인식 접근 방식인 WISE-ATTA를 제안합니다.

WISE-ATTA는 감독이 선택된 배치에 대해 지속적인 적응 역학을 보이는 샘플을 대상으로 하는 드리프트 기반 샘플 선택 기준을 사용하여 효과적인 업데이트를 가능하게 합니다. 이 방법은 합성 손상(ImageNet-C) 및 자연 분포 변화(ImageNet-R/K/A)에 대해 평가되었으며, 최근 ATTA 방법들과 비교하여 경쟁력 있거나 개선된 성능을 달성하면서 훨씬 적은 수의 레이블을 요구합니다.

연구 결과는 능동적 테스트 시간 적응에서 감독의 타이밍이 핵심이지만 충분히 탐구되지 않은 측면임을 보여줍니다. 이는 ATTA를 적용할 때 레이블링 비용과 성능 간의 균형을 고려하는 데 중요한 통찰을 제공합니다.

실시간 개인 비서 역할을 수행하는 스트리밍 비디오 모델은 과거 경험을 보존하는 영구 기억(persistent memory)을 필요로 합니다. 그러나 기존의 스트리밍 벤치마크와 방법들은 개별 연속 비디오나 짧은 클립에 초점을 맞추어, 실제 상호작용이 단절되면서 발생하는 간헐적인 상황에서 기억을 유지하는 문제를 간과해 왔습니다.

이러한 격차를 해소하기 위해 APM-Bench는 실제 세계의 스트리밍 상호작용을 다중 세션 생애 궤적(multi-session life trajectories)으로 재정의하여 문제를 해결합니다. APM-Bench는 549개의 세션, 104개의 궤적, 그리고 2,719개의 후보를 포함하며, 객관적 질문과 개방형 질문을 모두 다룹니다. 각 세션은 세밀한 주석이 달린 비디오이며, 궤적 내의 세션들은 관련 활동을 중심으로 이루어집니다.

모델은 영구 기억을 사용하여 과거 세션에 대한 질문에 답하고 실시간 상호작용을 유지하면서 선제적인 응답을 제공합니다. 이 과정에서 영구 기억은 저장 가능하고 정보를 선택적으로 보존하며 적절한 시점에 주입되고 효율적이어야 하는 여러 도전을 제기합니다. 또한, 저장 공간의 한계로 인해 필요한 증거가 부족할 수 있으므로 비서 모델은 누락된 증거를 인식해야 합니다.

APM-Bench는 다양한 메모리 프로토콜과 특화된 스트리밍 메모리 시스템 하에서 일반 비디오 모델을 체계적으로 평가하며, 모델이 불충분한 증거를 인식하는지 테스트합니다. 평가 결과는 유용성, 지연 시간, 저장 공간 간의 명확한 상충 관계를 보여줍니다. 기존 방법들은 여전히 세션 전반에 걸쳐 신뢰할 수 있는 장기 회상, 낮은 오버헤드, 효과적인 선제적 지원을 동시에 달성하는 데 어려움을 겪고 있습니다. APM-Bench는 현실적인 스트리밍 조건 하에서 영구 기억 시스템을 개발하고 비교하기 위한 포괄적인 테스트베드를 제공합니다.

자연어 오토인코더는 언어 모델의 내부 활성화를 읽기 쉬운 설명으로 변환합니다. 모든 토큰 위치를 설명하는 것은 비용이 많이 들기 때문에, 감사자가 잠재적인 위협을 이해하기 위해 어떤 위치를 검사해야 하는지에 대한 질문이 제기됩니다. 연구진은 프롬프트 주입 및 은폐에 관한 470만 개의 설명 데이터를 분석하여 이 질문에 답했습니다.

연구는 모델 계산 신호와 채팅 구조만을 학습한 순위 지정기 간의 신호를 비교했습니다. 결과적으로 채팅 구조는 모델 순방향 실행 없이도 계산 신호보다 더 관련성 높은 설명을 선택하는 것으로 나타났습니다. 네 가지 데이터셋 중 세 가지에서는 모든 위치를 설명하는 것과 거의 동일한 성공률을 유지하면서 단지 5%의 위치만 설명해도 위협에 대한 설명을 얻는 데 필요한 성공률을 유지했습니다.

이러한 결과는 감사 작업의 종류에 따라 이점의 정도가 달라진다는 것을 보여줍니다. 또한 사전 훈련된 언어화 도구(verbalizers)는 추가적인 언어화 도구 훈련 없이도 모델이 미세 조정(fine-tuning)을 통해 숨기도록 학습한 단어들을 복구할 수 있음을 입증했습니다.

이러한 연구 결과는 감사자가 설명 생성에 집중할 수 있는 영역을 식별해 주며, 유용한 설명이 모델이 훈련된 범위를 넘어 확장될 수 있음을 보여줍니다. 이는 모델의 내부 상태를 이해하고 보안 취약점을 식별하는 데 실질적인 통찰력을 제공합니다.

확산 모델을 확장하는 데 유망한 패러다임인 혼합 전문가(MoE)가 비디오 데이터에 적용될 때 발생하는 한계를 극복하는 새로운 아키텍처를 제안합니다. 기존의 토큰 기반 MoE는 전문가 풀 내에서 토큰을 독립적으로 라우팅하며 전문가 사용을 균일하게 정규화하여, 시공간적으로 중복되고 의미적으로 긴 꼬리를 가진 비디오 데이터에 부적합합니다. 이러한 방식은 의미적으로 조직화되지 않은 라우팅과 균일한 전문가 사용 정규화로 인해 일관된 패치가 서로 다른 전문가들 사이에 분산되어 라우팅 단편화와 구조적 왜곡을 초래합니다.

이에 연구진은 균일성의 제약을 해소하는 분할 역할 희소(SplitMoE) 아키텍처를 제안합니다. 이 모델은 전문가 풀을 의미적 전문가와 일반 전문가로 명시적으로 분할하여, 의미적 전문가가 고수준의 의미 추상화를 포착하고 일반 전문가는 잔여 시각 정보와 유연한 생성 능력을 보존하도록 합니다. 프로토타입 기반 라우팅과 풀-푸시 정규화를 활용하여 토큰이 임의적인 균형 제약이 아닌 의미적 속성에 따라 자연스럽게 군집화되도록 합니다.

광범위한 결과는 동등한 활성화 파라미터 예산 하에서 SplitMoE가 기존의 균형 잡힌 MoE보다 수렴 속도, 라우팅 일관성, 비디오 생성 품질에서 우수함을 보여줍니다. SplitMoE는 나타나는 거친-세밀(coarse-to-fine) 디노이징 논리를 드러내며, 대규모 비디오 월드 모델 구축을 위한 모달리티 인식 확장 경로를 제공합니다. 이는 대규모 비디오 생성 모델을 구축하는 커뮤니티에 중요한 참조 기준이 될 것입니다.

고해상도 비디오 생성은 시공간 토큰 수에 따라 비용이 급증하기 때문에 비용 효율적인 대안이 필요합니다. 기존의 다단계 정제 방식은 두 번째 샘플링 병목 현상을 유발하지만, 본 논문에서는 단일 디노이징 단계로 저해상도 모델 출력을 4K 비디오로 변환하는 단일 단계 비디오 정제기인 SoL-Refiner를 제안합니다.

SoL-Refiner는 고해상도 지속적인 훈련, 강화 학습(RL) 후 훈련, 그리고 최종 단일 단계 증류를 결합한 3단계 레시피를 통해 개발되었습니다. 또한, 다양한 비디오 생성기의 출력을 기반으로 구축된 비디오 정제 벤치마크인 Refiner-Bench를 도입하여 정제기들을 비교할 수 있는 공유 입력 프로토콜을 사용했습니다.

이러한 비교 결과, 2K 해상도에서는 SoL-Refiner가 VBench와 UniPercept 평균에서 모든 외부 정제기를 능가했습니다. 특히 3840!times!2176 해상도에서는 세 단계 LTX-2.3 Refiner보다 두 지표 모두에서 성능을 개선했습니다.

완전한 가속 스택을 통해 SoL-Refiner는 2K 지연 시간 설정에서 동일한 기준선 대비 정제 지연 시간을 8.91배 단축하는 성능을 달성했습니다.

대규모 문서 집합에서 질문에 답하거나 작업을 완료하려면 여러 문서에 분산된 증거를 연결해야 하는 경우가 많습니다. 최근 LLM 에이전트는 고정된 문서 세트만 읽는 대신 전체 코퍼스를 반복적으로 검색하는 방식으로 접근합니다. 그러나 코퍼스가 단순한 파일 모음으로만 제공될 경우, 관련 문서가 다른 문서들과 어떻게 관련되는지에 대한 정보를 제공하지 않기 때문에 에이전트는 매번 쿼리마다 이러한 관계를 재발견해야 하며, 이 과정에서 보완적인 증거를 놓치고 상당한 추가 토큰을 소비하게 됩니다.

이 문제를 해결하기 위해 본 연구는 CorpusMap을 소개합니다. CorpusMap은 문서 자체에서 식별할 수 있는 반복되는 엔티티를 중심으로 코퍼스를 구성하는 내비게이션 레이어입니다. 이는 각 반복되는 엔티티를 정보 집합을 통합하고 해당 엔티티를 참조하는 모든 문서에 연결하는 엔티티 페이지로 표현하며, 엔티티와 문서를 연결하는 그래프를 형성하여 에이전트가 분리된 증거를 수집할 수 있도록 합니다.

CorpusMap은 문서 간의 엔티티 언급을 해결하여 오프라인으로 구축되므로, 링크가 추론 시점에 반복적으로 재발견되는 것이 아니라 쿼리 전반에 걸쳐 공유됩니다. 7가지 다른 모델과 3가지 벤치마크 데이터셋을 사용하여 실험한 결과, CorpusMap은 원시 코퍼스 에이전트 검색보다 증거 발견과 답변 품질을 모두 향상시키면서 평균적으로 더 적은 토큰을 사용하며, 4가지 대안 내비게이션 레이어보다도 더 뛰어난 성능을 보였습니다. 이는 엔티티가 대규모 문서 집합을 탐색하는 데 효과적인 앵커 역할을 한다는 것을 시사합니다.

컨텍스트 언어 모델(CLMs)은 컨텍스트를 자체적으로 관리하는 언어 모델을 의미하며, 컨텍스트를 파일로 취급하고 모델이 이에 대해 제한 없이 업데이트할 수 있도록 구현합니다. 이러한 접근 방식은 모델이 컨텍스트에서 무엇을 유지해야 하는지를 학습하게 하여 멀티 에이전트 시스템에서 여러 에이전트의 컨텍스트가 파일 형태로 공존하는 상황에도 자연스럽게 확장됩니다.

기존 모델을 사용하여 CLM을 구축했을 때 기존의 최신 컨텍스트 관리 전략보다 다양한 작업에서 더 우수한 성능을 보였습니다. 예를 들어, BrowseComp-Plus에서는 정확도가 11.4% 향상되고 FLOPs가 21.5% 감소했으며, 12시간 EdgeBench에서는 점수가 5% 향상되고 FLOPs가 59% 감소했습니다. 또한, 24시간 멀티 리포지토리 에이전트 스웜 작업에서는 동일한 컴퓨팅 자원으로 65% 더 큰 개선을 달성했습니다.

CLMs는 컨텍스트 관리를 외부 제어에서 모델의 내재적 행동으로 전환함으로써 컨텍스트 관리 전략에 대한 인컨텍스트 및 매개변수 학습을 자연스럽게 가능하게 합니다. 자연어 지침을 통해 스킬 최적화 루프를 거치도록 CLM을 유도하면 컴퓨팅을 줄이면서 컨텍스트 관리 작업에서 최대 35.9점의 홀드아웃 정확도를 개선할 수 있습니다.

연구진은 또한 CLM을 위한 온라인 강화 학습 방법을 도입하여 Qwen3.5-9B 모델의 BrowseComp-Plus 성능을 47.6% 향상시키면서 FLOPs를 12% 절감했습니다. 나아가 CLM 서빙을 위해 Suffix Cache Reuse를 공동 설계하여 표준 SGLang 대비 서버 측 컴퓨팅을 35% 추가로 절감하는 효과를 보였습니다.

표 형식의 기초 모델은 합성 테이블을 통해 사전 학습함으로써 구조화된 데이터에서 강력한 제로샷 정확도를 달성하지만, 데이터셋의 의미를 담고 있는 열 이름, 작업 설명, 보조 파일 등의 세만(semantics) 정보를 무시한다는 한계가 있습니다. 반면, 자기 진화 머신 학습 엔지니어링(MLE) 에이전트는 각 데이터셋에서 처음부터 모델을 학습시키지만, 특징, 아키텍처, 하이퍼파라미터를 공동으로 탐색하는 과정은 노이즈가 많고 과적합되기 쉽습니다.

이러한 문제를 해결하기 위해 TabFM-Auto가 제안되었는데, 이는 표 형식 기초 모델인 TabFM과 이를 중심으로 데이터 파이프라인을 진화시키는 언어 모델 에이전트를 결합합니다. TabFM-Auto는 데이터셋 메타데이터와 검증 피드백을 바탕으로 데이터 정리, 특징 공학, 컨텍스트 선택, 후처리 과정을 반복적으로 개선하여 TabFM의 오류를 줄입니다.

TabArena 벤치마크의 51개 데이터셋 전반에서 다양한 에이전트와 언어 모델을 사용한 다섯 가지 TabFM-Auto 구성이 상위 다섯 자리를 차지했으며, 최고의 구성은 TabFM의 Elo 점수를 1785에서 2013으로 향상시켰습니다. 또한 발견된 파이프라인은 추가 탐색 없이 다른 고정된 표 형식 기초 모델들로도 전이되었는데, 이는 +69에서 +143 Elo의 향상을 가져왔습니다. MLE-Bench의 8개 표 형식 대회에서도 TabFM-Auto는 MLE 에이전트 중 전반적으로 1위를 차지했습니다.

자율 에이전트가 일반적인 컴퓨터 사용에서 빠르게 발전했지만, 전문 산업 공학 분야의 신뢰할 수 있는 자동화는 여전히 달성하기 어렵습니다. 이는 공학 워크플로우가 소프트웨어 및 설계 단계 전반에 걸쳐 기하학적 및 물리적 제약 조건과 의존성을 추론해야 하기 때문입니다. 이러한 문제를 해결하기 위해 본 연구진은 설계 루프 전체를 기반으로 하는 최초의 벤치마크인 EngiWorld를 제시합니다.

EngiWorld는 CAD, CAE, CAM, BIM, EDA, 3D 시각화 등 6가지 공학 도메인과 26개의 전문 소프트웨어 플랫폼을 포괄하는 1,301개의 전문가가 선별한 작업을 포함합니다. 이 벤치마크는 GUI 및 CLI 인터페이스를 모두 지원하며, 소프트웨어 선택부터 개방형 작업에 이르는 6가지 유형의 작업을 다룹니다. 또한 최종 및 중간 산출물의 기하학적 유효성, 물리적 실현 가능성, 규칙 준수 여부를 프로그램적으로 확인하는 통합 도메인 검증기 모듈을 통해 결과물을 평가합니다.

이러한 산출물 중심의 평가 방법론은 이진적 성공 여부 대신 명세 달성도를 기준으로 설계 작업을 정량적으로 측정합니다. 일곱 개의 최첨단 모델을 평가한 결과, 가장 강력한 모델조차 EngiScore가 44.3에 불과했으며, 다중 소프트웨어 시도 중 3.6%만이 성공에 도달했습니다. EngiWorld는 전문 공학 소프트웨어를 엔드 투 엔드로 작동하는 에이전트의 발전을 측정하기 위한 최초의 엄격한 기반을 제공합니다.

에이전트가 과거 실행에서 학습할 수는 있지만, 다른 에이전트들이 경험을 재사용하고 구축하는 것은 여전히 어려운 과제입니다. 이에 연구진은 호스트 모델 매개변수를 업데이트하지 않고 에이전트 집단 학습을 위한 공유 멀티모달 메모리 프레임워크인 EpiCon을 제안합니다.

EpiCon은 질문 수준의 메모리 진화를 영구적인 경험 저장소와 연결하며, 이를 위해 메모리 컨트롤러와 트리 자가 조직화라는 두 개의 독립적으로 훈련된 2B 모델을 사용합니다. 메모리 컨트롤러는 시도 전반에 걸쳐 텍스트 지침과 시각적 증거를 공동으로 다듬고 시각적 메모리를 선택적으로 포함하며, 자가 조직화 모델은 교훈을 계층적으로 통합하고 새로운 문제에 대한 경험과 규칙을 검색합니다.

연구진은 네 가지 멀티모달 작업 영역에 걸친 열한 개의 벤치마크에서 EpiCon을 평가했으며, 그 결과 메모리 저장소(bank)를 고정하면 단 한 번의 해결 시도만으로도 다른 시스템을 개선할 수 있음을 확인했습니다. 또한, 두 번째 하네스는 기존 시스템의 평균 점수를 11개 벤치마크에서 2.6점 향상시켰습니다.

네 가지 호스트 구성에서 EpiCon은 메모리 사용 시 연산 시간을 백본 크기의 메모리 모델 대비 67%에서 74%까지 줄여주었습니다. 이는 메모리 작업 효율성을 크게 개선하여 에이전트 시스템의 성능과 속도를 동시에 향상시킵니다.

PPO(Proximal Policy Optimization)의 핵심 강점인 학습된 비평가(critic)는 강화 학습에서 예상 보상을 추정하고 정책 기울기 분산을 줄이는 데 사용되지만, 대규모 언어 모델(LLM)의 강화 학습에서는 불안정성의 주요 원인이 됩니다. 연구진은 PPO의 불안정성을 야기하는 두 가지 비평가 실패 모드를 식별했습니다. 첫째는 액터와 비평가 모두에서 잘린 롤아웃(truncated rollouts)을 필터링하는 것이 정책 목표를 완료에 조건화하여, 조건부 보상이 개선되더라도 잘림이 증가하도록 허용하는 것입니다. 둘째는 이질적인 반환 노이즈가 유한 배치에서 비평가 업데이트를 지배하여 고분산 프롬프트가 업데이트에 지배적으로 작용하는 현상입니다.

이러한 문제들을 해결하기 위해 EasyPPO가 제안되었습니다. EasyPPO는 액터 전용 과장 필터링을 통해 완료된 롤아웃과 잘린 롤아웃 모두에서 비평가를 훈련시키고, 노이즈 정규화된 비평가 회귀 가중치를 사용하여 프롬프트별 비평가 손실에 노이즈 기여도를 균형 있게 반영합니다. 또한, 비평가 미니 배치 크기를 적절히 줄여 경사 클리핑 중 이상치 영향을 제한함으로써 안정성을 확보합니다.

이러한 개선을 통해 EasyPPO는 FrontierCS, AIME24, Search-R1과 같은 다양한 작업에서 전체 훈련 범위 내내 안정성을 유지하며 기존 PPO, VAPO, HL-Gauss PPO보다 일관되게 우수한 성능을 보였습니다. 특히 EasyPPO는 PPO 대비 각각 14.89%, 2.28%, 9.47%의 상대적 성능 향상을 달성하여 LLM 강화 학습의 안정화에 중요한 기여를 합니다.

LIFT는 카메라 제어와 레이아웃-인-퓨처(Layout-In-Future) 제어를 결합한 통합 이미지-투-비디오 생성 프레임워크입니다. 이 프레임워크는 사용자가 미래 시점의 장면이 어떻게 보일지, 그리고 그 공간적 배치가 어디에 위치해야 하는지를 명시적으로 지정할 수 있게 합니다. 기존의 카메라 제어는 시점 궤적만을 지정하고 텍스트 프롬프트는 모호한 의미적 지침만을 제공하여 미래 시점의 내용과 공간 레이아웃을 정확하게 결정하지 못하는 한계가 있었습니다.

특히 큰 시점 변화가 발생하는 경우, 카메라가 첫 프레임에서 보이지 않는 영역을 드러내기 때문에 이러한 제어의 한계는 더욱 두드러집니다. LIFT는 이러한 문제를 해결하기 위해 원하는 미래 장면을 위한 명시적인 제어 신호로 마지막 프레임의 레이아웃을 사용합니다. 이러한 희소한 레이아웃 지침으로부터 학습하는 것은 밀집된 프레임별 레이아웃 조건화보다 훨씬 어렵기 때문에, LIFT는 온-폴리 정책 자기 증류(On-Policy Self-Distillation, OPSD) 기법을 도입하여 밀집 레이아웃 교사(teacher)의 제어 능력을 마지막 프레임 레이아웃 학생(student)에게 전달합니다.

연구진은 또한 카메라와 시간적으로 일관된 레이아웃 주석을 특징으로 하는 대규모 시점 변화 데이터셋인 LIFT-Vista를 구축했습니다. 실험 결과, LIFT는 다른 방법들에 비해 비디오 품질, 미래 레이아웃 제어 능력, 그리고 카메라 제어 능력 모두에서 향상된 성능을 보였습니다.