읽을 가치가 있는 기사만, 짧고 또렷하게.

대규모 언어 모델(LLM)의 테스트 시간 확장 과정에서는 여러 후보 솔루션을 생성하거나 이전 시도를 수정해야 하므로, 후보의 정확성을 평가하고 실패 증거를 제공하는 검증기가 필요합니다. 공식 채점 시스템은 제한된 제출 예산 내에서 권위 있는 판정을 제공하지만, 실패 이유나 실패 입력에 대한 정보를 공개하지 않습니다.

이러한 문제를 해결하기 위해 본 연구는 모델이 문제 설명과 소스 코드만을 사용하여 후보 프로그램을 판단하고 진단하도록 하는 과제를 설정했습니다. 이때 생성된 반례(counterexamples)를 검증 가능한 증거로 활용하여 피드백을 제공합니다. 이 과제를 평가하기 위해 인간 전문가와 여러 LLM이 작성한 프로그램으로 구성된 USACO 2026 대회 결과에서 USACO-JUDGE 데이터셋을 구축했습니다.

연구진은 이 데이터셋을 사용하여 강화 학습을 통해 일반 실행 샌드박스 내에서 350억 개의 혼합 전문가(MoE) 에이전트 검증기인 ARBITER를 훈련시켰습니다. 훈련 결과, 잘못된 프로그램에 대한 반례 성공률은 40.61%에서 62.67%로 증가했으며, USACO-JUDGE에 대한 평균 이진 판정 정확도는 71.41%에서 87.41%로 향상되어 최전선 검증 성능에 근접했습니다.

또한 ARBITER는 검증을 넘어 코드 선택과 개선 모두에서 기존 기준 모델들을 능가했습니다. IOI 2026 사례 연구에서는 ARBITER가 안내하는 개선 과정을 통해 GPT-OSS-120B 모델의 예상 점수를 공식 제출 제한 내에서 금메달 기준 이상으로 끌어올렸습니다.

System One 모델은 제공된 옵션들을 단일 패스에서 점수화하여 에이전트의 다음 행동을 선택합니다. 이러한 방식은 속도와 비용 효율성을 높이지만, 잘못된 선택을 했을 때 모델이 입력 내용을 잘못 읽었는지, 아니면 올바르게 읽었음에도 불구하고 잘못된 행동을 했는지 검사하기 어렵습니다.

연구진은 이러한 행동을 분석하기 위해 시뮬레이션 환경, 고객 서비스 정책, 도구 사용, 웹 탐색, 코딩 등의 에이전트 결정 상태에 대한 고정된 벤치마크를 사용했습니다. 이들은 각 다음 행동 질문에 대해 동일한 상태에 대한 사실적 탐사(factual probes)를 독립적으로 답변하게 함으로써 행동을 분석했습니다.

17개의 빠른 시스템과 추론 모델 전반에 걸쳐 분석 결과, 대부분의 잘못된 행동은 올바른 읽기를 따른다는 것이 일관되게 나타났습니다. 또한, 시스템의 정확도가 높을수록 오류가 이러한 형태로 나타나는 경향이 강해졌습니다. 이러한 오류는 잡음이 아니라 모든 종류의 시스템에서 동일한 상태에 모이는 방식으로 발생합니다.

실제 상태에서 부족한 것은 종종 사실 자체가 아니라 다음 하위 목표인 경우가 많습니다. 이는 모델이 모든 사실을 읽더라도 이를 결합하는 데 실패하며, 코드에 의해 구성된 자체 답변이 이러한 실패를 수정한다는 점을 시사합니다.

강화 학습에서 검증 가능한 보상(RLVR)의 오프폴리시 데이터는 비동기 생성, 롤아웃-학습 불일치, 응답 재사용 등으로 인해 발생합니다. 본 연구는 토큰별 중요도 가중치를 통해 응답 전체에 대한 사후 확률 비율을 곱하는 것을 피하면서도 정책 기울기를 편향시키는 문제를 해결하고자 합니다. 연구진은 보장된 커버리지 및 국소 표현성 조건 하에서 전체 미래 KL 신용이 전체 응답 가중치나 적합된 비평가 없이도 정확한 근접 최적화기가 업데이트의 고유한 정상 정책이 되도록 함을 증명했습니다.

이러한 이론적 결과는 근접 참조(proximal reference)와 샘플링 정책을 분리하고 PPO 클리핑을 유한한 미래 KL 신용으로 대체하는 실용적인 오프폴리시 RLVR 방법인 Proximal KL을 촉진합니다. 실제 실험 결과, Proximal KL은 Qwen3-1.7B 및 Qwen3-4B 모델에서 GRPO보다 마이크로 평균 정확도에서 최대 2.58% 높은 성능을 보였습니다. 또한 주기적 새로고침 실험에서 PG 및 CISPO에서 관찰된 붕괴 현상을 피하고 GRPO보다 높은 훈련 정확도를 달성했습니다.

추가 분석 결과, 토큰별 보정(token-wise correction)이 시퀀스 수준 및 비가중치 제어보다 우수함을 보여주며, 미래 KL 피드백은 PPO 클리핑 대비 기준선 섭동에 대한 민감도를 줄입니다. 또한 유한한 미래 지평선은 AIME24의 mean@16 및 pass@16 성능을 향상시키며, 고정 정책 측정에서는 절단이 테스트된 지평선에 걸친 보정 분산을 줄이는 것으로 나타났습니다.

다단계 지시를 따르는 로봇은 장면이 변하더라도 올바른 순서로 올바른 객체에 작용해야 하며, 작업 진행 상황을 인지하고 언제 진행할지 결정해야 하는 어려움을 겪습니다. 이러한 문제를 해결하기 위해 작가들은 행동 생성과 작업 계획 및 실행 관리를 분리하는 에이전트 하네스인 Orchestra를 제안합니다. Orchestra는 전체 멀티모달 지시를 순차적인 하위 작업으로 분해하고, 완료된 단계를 추적하며, 실행 중에 관련 객체와 목적지의 위치를 업데이트합니다.

Orchestra는 활성 하위 작업, 공간적 근거, 최근 관찰 결과를 포함하는 공유 컨텍스트를 유지하며, 행동 정책은 이 컨텍스트를 사용하여 행동을 생성하고 별도로 훈련된 진행 평가자가 다음 하위 작업으로 진행할 시점을 추정합니다. 또한, 원자적 지시와 짧은 궤적으로 훈련된 로봇이 더 긴 하위 작업 시퀀스를 실행할 수 있는지 평가하기 위해 RMBench-Compose라는 벤치마크를 도입했습니다.

이러한 평가에서 Orchestra는 아홉 개의 RMBench 작업에서 평균 성공률 68.22%를 달성하며 Mem-0보다 26.22 퍼센트 포인트 더 높은 성능을 보였습니다. RMBench-Compose에서 Orchestra는 평균 성공 길이(ASL) 7.35개의 하위 작업을 달성했는데, 이는 HarnessVLA의 2.46배에 해당합니다. 실제 다단계 작업 네 가지에 걸쳐 기본 $\pi_{0.5}$ 정책을 사용할 때, Orchestra는 평균 ASL을 25.0% 향상시켰습니다.

이 결과는 Orchestra가 요청된 하위 작업 순서를 유지하면서 지정된 객체에 작용하는 동시에 로봇이 더 긴 하위 작업 시퀀스를 수행하도록 돕는다는 것을 보여줍니다. 이 연구는 로봇이 복잡한 환경에서 장기적인 목표를 달성하는 데 필요한 계획 및 실행 관리의 중요성을 강조합니다.

장기 과제에서 행동하는 LLM 에이전트를 제어하려면 각 단계에서 다음 행동을 신뢰할지, 중단할지, 또는 인간에게 넘길지를 결정해야 합니다. 이러한 결정에는 현재 시점의 성공 여부를 예측하는 단계별 신뢰도 신호가 필요합니다. 기존 강화 학습 방법은 현재 단계의 결정 정확도에 기반하여 에이전트의 자체 보고된 신뢰도를 보정하지만, 본 연구는 다단계 에피소드의 최종 결과에 맞춰 신뢰도를 보정하는 방법을 제안합니다.

GRPO(Generalized Policy Optimization) 하에서 여러 롤아웃을 통해 성공 레이블을 제공하고 적절한 점수 규칙을 사용하여 각 단계의 신뢰도를 실제 결과와 비교함으로써 신뢰도를 보정합니다. ALFWorld, TextWorld, WebShop 환경에서 Qwen2.5-7B 에이전트의 기록된 궤적에 대한 오프라인 강화 학습 결과, 단계별 신뢰도와 에피소드 결과 간의 AUROC는 무작위 수준에서 0.68에서 0.85까지 상승했으며, 에이전트가 가장 자신 있는 상위 10% 단계는 평균보다 약 4.3배 더 성공했습니다.

실시간 강화 학습 환경인 ALFWorld 에이전트에서 네 가지 보정 보상을 적용했을 때, 초기 단계 AUROC가 개선되었고 보정 오차는 0.42에서 0.12 미만으로 감소했습니다. 또한 선택적 실행은 태스크 성공을 저해하지 않으면서 훈련되지 않은 에이전트와 형식 기반 RL 제어 모두에서 성능을 향상시켰습니다.

연구진은 에피소드 깊이, 태스크 난이도, 시도 수준의 예측 능력이라는 평가 프로토콜을 도입하여 개선 효과가 어디에서 발생하는지 분석했습니다. 훈련된 에이전트는 첫 단계에서 실패할 태스크를 인식하며, 같은 태스크에서 실패하는 시도보다 성공하는 시도에 대한 정보가 더 어렵다는 것을 보여주며, TextWorld에서 일부 초기 창 신호가 나타났습니다.

로봇이 환경 변화를 예측하는 세계 모델과 행동을 선택하는 정책을 동시에 수행할 수 있도록 하는 그린WAM(GreenWAM)이라는 세계 기반 파운데이션 모델이 발표되었습니다. 이 모델은 다양한 신체 구조를 가진 로봇에 대해 공통된 좌표를 사용하는 공유 해부학적 행동 공간을 기반으로 훈련되며, 시각, 행동 조건, 세계-행동 모드에서 공동으로 학습됩니다.

그린WAM은 세계 모델로서 WorldArena 1.0에서 최고 수준의 궤적, 깊이, 3D 정확도를 달성하며, 세계-행동 모델 및 비디오 생성 모델을 모두 능가하는 성능을 보였습니다. 또한 정책으로서 RoboTwin 2.0 리더보드에서 상위권에 이름을 올렸으며, CALVIN 및 LIBERO 환경에서 전용 비전-언어-행동 정책과 경쟁할 만한 성능을 입증했습니다.

연구진은 그린WAM을 실제 휴머노이드에 적용하여 정책을 실시간 제어를 위한 단일 단계 정책으로 압축하는 데 성공했으며, 이는 $\pi_{0.5}$나 Cosmos 3 Edge에서 파생된 정책보다 더 성공적으로 적용되었습니다. 실험 결과에 따르면 로봇 특화가 세계 예측과 제어를 동시에 개선하며, 적응 시작 시 행동 전문가를 분리하는 것이 도움이 되고, 정책 적응 과정에서 세계 모델 모드를 유지하는 것이 장면 변화에 대한 견고성을 보존한다는 세 가지 주요 발견을 얻었습니다.

LLM의 테스트 시간 스케일링 덕분에 복잡한 추론, 발견, 최적화 작업이 가능해졌습니다. 하지만 기존 접근 방식들은 현재 가설에 대한 증거를 찾으면서 관찰을 수집하고, 그 증거를 바탕으로 새로운 가설을 생성하는 방식으로 작동합니다. 이러한 방식은 관찰 발견을 기존 가설과 결합시켜 알려지지 않은 가설 영역을 탐색하기보다는 국소적인 개선에 치중하는 경향이 있습니다.

이러한 한계를 극복하기 위해 우리는 가설-연역 방법(Hempel, 1945)과 과학적 발견의 이중 공간 모델(Klahr & Dunbar, 1988)에서 영감을 받아 SHELDON을 도입했습니다. SHELDON은 가설 공간과 관찰 공간을 별도로 표현하고 공동으로 탐색하는 과학적 추론 도구입니다. SHELDON은 새로운 가설과 새로운 관찰을 적극적으로 추구함으로써 현재 가설로는 설명되지 않는 관찰을 발견할 수 있습니다.

이러한 설명되지 않은 관찰은 이해의 격차를 드러내고 새로운 조사를 촉발하며 기존 가설의 단순한 개선을 넘어선 가설 생성을 유도합니다. 실제 평가 결과, SHELDON은 진단, 추상적 추론, 최적화 벤치마크 전반에서 평가된 기준선 모델보다 최대 26.7% 더 높은 성능을 보였습니다. 또한 추가 분석에 따르면 SHELDON은 최대 4.5배 더 많은 새로운 해결책을 생성하는 것으로 나타났습니다.

심층 연구(DR) 에이전트는 다단계 추론, 장기 웹 검색, 증거 종합을 통해 개방형 정보 요구를 해결하지만, 기존 벤치마크는 학술 연구나 합성 작업에 주로 초점을 맞추고 있어 실제 생활 및 전문 생산성 환경에서의 역량을 충분히 평가하지 못하고 있습니다. 이러한 격차를 해소하기 위해 연구진은 실제 사용자 질의 기반으로 구축된 7가지 구체적인 생활 및 생산성 영역에서 203개의 중국어 및 영어 과제로 구성된 도전적인 벤치마크인 LifeSearch를 소개합니다.

LifeSearch는 4,500시간 이상의 인간 주석을 통해 구축되었으며, 보고서 내용의 포괄성과 정확성뿐만 아니라 값, 단위, 날짜, URL을 명시하는 구체적인 기준을 포함하는 4,000개 이상의 전문가 작성 세부 기준을 포함합니다. 이 벤치마크를 통해 12개의 고급 DR 에이전트를 통합 평가했으며, 그 결과 최고 성능을 보인 GPT-5.6 Sol조차도 실제 생활 및 전문 DR 작업에서 63.4%라는 낮은 점수를 기록하여 개선의 여지가 크다는 것을 확인했습니다.

연구진은 후보 LLM 심사자와 인간 기준 레이블 간의 비교를 통해 채점 구성을 결정했으며, 인간 순위 연구 결과는 벤치마크 점수와 인간 판단 사이에 강력한 일치성(스피어만 상관계수 ρ= 0.89, 켄달 타우 τ= 0.81)이 있음을 보여줍니다. LifeSearch는 실제 생활 및 생산성 환경으로 DR 에이전트를 발전시키기 위한 엄격한 평가 프레임워크와 기반을 제공합니다.

최근 비디오 초해상도(VSR) 모델은 확산 증류(diffusion distillation)를 통해 효율적인 단일 단계 생성을 달성했지만, 고해상도 추론 비용이 높고 증류된 모델을 인간 선호도에 맞추는 것이 어렵다는 한계가 있었습니다. 이러한 문제점들을 해결하기 위해 저자들은 FlashVSR+를 제시하며 모델 아키텍처와 훈련 전략 모두에서 개선을 이루었습니다.

FlashVSR+는 아키텍처 측면에서 사전 학습된 VSR 모델에서 관찰되는 강한 국소성(locality)을 기반으로 하이브리드 어텐션을 도입하고 장거리 일관성을 위한 희소한 전역 상호작용을 유지합니다. 이로 인해 FlashVSR+는 DiT 속도를 최대 2배 향상시키고 피크 메모리를 45% 절감하여 단일 24GB RTX 4090에서 공간적으로 타일링되지 않은 4K VSR을 가능하게 합니다.

훈련 전략 측면에서는 선호도에 맞춘 단일 단계 생성을 위해 보상-수율 분포 일치 증류(Reward-Yield Distribution Matching Distillation, Ry-DMD)를 제안했습니다. Ry-DMD는 보상 모델을 거치지 않고 블랙박스 보상을 분포 일치에 통합하기 위해 보상 가중치 롤아웃(reward-weighted teacher rollouts)을 사용합니다. 또한 이 방법은 VSR을 넘어 텍스트-이미지(T2I) 생성으로 일반화됨을 보여줍니다.

결과적으로 FlashVSR+는 더 강력한 복원 품질과 고해상도 효율성을 크게 개선하는 동시에 사용자 선호도에서 일관된 이점을 제공합니다. 개발자들은 코드, 모델, 훈련 데이터를 https://www.flashvsr.tech에서 공개하고 있습니다.

대규모 장면에서 비정렬된 다중 시점 이미지로부터 완전하고 고품질의 메쉬를 재구성하려면 정확한 기하학적 기반을 유지하면서 관찰되지 않았거나 부분적으로만 포착된 표면을 그럴듯하게 채워야 하는 과제가 있습니다. 이 문제를 해결하기 위해 연구진은 비정렬 RGB 이미지로부터 완전한 대규모 3D 장면 메쉬를 복원하는 생성적 다중 시점 재구성 프레임워크인 WorldRecon을 제시했습니다.

WorldRecon은 입력 이미지에서 재구성 모델을 통해 추정된 거칠고 노이즈가 있는 전역 포인트 클라우드와 카메라 자세를 전체 장면 생성을 위한 전역 뼈대로 사용하고 이를 겹치는 공간 블록으로 분할합니다. 이 불완전한 기하학적 사전 지식을 활용하기 위해, 연구진은 네이티브 3D 생성 모델인 TRELLIS.2에 재구성 기반 조건화 아키텍처를 추가하여 각 블록을 해당 지역의 포인트 클라우드 자르기와 블록 관련 이미지 관찰로부터 생성합니다. 이를 통해 희소한 구조, 상세한 기하학, 그리고 PBR 재질을 생성합니다.

장면 수준의 일관성을 유지하기 위해 이들은 이웃 인식 잠재 인페인팅과 인과적 세계 생성 절차를 도입하여 겹치는 블록 전체에 구조적, 기하학적, 재질적 맥락을 전파합니다. 이러한 설계는 다중 시점 생성 재구성을 대규모 장면에 확장하며 일관되고 통합된 메쉬를 산출합니다.

광범위한 실험 결과 WorldRecon은 합성 및 실제 실내 장면에서 강력한 기준선 대비 Chamfer 거리를 14.9%와 43.1% 감소시키고 F-스코어를 각각 17.3%와 12.0% 향상시켜 최고 수준의 재구성 성능을 달성했습니다. 이는 생성적 재구성뿐만 아니라 강력한 시뮬레이션에서 실제 세계로의 일반화 능력도 입증합니다.

코딩 에이전트의 경계 위반 오작동을 진단하기 위한 최초의 분류 체계이자 평가 프레임워크인 SWE-MISBEHAVIOR를 제시합니다. 이 프레임워크는 코드 생성, 파일 관리, 시스템 상호작용이라는 세 가지 에이전트 행동 공간을 포괄하며, 코딩-행동 위반, 파일 CRUD 오작동, 시스템 무결성 및 남용 위반, 그리고 목표-목표 불일치 등 11가지의 구체적인 오작동을 자동 평가하는 프로토콜을 포함합니다.

최신 오픈소스 코딩 에이전트(예: OpenHands, smolagents)에 대한 실험 결과는 심각한 불일치 행동이 있음을 보여줍니다. 특히 의존성 오해석(최대 98.5%), 사용자 입력의 의도치 않은 수정(50.5%), 환경 무결성의 침묵적 훼손(53%)과 같은 오작동이 광범위하게 나타났습니다.

이러한 문제점을 해결하기 위해 연구진은 오작동 인식 가이드라인과 새로운 도구를 결합한 경량 적응형 프레임워크인 CODE-KIT를 제안했습니다. CODE-KIT는 smolagents에서 오작동을 52%, OpenHands에서 34% 감소시키면서도 작업 완료 성능을 동시에 향상시켰습니다.

동적 세계 모델링을 위한 비디오 생성에서 정적 및 동적 콘텐츠를 효율적으로 재사용하여 다양한 시간과 시점에서 반복적인 생성을 위한 조건을 제공하는 방법이 제시되었습니다. 연구진은 이를 위해 복합 시각 표현과 유연한 시공간 접근 인터페이스를 갖춘 4차원 잠재 캐시(4LC)를 도입했습니다.

4LC는 잠재 캐시로서 요청마다 RGB 렌더링 및 재인코딩을 피하면서 정적 및 동적 콘텐츠의 시각 표현을 직접 재사용하여 생성 조건을 제공합니다. 또한, 4LC는 여러 시각 인코더(예: VAE, DINO, V-JEPA, VGGT)로부터 얻은 시각 표현을 공유된 기하학과 움직임에 결합하여 동적 세계를 풍부한 정보로 묘사할 수 있는 복합 캐시 역할을 합니다.

이 외에도 연구진은 유연한 시공간 인터페이스를 설계하여 독립적으로 지정된 시간과 시점에서 캐시를 직접 읽고 관측들 간의 결과를 결합함으로써 다양한 다운스트림 작업에 공통된 조건 형식(conditioning format)을 제공합니다. 이러한 4LC를 기반으로 4LC-Video를 개발하여 카메라 제어, 시간 제어, 새로운 시점 합성, 장면 재방문, 장기 생성 등 다양한 비디오 생성 작업을 처리할 수 있습니다.

실험 결과, 단일 4LC-Video 모델을 사용하여 작업별 미세 조정 없이도 조건 획득의 효율성, 효과적인 시공간 제어, 그리고 작업 전반에 걸친 장면 일관성을 달성할 수 있음을 보여줍니다.

터미널 에이전트는 복잡한 코딩 작업에서 강력한 능력을 보이지만, 장시간 실행 중 발생하는 오류(예: 명령어 오류, 잘못된 구현)에서 복구하는 데 어려움을 겪어 결국 작업 실패로 이어지는 문제가 있었습니다. 이러한 문제를 해결하기 위해 본 연구는 에이전트가 자신의 실패로부터 복구하는 방법을 학습하여 스스로 개선하는 자기 개선형 터미널 에이전트인 ReTerm을 제안합니다.

ReTerm의 훈련을 지원하기 위해 효과적인 복구 시연을 제공하는 고품질 데이터셋인 ReTerm-10K를 구축했으며, 온라인 강화 학습 알고리즘인 ReTerm-GRPO를 제안했습니다. ReTerm-GRPO는 에이전트의 실패 상태에서 분기하여 여러 독립적인 자체 복구 시도를 생성하는 방식으로 작동하며, 이러한 시도들이 작업을 성공적으로 완료했는지 학습함으로써 에이전트가 자체 경험을 통해 스스로 개선하도록 합니다.

Qwen3.5-9B 모델을 기반으로 구축된 ReTerm-9B는 Terminal-Bench 2.0에서 34.8%의 Pass@1 성능을 달성했으며, 이는 기본 모델 대비 14.6%p 향상된 수치입니다. 또한, 본 방법은 표준 GRPO 훈련과 비교했을 때 다양한 오류 범주에 걸쳐 일관되게 더 높은 복구율을 달성한다는 분석 결과도 제시되었습니다.

관련 코드, 데이터, 모델은 https://github.com/twothsnd/ReTerm에서 공개되어 있습니다.

비전-언어-행동(VLA) 정책은 로봇 조작에서 뛰어난 성능을 보이지만 환경적 결과를 명시적으로 모델링하지 못하는 한계가 있습니다. 세계 행동 모델(WAM)은 미래 예측을 포함하지만 비용이 많이 드는 비디오 생성에 의존하며, 잠재적인 대안들은 비효율적인 시각적 전환으로부터 잠재 행동을 추론하기 위해 대규모 비디오 사전 학습을 사용합니다. 이러한 문제를 해결하기 위해 본 논문은 경량 잠재 세계 모델을 통해 VLA와 WAM을 연결하는 프레임워크인 WAVE-0(World-model-Augmented VLA Execution)을 제안합니다.

WAVE-0은 사전 학습된 VLA의 의미론적 이해와 명시적인 미래 예측을 결합하여 예상되는 행동 결과를 직접적으로 행동 생성에 안내합니다. 이 프레임워크는 사전 학습된 VLA를 기반으로 하는 2억 5천 7백만 개의 세계 모델을 구축하여 VLM이 생성한 잠재 행동 계획을 예측된 미래 표현으로 변환하고 이를 행동 전문가에게 조건화합니다. 특히 이 세계 모델은 픽셀 재구성이나 대규모 비디오 사전 학습 없이 사실적인 로봇 행동에 직접적으로 훈련되며 반사실적 순위 목표를 사용하여 학습됩니다.

이러한 접근 방식은 강력한 조작 성능과 다양한 분포 변화에 걸친 일반화 능력을 입증합니다. WAVE-0은 RoboTwin 2.0에서 91.47%, LIBERO에서 98.7%의 성공률을 달성했으며, LIBERO-Plus, LIBERO-Pro, LIBERO-Para에서도 각각 88.0%, 61.4%, 75.0%의 성공률을 기록했습니다. 또한 실제 환경 작업에서 $\pi_{0.5}$ 성공률을 38.3%에서 73.3%로 향상시켜 실질적인 조작 능력을 크게 개선했습니다.

도시 규모의 3D 그라운딩은 일반적으로 사전 계산된 인스턴스 제안을 필요로 하는 후보 순위 지정 방식으로 이루어져 대규모 야외 장면에서 비효율적입니다. 이에 따라 연구진은 능동적인 공간 탐색을 통해 그라운딩을 수행하는 에이전트 기반 비전-언어 프레임워크인 Urbex를 제안했습니다.

Urbex는 도시 규모의 3D 장면을 상호작용 가능한 다중 시점 환경으로 표현하며, VLM 에이전트가 랜드마크를 질의하고, 특정 영역으로 확대하며, 사선 시점을 렌더링하고, 최종적으로 그라운딩된 경계 상자를 확정할 수 있도록 합니다. 이 도구 사용 정책은 CityRefer를 사용하여 강화 학습으로 최적화되었으며, 효율적인 탐색을 위해 부드러운 위치 보상과 가벼운 형태 보상을 사용했습니다.

실험 결과 Urbex는 CityRefer에서 최고의 Hit@1 및 IoU를 달성했으며, 정답 상자 없이 후보 없는 그라운딩을 지원하고 기존의 강력한 순위 지정 기준보다 훨씬 빠른 속도를 보였습니다. 또한 STPLS3D-Refer에 대한 제로샷 결과는 장면 간 견고성이 향상되었음을 추가로 입증합니다.

System one 모델은 직접적이고 낮은 지연 시간의 의사 결정을 가능하게 하지만, 현재 직렬화된 텍스트에서 답을 예측하는 관행은 의사 결정 문제의 구조를 존중하지 못한다는 한계가 있습니다. 연구진은 현재 설계가 네 가지 중요한 구조적 요구 사항을 충분히 강조하지 못한다고 주장하며, 이를 해결하기 위한 의사 결정 중심의 아키텍처인 Jeva를 제안합니다.

Jeva는 (i) null-aware(답변 부재와 후보 간의 불확실성 구별), (ii) permutation-invariant(대안 순서 변경이 결정에 영향을 미치지 않음), (iii) option-scalable(후보 집합이 커져도 출력 공간을 재정의할 필요 없음), 그리고 (iv) cacheable(반복되는 대안에 대한 계산이 재사용 가능함)이라는 네 가지 요구 사항을 동시에 해결합니다. 이를 위해 Jeva는 요청과 각 옵션을 독립적으로 표현하는 공유 인코더와 불변의 옵션 메모리 대비 요청 상태만을 정제하는 컴팩트한 결정 스택을 사용합니다.

이러한 메커니즘을 통해 대칭적 집계는 순열 동등한 확률을 산출하며, 별도의 커버리지 추정치를 통해 답변 부재와 후보 경쟁을 구별하여 명시적인 null 결과를 가능하게 합니다. Jeva는 선택(Choice), null(Noul), 점수(Score) 출력을 통합하며, 테스트된 모든 순열에서 결정이 뒤집히지 않으면서 거의 완벽한 null 감지 및 강력한 유형 결정 성능을 결합합니다.

Jeva는 수천 개의 후보에 확장 가능하며, 결정에 변화를 주지 않고 요청 간 재사용을 통해 지연 시간을 크게 줄여줍니다. 이는 시스템이 대규모 후보군을 다루면서도 낮은 지연 시간과 높은 안정성을 유지할 수 있도록 합니다.

대규모 언어 모델이 단일 턴 챗봇에서 장기 추론이 가능한 상호작용형 에이전트로 발전하면서 실제 환경에서 노이즈가 포함된 피드백을 처리하고 실패를 복구하는 데 한계가 있었습니다. 기존 방법들은 에이전트의 반성 학습과 실패 복구에 대한 감독이 부족했기 때문에, 본 연구는 에이전트의 능동적인 반성을 장려하기 위한 일반적인 훈련 프레임워크인 Agent-Reflex를 제안합니다.

Agent-Reflex는 세 단계로 구성되어 있는데, 첫 단계인 환경 반성 기술 발견(RSD)은 환경 스케일링에 실제 도구 피드백 교란을 주입하고 성공 및 실패 쌍을 채굴하여 재사용 가능한 반성 메타 기술을 요약합니다. 이 기술 라이브러리를 기반으로 반성 지도 미세 조정(ReSFT)을 적용하여 각 기술을 자기 반성, 기술 복구, 사용자 중심 수정에 대한 감독으로 변환하여 반성 행동을 강화합니다. 마지막으로, 노이즈가 있는 상호작용 하에서의 에이전트 강화 학습과 반성 유도 증류를 결합하는 온-폴리 반성 정책 최적화(ORPO)를 제안합니다.

Qwen3-8B를 기반으로 구축된 Agent-Reflex는 다섯 가지 장기 도구 사용 벤치마크에서 58.6점, AgentNoiseBench에서 29.1점을 달성하며 강력한 환경 스케일링 및 반성 기준선을 능가했습니다. 실험 결과는 Agent-Reflex가 노이즈에 대한 에이전트의 견고성을 향상시키면서도 안정적인 훈련 역학을 유지하여 확장 가능한 에이전트 훈련을 지원함을 보여줍니다. 이 연구는 에이전트가 실제 환경에서 노이즈에 강건해지도록 돕는 실질적인 방법을 제시합니다.

오픈 소스 음성 생성 모델인 Fish Audio Drama 3가 발표되었으며, 이는 텍스트를 지시된 연기로 변환하는 기능을 제공합니다. 이 모델은 350억 개의 파라미터를 가진 Mixture-of-Experts 백본을 기반으로 하며 토큰당 30억 개의 파라미터를 활성화하여 고품질의 음성 생성을 가능하게 합니다.

Drama 3는 단순히 음성을 합성하는 것을 넘어, 여러 기능을 통합하여 멀티턴 수정, 장면 더빙, 인필링을 통한 편집, 스트리밍 텍스트 입력 등을 하나의 모델에서 처리할 수 있게 합니다. 구체적으로는 여러 참조로부터 목소리를 복제하고, 자연어 지시를 따르며, 다음 턴의 메모에 따라 테이크를 수정하고, 다중 캐릭터 장면을 목소리로 표현할 수 있습니다.

이 모델은 하이브리드 선형 어텐션 백본과 새로운 코드북 멀티 토큰 예측 오디오 디코더를 결합하여 시퀀스 전체에 주의를 기울이는 전용 레이어에서 각 프레임의 음향 코드북을 예측합니다. 또한, 인간의 선호도를 보상으로 하는 대규모 배치 강화 학습을 통해 훈련되었으며, H200 GPU에서 단일 스트림을 초당 271프레임으로 디코딩할 수 있는 추론 엔진을 갖추고 있습니다.

모델 가중치는 GitHub와 Hugging Face에서 공개되어 있으며, SGLang-Omni를 통해 추론이 가능합니다. 개발자들은 공식 웹사이트를 방문하여 직접 연기를 지시할 수 있도록 권장하고 있습니다.

시각 에이전트는 진행 상황을 추적하고 다음 행동을 선택하기 위해 비디오 관찰을 시의적절한 결정으로 전환해야 합니다. 이를 위해 연구진은 등장하는 System One 패러다임을 기반으로 비디오 이해 및 상호작용을 구조화된 결정 작업으로 제시하는 VideoJev 모델군을 소개합니다. VideoJev는 사전 학습된 멀티모달 대규모 언어 모델(MLLM)을 활용하여 자기회귀적 답변 디코딩 대신 공유 헤드를 사용하여 비디오 증거에 대해 시간 간격과 텍스트 옵션을 점수화함으로써 모델을 조정합니다. 이 점수들은 이벤트 범위나 답변 선택지를 산출하여 시간적 근거와 다중 선택 비디오 질문 응답을 통합하며, MLLM의 의미론적 유연성과 에이전트가 직접 사용할 수 있는 효율적인 결정을 결합합니다.

상호작용이 진행됨에 따라 새로운 목표와 중간 결과가 발생하면 동일한 시각 기록에 대한 추가 질의가 필요합니다. 따라서 VideoJev는 도착하는 질의에 대해 캐시 추론(Cached inference)을, 단일 순방향 패스에서 여러 질의에 대해 공동 추론(Joint inference)을 통해 시각 연산을 재사용합니다. 이러한 접근 방식은 복잡한 개방형 워크플로우를 구성하기 위해 구조화된 시각 판단을 통합하는 재사용 가능한 결정 인터페이스를 제공합니다.

세 가지 시간적 근거 벤치마크에서 VideoJev-4B와 VideoJev-35B-A3B는 각각 6.7점과 10.8점으로 백본 모델 대비 평균 mIoU를 향상시켰으며, 추론 속도는 2.8~3.1배 향상되었습니다. 또한 네 가지 비디오 QA 벤치마크에서는 Thinking 모드에서 백본과 비교하여 성능이 유사하며, 추론 속도는 100배를 초과했습니다. 이 결과는 시각적 판단을 복잡한 워크플로우로 구성하는 데 유용한 통합적이고 재사용 가능한 결정 인터페이스를 제공합니다.

비전-언어 모델(VLM)의 발전으로 GUI 에이전트의 능력이 크게 향상되었으며, 과거 상호작용에서 지식을 재사용하기 위한 메모리 증강이 유망한 접근 방식으로 주목받고 있습니다. 그러나 기존의 메모리 증강 GUI 에이전트들은 일반적으로 고정된 표현 전략을 채택하여 검색된 경험을 정적인 양식으로 제공합니다. 따라서 단일 메모리 양식이 항상 최적인지, 또는 상호작용 단계에 따라 양식 선호도가 어떻게 변화하는지는 명확하지 않았습니다.

본 연구는 VLM 기반 GUI 에이전트에서 메모리 양식에 대한 체계적인 연구를 수행했으며, GUI 벤치마크 전반에 걸쳐 선호되는 메모리 표현이 단계에 따라 강하게 달라진다는 것을 발견했습니다. 이러한 발견을 바탕으로 각 단계마다 텍스트와 시각 메모리 표현 사이를 동적으로 선택하는 라우팅 프레임워크인 SwitchMem을 제안했습니다.

SwitchMem은 세 가지 GUI 벤치마크에서 정적인 메모리 표현에 의존하는 메모리 증강 기준선보다 우수한 성능을 보였습니다. 이는 메모리 양식 선호도가 고정된 설계 선택이 아니라 단계에 따라 결정되는 의사결정임을 입증합니다. 이 연구는 메모리 양식 선택이 동적인 결정임을 보여주며, GUI 에이전트의 메모리 관리 및 효율성을 개선하는 데 중요한 시사점을 제공합니다.