읽을 가치가 있는 기사만, 짧고 또렷하게.

다중 교사 온정책 증류(MOPD)는 도메인별 데이터를 전문 교사에게 라우팅하여 학생이 생성한 궤적에 대한 밀집된 토큰 수준 감독을 통해 그들의 능력을 통합하는 방법입니다. 하지만 도메인 라우팅은 단순히 감독 출처를 구분할 뿐 모든 도메인으로부터의 업데이트가 공유 파라미터에 작용한다는 한계가 있습니다. 따라서 교사들이 응답 스타일과 도메인 전문성에서 상당히 다를 경우, 개별적으로 효과적인 감독이 공동 최적화 과정에서 지속적인 기울기 충돌과 능력 저하를 유발할 수 있습니다.

이러한 문제를 해결하기 위해 연구진은 다중 교사 MOPD를 위한 교차 교사 가드(Cross-Teacher Guarding for MOPD), 즉 Road MOPD를 제안했습니다. 이 방법은 라우팅되지 않은 교사를 보조적인 교차 도메인 비평가로 도입하여 동일한 학생 궤적에 대해 다중 교사 감독을 조정합니다.

구체적으로 교차 교사 안내된 신용 할당은 교사 간의 합의를 사용하여 교사들이 공동으로 지원하는 토큰 수준 수정을 강화하고 상충되는 신호를 약화시킵니다. 또한 예방적 다중 교사 기울기 투영은 동일한 궤적에서 얻은 보조 기울기를 사용하여 잠재적으로 충돌하는 업데이트를 제약하고 목표 도메인 학습 신호를 유지하기 위해 투영 강도를 적응적으로 제어합니다.

실험 결과, Road MOPD는 불리한 도메인에서의 성능 저하를 완화하며, 높은 충돌 상황에서 5퍼센트 포인트 이상의 이득을 얻고, 낮은 충돌 및 세 도메인 설정에서 전반적인 성능을 개선했습니다.

6G RAN 환경에서 의도 기반 네트워크 관리가 발전하고 있지만, 기존의 충족 및 보장 접근 방식은 트래픽 검사나 개별 흐름 추적을 요구하여 다중 테넌트 네트워크의 개인 정보 보호 제약 및 O-RAN 배포의 공급업체 불투명성과 충돌합니다. 이에 본 논문은 트래픽 검사 없이 선언된 의도 범주로부터 리소스를 할당하고 셀 수준의 표준화된 PM 카운터만을 사용하여 충족 여부를 검증하는 아키텍처를 제시합니다.

이러한 접근 방식은 데이터 처리 부등식을 통해 트래픽 내용에 대한 리소스 할당 누수를 $K$개 범주에 대해 $\log_2 K$ 비트 내로 제한하며, 설계상 의도와 트래픽의 연결 불가능성 및 노드 불투명한 검증이 보장됩니다. 특히 검증에 $M$개 셀 중 각 범주당 최소 $q$개의 셀이 필요할 경우, 상한선은 $\log_2 \lfloor M/q \rfloor rfloor$ 비트로 제한됩니다. 이는 전체 PM 카운터로부터 추론되는 것이 아니라 범주/리소스 채널에 대한 경계를 설정합니다.

실제 운영 데이터 실험 결과, 네 개 운영 네트워크의 PM 데이터에서 범주 평균 점수는 세 네트워크에서 더 높은 AUC를 보였으며 나머지 네트워크에서는 비교 가능한 성능을 나타냈습니다. 이는 개별 셀 스크리닝이 희소한 결함을 처리하는 데 적합함을 보여줍니다.

다만, 이러한 실험은 정리의 관찰 전제를 확립하지 못하며, 기간 내 셀의 동시 움직임은 범주 평균을 6에서 14개의 독립 셀의 증거로 제한합니다. 따라서 범주 수준의 검증을 위해서는 각 범주별 보정이 필요하며, 셀 수준의 검증은 희소한 결함에 적합하지만 범주 평균을 위해서는 추가적인 보정이 요구됩니다.

월드 액션 모델은 비디오 사전 학습을 통해 광범위한 시각적 및 물리적 지식을 물려받지만, 표준적인 비디오 내 다음 프레임 예측은 장면과 신체(embodiment)를 넘어 전달되는 상호작용을 학습하기보다는 문맥과 미래 사이에 공유되는 외관에 의존합니다. 이 문제를 해결하기 위해 연구진은 다양한 환경에서 수집된 작업 쌍 인간 시연을 학습하는 교차 비디오 사전 학습 방법인 WATCH를 제안합니다.

WATCH는 하나의 시연 비디오와 행동에 조건화되어 다른 시연의 행동과 미래 프레임을 공동으로 예측합니다. 이러한 예측 과정은 모델이 장면과 시연자(demonstrator)를 넘어 전달 가능한 작업 관련 상호작용을 학습하도록 장려합니다. 특히 이 사전 학습은 일치된 인간-로봇 시연 없이도 쉽게 확장 가능한 인간-인간 쌍만으로도 학습이 가능합니다.

로봇 분야에 적용했을 때 WATCH는 신체 간 움직임 정렬을 개선하고 보이지 않는 로봇에 대한 행동 및 비디오 예측 성능을 향상시켰습니다. 로봇 후 학습 분석 결과, WATCH는 Cosmos Policy와 함께 MimicDroid의 문맥 내 성공률을 40.9%에서 68.3%로, Cosmos3와 함께 59.8%에서 77.7%로 향상시켰으며, 이러한 이득은 보이지 않는 레벨에서 가장 크게 나타났습니다.

이러한 성능 향상은 로봇 신체 전반에 걸쳐 문맥 없는 후 학습에서도 지속되었으며, WATCH는 비디오 내 사전 학습 및 공동 학습 기준선보다 우수한 성능을 보였습니다. 이는 WATCH가 전달 가능한 월드-액션 표현을 학습하는 확장 가능한 접근 방식으로서 교차 비디오 예측을 지원함을 보여줍니다.

동적 세계를 이해하고 추적하는 것은 시각 지능의 기본이며, 기존 비디오 벤치마크는 모델이 변화하는 세계 상태를 일관되게 이해하는지 충분히 보여주지 못합니다. 이러한 격차를 해소하기 위해 경쟁 게임을 활용하여 모델의 시공간적 세계 상태 이해 능력을 검증하는 벤치마크인 Video-Arena를 소개합니다. 이 벤치마크는 인간이 동적 이벤트를 이해하는 방식에 영감을 받아, 세 가지 작업 범주, 즉 중요한 이벤트 인식, 상태 업데이트 해석, 결과 상태 추적을 통해 모델의 이해 능력을 평가합니다.

Video-Arena는 게임 기록에서 대규모로 비디오와 정렬된 참조 레이블을 생성하는 파이프라인을 통해 평가를 가능하게 하며, 9개의 게임에서 180개의 작업으로 구성된 황금 세트를 선별하여 평가의 비용 효율성과 재현성을 확보했습니다. 평가 방식은 네이티브 시각 이해와 도구 지원 에이전트 분석이라는 두 가지 프로토콜로 진행되었습니다.

평가 결과는 모델의 성능에 중요한 통찰을 제공합니다. 네이티브 모델은 이벤트를 안정적으로 인식하는 데 어려움을 겪는 반면, 도구 지원 시스템은 이벤트 복구를 개선하지만 상태 업데이트를 해석하고 결과를 시간 경과에 따라 일관되게 추적하는 데는 여전히 어려움을 보였습니다. 이는 시공간적 세계 상태 추적 능력을 향상시키기 위해서는 단순한 이벤트 인식뿐만 아니라 상태 변화를 일관되게 해석하는 능력이 필수적임을 시사합니다.

잠재 토큰을 줄이면 확산 모델의 비용을 절감할 수 있지만, 공격적인 잠재 압축은 재구성-생성 딜레마를 야기합니다. 채널을 추가하면 재구성은 개선되지만 생성은 더 어려워지기 때문입니다.

이 문제를 해결하기 위해 APEX(Asynchronous Prefix denoising for EXtreme compression)를 제안합니다. APEX는 계층적 잠재 공간과 채널 그룹에 대한 비동기적 노이즈 제거를 결합한 방법입니다. 오토인코더는 채널 접두사를 구조에서 세부 사항 순으로 정렬하며, 하나의 공유 노이즈 제거기가 토큰을 추가하지 않고 이를 시간차를 두고 생성합니다.

ImageNet-512 데이터셋에서 APEX는 64배 및 128배 압축 하에서 기존 방법들을 모든 평가된 채널 수에서 능가합니다. 또한, 동일한 훈련 및 가이드 샘플링 컴퓨팅 환경에서 APEX는 모든 평가된 예산에서 256 토큰 모델보다 우수한 성능을 보입니다. 특히 낮은 컴퓨팅 환경에서 더 큰 성능 향상을 달성할 수 있다는 점이 주목됩니다.

APEX의 코드는 https://daviddinkevich.github.io/APEX에서 공개되어 있습니다.

GUI 에이전트를 위한 픽셀 공간 세계 모델은 실행 전에 미래 화면을 예측하고 이를 바탕으로 행동을 선택하는 유망한 접근 방식입니다. 하지만 이 이중 단계 패러다임은 GUI 환경에서 두 가지 주요 문제에 직면합니다. 첫째는 픽셀 재구성의 높은 계산 비용이며, 둘째는 행동 선택에 필요한 것 이상으로 크고 다양한 외관 수준의 세부 사항을 재구성해야 하는 필요성입니다. 실제로 화면 생성 목표는 미래 상태 예측이 행동에 의해 유발된 변화를 포착하기보다는 현재 상태를 보존하는 동일성 단축 문제(identity shortcut problem)를 유발할 수 있습니다.

본 연구는 GUI 세계 모델링을 전체 화면 재구성에서 잠재 공간 내의 행동 유발 미래 정보 예측으로 목표를 전환하여 문제를 해결합니다. 이를 위해 대규모 멀티모달 모델을 잠재 세계 모델로 활용하고, 행동 선택과 예측 전환 모델링을 위한 두 개의 전용 헤드를 지원합니다. 또한 동일성 단축 문제를 완화하기 위해 전환 표현이 행동에 의해 유발된 차별적인 변화를 포착하도록 장려하는 행동 인식 대조 목표를 추가로 도입했습니다.

오프라인 및 온라인 GUI 설정 전반에 걸친 광범위한 실험 결과, 이 방법은 픽셀 공간 세계 모델 대비 성공률에서 최대 31.9%와 40.6%의 상대적 이득을 달성했으며, 추론 지연 시간을 최대 98.9%까지 크게 줄였습니다. 이 연구의 코드는 https://github.com/sjyu001/latent2world에서 공개되어 있습니다.

비디오 확산 모델이 4차원(4D) 생성의 사전 정보로 사용되지만, 생성된 비디오는 종종 기하학적 일관성이 부족한 문제가 제기됩니다. 기존 접근 방식은 후처리 단계에서 기하학적 보상을 설계하여 이 문제를 해결하려 했으나, 이는 질감과 세밀한 디테일을 저하시킬 수 있어 보조적인 외관 보상과 신중한 보상 균형 조정이 필요했습니다.

이에 연구진은 훈련 및 추론 시 보상 정렬 모두에 적용 가능한 단일 기하학적 보상을 통해 기하학적 일관성과 시각적 품질을 동시에 개선하는 통합 프레임워크인 GeoFix를 제안합니다. GeoFix는 외관이나 유효한 객체 움직임을 직접적으로 제약하지 않으면서 정적인 장면 영역에서 교차 시점 깊이 일관성을 측정하여 구조적 불일치를 목표로 합니다.

특히, 실제 비디오 및 4D 데이터셋에서 카메라 시야각(field-of-view) 중첩이 증가함에 따라 깊이 일치도가 높아진다는 점을 고려했습니다. 이는 더 작은 카메라 움직임이 더 나은 기하학으로 오인될 수 있음을 의미하며, GeoFix는 이러한 중첩 의존적 추세를 기준으로 보상을 보정하여 이 효과를 정확하게 반영합니다.

이러한 접근 방식을 통해 GeoFix는 WorldScore 3D 일관성에서 39%의 개선과 VBench 품질 점수에서 4%의 증가를 달성했습니다.

대규모 언어 모델(LLM) 에이전트가 점점 더 복잡하고 정보 집약적인 작업을 수행함에 따라 효과적인 웹 접근 능력은 에이전트 문제 해결의 핵심 역량이 되고 있습니다. 기존의 웹 접근 방식들은 검색 증강 에이전트, 브라우저 기반 에이전트, 파일 시스템 기반 에이전트 등 다양한 접근 모델을 통해 발전해 왔습니다.

하지만 에이전트가 장기적인 종단 간(end-to-end) 작업을 완료하기 위해서는 광범위한 정보 수집, 브라우저 작업 수행, 획득한 증거 재검토가 필요합니다. 기존 접근 모델들은 주로 정보 수집이나 브라우저 상호작용 중 하나만 지원하며, 이들을 결합할 경우 상당한 비용이나 성능 상충이 발생합니다.

이에 연구진은 웹 접근을 단일 접근 모델 아래 통합하는 인터페이스인 Web$hell을 제시했습니다. Web$hell은 WebContract로 정의된 공통 스키마를 사용하여 라이브 웹페이지를 주소 지정 가능한 정보 및 작업 객체로 컴파일합니다. 이 객체들은 WebCache에 유지되며 공유된 작업 집합을 통해 처리되어 에이전트에게 일관되고 작동 가능하며 지속적인 웹 접근을 제공합니다.

광범위한 웹 검색, 웹 탐색, 심층 연구 벤치마크에 걸친 실험 결과, Web$hell은 더 낮은 비용으로 강력한 작업 성능을 달성함을 보여줍니다. 이는 효과적인 웹 접근을 위한 인터페이스 설계의 중요성을 입증하며, 웹 상에서 더욱 유능하고 효율적인 LLM 에이전트의 가능성을 열어줍니다.

대규모 언어 모델(LLM)의 발전은 에이전트가 샌드박스 환경에서 파일 시스템 및 셸과 직접 상호작용하는 일반 목적 하네스 환경으로 배포되는 것을 촉진하고 있습니다. 현재 도구 사용 에이전트를 위한 후처리 파이프라인은 존재하지만, 하네스 기반 에이전트를 위한 파이프라인은 부족하며 대부분 단일 시점(one-shot)이고 교사 의존적입니다. 이는 외부 모델이 작업을 합성하고 궤적을 수집하며, 대상 에이전트는 한 번 훈련되고 평가 결과는 인간 연구자에 의해 소비되어 루프에 다시 피드백되지 않는 방식으로 이루어집니다. 이러한 방식은 외부 모델의 능력과 인간의 사전 지식 범위에 의해 본질적으로 제한되어 있어 자체 개선의 여지가 없습니다.

이러한 한계를 해결하기 위해 연구진은 외부 교사 모델 없이 최소한의 사전 의존성으로 자체 개선이 가능한 프레임워크인 ClawLoop를 제안했습니다. ClawLoop는 세 단계로 구성된 자가 지속 주기(self-sustaining cycle)를 통해 학습을 진행합니다. 첫째는 두 가지 보완적인 구성 루틴을 통해 다양한 훈련 작업을 생성하는 작업 합성(Task Synthesis) 단계입니다. 둘째는 SFT 및/또는 RL을 통해 에이전트를 업데이트하는 훈련(Training) 단계입니다. 마지막으로 에이전트의 롤아웃 행동을 분석하여 다음 반복을 위한 작업 합성을 위한 피드백으로 사용될 역량 분석 보고서를 생성하는 진단 및 피드백(Diagnosis and Feedback) 단계입니다.

이 루프 모델로 Qwen3.6-27B를 사용하여 훈련한 결과, ClawLoop는 SkillsBench, Claw-Eval-Live, ClawGym-Bench에서 일관된 개선을 달성했습니다. 또한 반복적으로 개선된 작업들은 루프 모델과 독립적으로 데이터 품질을 검증하면서 더 작은 규모의 Qwen3.5-4B 및 9B 모델로 이전되었으며 모든 벤치마크에서 성능 향상을 보였습니다.

터미널 에이전트는 터미널에서 명령을 실행하여 소프트웨어 공학 및 과학 연구 작업을 해결하는 데 사용됩니다. 그러나 강화 학습(RL)을 통해 에이전트를 훈련시키기 위해서는 다양하고 검증 가능한 환경이 필요한데, 이러한 환경은 대부분 인간 연구자에 의해 설계되어 있어 공급이 연구자의 작업 속도에만 비례하여 증가하는 한계가 있었습니다.

이러한 문제를 해결하기 위해 AutoEnvScaling은 환경 설계를 터미널 작업으로 간주하고 에이전트를 사용하여 데이터 플라이휠을 자동화합니다. 제안 에이전트는 훈련 중인 솔버의 실행 결과로부터 새로운 RL 환경을 구축하고, 솔버의 새로운 실행 결과가 다음 라운드를 안내하도록 하여 환경 생성 과정을 자동화합니다. 이 방법을 통해 프롬프트 기반 생성에 비해 유효 환경 비율을 최대 25배 증가시키고 유효 환경당 비용을 최대 75% 절감할 수 있습니다.

실제로 이 방법은 모델 성능 향상에도 기여했습니다. AutoEnvScaling 환경에서 Qwen3.5-35B-A3B를 훈련시킨 결과, Tmax 기준선 대비 Terminal-Bench 2.1 점수가 4.3점 향상되었습니다. 또한, 환경 생성과 문제 해결이라는 두 역할을 모두 수행하는 Qwen3.6-35B-A3B는 Terminal-Bench 2.1 점수를 12.2점 올렸으며, Terminal-Bench 4.0 점수를 1.6점에서 3.2점으로 끌어올렸습니다.

이 파이프라인은 소프트웨어 공학, 컴퓨터 사용, 전문 작업, GPU 커널 프로그래밍 등 다양한 에이전트 도메인에 걸쳐 환경을 생성할 수 있어 일반화가 가능합니다. 이는 에이전트가 자체 훈련 환경을 구축하여 인간 의존도를 줄이고 재귀적 자기 개선(RSI)으로 나아가는 핵심적인 단계를 제시합니다.

LLM 에이전트의 능력은 기반 모델뿐만 아니라 실행 하네스(execution harness)에 크게 의존하며, 재귀적 자기 개선(RSI)은 이러한 하네스를 자동으로 발전시키는 유망한 접근 방식입니다. 그러나 오픈 월드 환경에서 RSI를 배포할 때 두 가지 중요한 난제가 존재합니다. 첫째, 오픈 월드 작업은 하네스 설계 단계에서 보이지 않고 테스트 시점에 새롭게 나타나기 때문에 온라인 하네스 수정을 안정적으로 안내할 수 있는 정답(ground-truth) 검증기가 없습니다. 둘째, RSI 과정이 특정 작업에 국한되어 있어 새로운 시나리오에 일반화되지 못하는 한계가 있습니다.

이러한 문제를 해결하기 위해 연구진은 플러그 앤 플레이 방식의 재귀 에이전트 하네싱 프레임워크인 Harness^2를 소개합니다. Harness^2는 두 단계의 재귀를 통해 이러한 난제를 해결합니다. 작업 수준 재귀는 정답 검증기 없이도 수정을 안정적으로 안내하는 대조적 제안-탐색-구성(Propose-Probe-Compose) 단계를 사용하여 현재 작업의 하네스를 개선하며, 병렬 또는 순차적 재귀를 통해 확장될 수 있습니다.

나아가 하네스 수준 재귀는 이러한 수정에서 경험을 추출하여 지속적인 개선 하네스를 업데이트함으로써 에이전트가 미래 작업에 더 잘 적응하도록 합니다. 이 방법은 세 가지 전문 벤치마크와 네 가지 모델-하네스 구성에서 GLM-5와 Gemini 3.5 Flash가 기본 하네스보다 한 단계 개선되었음을 입증했습니다. 단일 단계만으로도 WorkBuddy-Bench에서 11.5점, JobBench에서 4.5점, LAB에서 11.8퍼센트포인트의 향상을 얻었으며, 작업 수준 재귀 예산이 증가함에 따라 추가적인 이득이 발생합니다.

거대 언어 모델(LLM)의 창의성을 평가하는 벤치마크는 과제와 측정 기준 설계에 따라 매우 다양하여 창의성에 대한 공통된 개념을 포착하는지에 대한 의문이 제기됩니다. 연구진은 이러한 공통 목표를 참조 입력-출력 분포의 긴 꼬리(long tail)에서의 특정 과제 성능으로 공식화할 것을 제안합니다. 이는 특정 텍스트 출처에 상대적으로 얼마나 흔한 입력-출력 쌍인지를 설명합니다.

이 주장은 새로움-품질 제품 공식화에 기반하여 15개의 벤치마크와 26개의 오픈 웨이트 모델에 걸쳐 실증적으로 평가되었습니다. 연구는 사전 학습 데이터에서 n-그램 부재를 새로움의 대리 지표로 사용하여 평가를 진행했습니다. 그 결과, 창의성 벤치마크는 표준 벤치마크보다 더 긴 꼬리 영역에 위치하는 것으로 나타났습니다.

또한, 창의성과 표준 벤치마크 모두에서 각 벤치마크의 더 긴 꼬리 부분에서 나온 모델 순위가 LM-Arena에서의 인간의 창의성 판단과 더 밀접하게 일치하는 것으로 확인되었습니다. 이를 바탕으로 연구진은 기존 벤치마크의 꼬리 부분 평균 과제 품질을 측정하는 저비용 창의성 진단 도구인 q@Tail(α)을 도입했습니다. 이 도구를 창의성 증진 방법론에 적용했을 때, 더 강력한 꼬리 성능을 통해 LLM의 창의성을 개선할 상당한 여지가 있음을 보여줍니다.

대규모 언어 모델은 복잡한 추론 능력에서 놀라운 발전을 이루었지만, 추론 후 훈련을 방대한 코퍼스로 확장하면 성능 향상에 비례하지 않게 훈련 비용이 크게 증가하는 문제가 있습니다. 이 연구는 이러한 문제를 해결하기 위해 능력 저하 없이 추론 지도(reasoning supervision)를 얼마나 압축할 수 있는지에 초점을 맞추고, 불확실성 기반의 점진적 수축 프레임워크를 제안합니다.

제안된 방법은 중간 추론 상태 주변에 몬테카를로 추론 트리를 구축하여 과정 수준의 불확실성을 노출함으로써 불확실성 기반의 추론 지도를 구성합니다. 이 불확실성은 원본 코퍼스를 소수의 교사 정보가 반영된 풀로 압축하고, 학습자 인식 수축을 통해 SFT 과정 중 온라인 라우팅을 수행하여 최적화가 학습자의 변화하는 학습 상태에 따라 집중되도록 합니다.

실험 결과, 이 방법은 다양한 추론 벤치마크와 LLM 패밀리에서 전체 데이터 SFT의 최적화 예산 중 0.22%만을 사용하며, 훈련 노출을 450배 이상 줄이면서 추론 성능을 유지하거나 개선했습니다. 특히 이 프레임워크는 이질적인 학생 계층, 블랙박스 교사, 그리고 약한 추론에서 강한 추론으로의 전이에서도 잘 일반화되는 것으로 나타났습니다.

이는 단순히 훈련 속도를 가속화하는 것을 넘어 추론 능력을 향상시킬 수 있음을 시사하며, 효율적인 훈련과 향상된 추론 능력을 동시에 달성할 수 있는 새로운 접근 방식을 제시합니다.

소프트웨어 생산이 소프트웨어 자체의 손에 들어가면서 코딩 에이전트들은 사용자 워크플로우에 맞춘 에이전트를 구축하도록 위임받고 있습니다. 그러나 이러한 위임에는 전달된 에이전트가 요구 사항을 충실히 이행한다는 암묵적인 가정이 있지만, 이를 검증하는 기존 벤치마크는 존재하지 않습니다.

이러한 간극을 메우기 위해 연구진은 에이전트 소프트웨어 엔지니어링의 세 단계를 포괄하는 벤치마크인 AgentSWE를 소개합니다. 이 벤치마크는 자연어 요구 사항으로부터 완전한 에이전트를 생성하는 단계, 실제 에이전트 코드베이스를 편집하는 단계, 그리고 측정 가능한 목표를 향한 최적화 단계로 구성됩니다.

AgentSWE의 25가지 작업은 시험이라기보다는 위임된 임무로 제시되며, 빌더는 몇 가지 예시 사례를 통해 반복하고 수용 단계에서는 전체 요구 사항을 포괄하는 홀드아웃 사례를 사용하여 평가합니다. 이 과정에서 에이전트의 행동은 요구 사항 기반의 기준에 따라 통과/실패 게이트를 거치거나 최적화 단계에서는 벤치마크의 목표에 따라 평가됩니다.

다양한 코딩 에이전트를 평가한 결과, 요구 사항이 요구하는 바를 충족하는 수준에는 도달하지 못했으며, 빌더가 보여주는 것과 실제로 제공하는 것 사이의 간극이 예외적인 경우가 아니라 일반적인 현상임을 발견했습니다. 또한 실패 궤적에 대한 경험적 분석을 통해 과도한 학습, 완성된 것처럼 보이는 코드 뒤의 공허한 실행 시간, 그리고 완료에 대한 근거 없는 주장이 반복되는 실패 모드로 확인되었습니다. 이러한 실패 모드들은 코딩 에이전트가 요구되는 에이전트를 구축하는 방법을 학습하는 데 중요한 신호가 됩니다.

터미널 에이전트는 국지적인 작업에서 벗어나 실제 전문 작업을 완료하는 방향으로 발전하고 있습니다. 짧은 궤적은 명령어와 도구 호출을 보여줄 수는 있지만, 에이전트가 탐색을 통해 증거를 축적하고 이를 판단에 활용하며 피드백을 기반으로 전략을 지속적으로 조정하고 중간 결과를 최종 산출물로 전환하는 과정을 완전히 보여주지는 못합니다. 고품질의 장기 궤적은 단일 문제 해결 과정 내의 에이전트 행동 패턴과 그 연결을 포착하여 지속적인 자율 작업을 위한 풍부한 경험을 제공합니다.

하지만 환경 합성 과정은 이러한 패턴의 근간이 되는 핵심 작업을 미리 완료하거나 단순화하여 에이전트가 수행해야 했던 탐색, 구현, 검증의 필요성을 제거할 수 있습니다. 이러한 문제를 해결하기 위해 장기 터미널 에이전트를 위한 완전 자동화된 데이터 합성 엔진인 TerminalHorizon을 소개합니다. 이 엔진은 실제 전문 작업에서 시작하여 독립적인 실행을 통해 구성 과정에서 누락된 핵심 작업을 식별하고 그 증거를 사용하여 환경을 재구성합니다.

이러한 패턴을 단계별로 확장하기 위해 TerminalHorizon은 동일한 목표 아래 새로운 요구 사항을 도입하며 이전 결과에 기반한 추가 탐색과 개선을 유도합니다. 이 엔진을 사용하여 1,500개의 작업 환경을 구축하고 결과 데이터셋으로 Qwen3.5-27B를 지도 학습 미세 조정하여 TerminalHorizon-27B를 얻었습니다. 이 모델은 코딩 에이전트 작업, 실제 생산 환경에서의 에이전트 작업, 일반 추론을 포괄하는 12가지 벤치마크에서 상당한 성능 향상을 달성했습니다.

여러 RSI 사례 연구는 각 12시간 연구 예산을 통해 모델이 초기 솔루션을 넘어 계속 실험하고, 피드백을 기반으로 방법을 개선하며, 최종 산출물에서 효과적인 개선을 유지하는 능력을 입증합니다.

복잡한 공간 추론 문제를 해결할 때 인간은 관련 시점에서 장면을 다시 보고 해당 시점에서 공간 배치를 정신적으로 재구성합니다. 하지만 대규모 시각-언어 모델(LVLM)이 이러한 방식으로 능동적으로 사고할 수 있는지에 대한 질문이 제기됩니다. 연구진은 현재 LVLM에서 상당히 미개발된 시각 지능의 내재적 구성 요소인 능동적 공간 정신화(Active Spatial Mentalization, ASM)를 채우기 위해 SpatialASM이라는 확장 가능한 프레임워크를 제안합니다.

SpatialASM은 훈련 시간 공간 시뮬레이션을 통해 LVLM에 ASM을 내재화하는 것을 목표로 합니다. 이 방법은 공간적 추론 중 시점 계획과 상상을 적절히 호출하는 방법을 가르치는 명시적인 ASM 궤적과 시점 조건부 장면 상상을 강화하는 자동 구성 시점 취하기 작업을 두 가지 보완적인 형태의 감독으로 제공합니다.

실험 결과, SpatialASM은 네 가지 LVLM 백본 모델에서 공간 추론에 대한 성능을 향상시키면서도 원래의 일반적인 시각 능력을 유지했습니다. 이 접근 방식은 상대적으로 지각 중심적인 공간 이해부터 다중 이미지, 교차 시점 및 시점 변환 추론을 요구하는 더 어려운 작업까지 총 일곱 가지 공간 벤치마크에서 평균 정확도를 개선했습니다.

결론적으로, ASM 궤적의 종합은 능동적인 시점 탐색과 정신적 장면 시뮬레이션을 위한 공간 Chain-of-Thought(CoT) 감독의 부족을 완화하는 확장 가능한 경로를 제공합니다.

Multi-Stream Attention Residuals(MSAR)는 네트워크 깊이에 걸쳐 콘텐츠 의존적인 검색을 가능하게 하는 Attention Residuals(AttnRes)를 확장한 기술입니다. MSAR는 멀티헤드 깊이 어텐션 메커니즘을 일반화하여 최소한의 추가 오버헤드로 상당한 성능 향상을 달성합니다. 이 기술은 시퀀스 축을 따라 멀티헤드 어텐션의 성공을 참고하여, 멀티스레임 어텐션을 구현합니다.

MSAR는 멀티스레임의 다양성을 멀티스케일 인과 컨볼루션을 통해 시퀀스 컨텍스트에서 추출합니다. 이를 통해 서로 다른 헤드들이 숨겨진 표현의 무결성을 보존하면서도 각기 다른 문맥적 시각을 통해 과거 표현을 검색할 수 있게 합니다. 검색된 스트림들은 경량의 적응적 혼합을 통해 결합되어 단일 스트림 레이어 입력을 생성합니다. 이는 지속적인 멀티스레임 저장이나 통신 없이 멀티스레임 연산을 지원합니다.

MSAR는 18B 및 28B MoE 규모의 12가지 다운스트림 벤치마크에서 이전의 잔차 변형들, 표준 잔차 연결, 매니폴드 제약 하이퍼커넥션(mHC), AttnRes보다 일관되게 우수한 성능을 보였습니다. 스케일링 법칙 실험 결과, MSAR는 표준 잔차 기준 대비 1.58배의 아이소-손실 컴퓨팅 속도 향상을 보였으며, 이는 AttnRes(1.35배)나 mHC(1.30배)보다 높은 수치입니다. 이러한 결과는 MSAR가 대규모 사전 학습을 위한 유망한 잔차 아키텍처임을 시사합니다.

드래그 기반 이미지 편집에 시각적 추론을 통합한 새로운 멀티모달 프레임워크인 ThinkDrag가 발표되었습니다. 기존의 방법들은 드래그 지시를 기하학적 변위로 해석하는 데 그쳐 이미지 내용을 이해하고 의미 있는 변형을 추론하는 데 한계가 있었습니다. ThinkDrag는 이러한 문제를 해결하기 위해 점 제약 조건을 의미 있는 객체 및 장면 수준의 변형과 연관시키는 방식으로 훈련되었으며, 이미지 생성 전에 의도된 편집을 해석하는 명시적인 추론 경로를 생성할 수 있습니다.

이러한 추론 경로는 특히 모호한 드래그에 대한 해석 가능성을 크게 향상시킵니다. 또한, 이미지 공간에서 각 드래그를 근거하는 명시적인 대응 신호를 제공하는 드래그 엔드포인트 마커를 도입하여 드래그를 이미지 공간에 고정시킵니다. 이를 뒷받침하기 위해 의미론적 드래그 변형과 추론 경로를 쌍으로 하는 지도 학습 데이터셋을 구축하고, 까다로운 드래그 기반 편집 시나리오를 목표로 하는 DragBench++ 벤치마크를 소개했습니다.

실험 결과, ThinkDrag는 경쟁력 있는 점 추적 정밀도를 유지하면서도 생성 품질과 그럴듯함을 개선하여 최고 수준의 성능을 달성했습니다. 이는 사용자가 시각적 추론을 통해 더 복잡하고 의미론적인 이미지 편집을 수행할 수 있도록 지원하는 중요한 진전을 의미합니다.

자율 에이전트 간의 통신이 어떻게 출현하는지, 그리고 선천적인 행동 선택 구조가 어떤 역할을 하는지에 대해 연구했습니다. 이 연구는 Webots 모델에서 PyBullet로 재구성된 두 개의 e-puck 로봇이 통과할 때만 감지되는 먹이 구역을 찾아야 하는 상황을 다룹니다. 각 로봇은 방향을 수신자가 감지할 수 있는 1비트 신호를 방출할 수 있으며, 제어는 잔차 경로를 가진 GRU 순환 네트워크와 내재된 행동 선택 구조(EASA) 내에서 이루어집니다.

로봇의 적합도는 먹이 위에서 보낸 시간에만 측정되었습니다. 로봇이 먹이를 향하는 나침반을 수신하면 신호 사용은 완전히 사라집니다. 나침반이 없을 때 작은 경기장에서는 참조 신호, 영구 비컨, 신호 사용 없음 등 다양한 전략이 유사한 성능을 달성했습니다. 그러나 경기장이 확장될수록 참조 신호 기반 전략이 가장 잘 일반화되었습니다.

EASA 내에서 선천적인 반사 작용은 네트워크를 제약하고 성능을 감소시킵니다. 이러한 선천적인 우선순위가 진화함에 따라, 진화는 이러한 반사 작용을 지속적으로 약화시킵니다. 연구 결과는 통신이 전달하는 정보의 가치에 비례하여 출현하며, 고립된 에이전트를 위해 설계된 선천적인 골격이 사회적 과제에서 장애물이 될 수 있음을 시사합니다.

거대 언어 모델(LLM)의 디코더 은닉 상태는 서로 보완적인 정보를 담고 있지만, 기존의 추측 디코딩(speculative decoding) 방법은 고정된 위치 기반 휴리스틱에 의존하여 적은 수의 레이어를 선택하는 데 그쳤습니다. 최적의 레이어 부분집합을 선택하는 것은 본질적으로 조합 문제이므로, 중간 깊이의 모델에서도 전체 평가가 불가능합니다.

본 연구는 추측 디코딩을 위한 다중 레이어 은닉 상태 선택을 위한 원칙적인 프레임워크를 제시하며, 이는 행렬 엔트로피 분석을 통한 정보량(informativeness)과 중심 커널 정렬(CKA)을 사용한 다양성(diversity)이라는 두 가지 상호 보완적인 기준에 기반합니다. 연구진은 레이어별 섀넌 엔트로피, 은닉 상태 연결에 따른 집계 엔트로피, 그리고 깊이에 따른 쌍별 CKA 역학을 조사하여 디코더 표현 내의 기하학적 및 정보적 구획을 밝혀냈습니다.

이러한 발견을 바탕으로 연구진은 은닉 상태 집합이 고도로 정보적이고 최소한의 중복성을 갖는 것을 선호하는 엔트로피 및 CKA 기반 레이어 선택 알고리즘을 제안했습니다. 또한 예측 엔트로피가 낮은 토큰과 관련된 은닉 상태를 제거하는 토큰 엔트로피 필터링을 도입하여 레이어 선택 통계의 품질을 향상시킵니다.

EAGLE3 스타일의 추측 디코딩에서 제안된 방법으로 선택된 레이어 집합은 기본 설정 규칙인 [2, N//2, N-3]을 포함한 고정된 기준보다 더 우수한 성능을 보였습니다. 이는 일부 기본 설정이 여전히 경쟁력을 가질 수 있는 이유를 더 명확하게 설명하며, LLM 디코더 상태 내의 기하학과 정보에 대한 통찰을 제공합니다.