읽을 가치가 있는 기사만, 짧고 또렷하게.

고성능 GPU 커널 자동 생성은 현대 머신러닝 시스템에 필수적이지만, 정확성과 효율성을 동시에 만족하는 커널을 자동으로 생성하는 것은 여전히 어려운 과제입니다. 기존의 LLM 기반 접근 방식은 모델의 현재 능력에 맞는 고품질 학습 데이터 부족과 커널의 정확성과 성능 사이의 본질적인 상충 관계라는 두 가지 주요 한계에 직면해 있습니다.

이러한 문제를 해결하기 위해 KernelZero라는 공동 진화 프레임워크가 제안되었습니다. KernelZero는 API 세트로부터 Torch 모듈을 생성하는 Proposer 모델과 이를 CUDA 또는 Triton 커널로 변환하는 Coder 모델이라는 두 가지 전문 모델을 통해 GPU 커널 생성을 지속적으로 개선합니다. 특히, KernelZero는 Coder의 약점을 기반으로 능력에 부합하는 학습 모듈을 지속적으로 생성하는 프론티어 기반 모듈 생성 메커니즘을 사용합니다.

또한, KernelZero는 정확성이 충분히 신뢰될 때까지 성능을 최적화하지 않는 Correctness-Aware Group Relative Policy Optimization(CA-GRPO)을 도입했습니다. Proposer와 Coder의 최적화를 번갈아 수행함으로써 KernelZero는 목표 지향적이고 훈련 효율적인 능력 개선을 가능하게 하는 자동 커리큘럼을 형성합니다.

실증 결과에 따르면 KernelZero-7B는 CUDA에서는 Claude-4.5-Sonnet을, Triton에서는 DeepSeek-V4-Pro를 능가했습니다. KernelBench 레벨 1과 2에서 CUDA pass@1 점수는 75.8%와 69.6%를 달성했으며, pass@10 점수는 각각 100%와 97%에 도달했습니다. Triton에서는 pass@1 점수가 77.2%와 72.5%를 기록했습니다.

EEG 파운데이션 모델은 임상 및 인지 신경과학 응용 분야에서 뇌 신호 디코딩을 확장할 잠재력을 가지고 있지만, 사전 훈련 파이프라인은 여전히 잘 이해되지 않고 있습니다. 특히 모델 설계에서 마스킹 전략은 네트워크가 무엇을 예측해야 하는지, 그리고 어떤 맥락에서 예측해야 하는지를 결정하기 때문에 매우 중요합니다. 이 연구는 이러한 시공간적 마스킹 전략의 설계 선택을 정식화하고, 두 가지 자기 지도 학습(SSL) 프레임워크인 MAE와 JEPA를 사용하여 다양한 마스킹 구성 하에서 모델을 훈련시켰습니다.

연구진은 이 58개의 사전 훈련된 모델을 OpenEEGBench의 12개 데이터셋에 대해 평가했으며, 두 프레임워크 모두 최적의 마스킹 구성과 공유된 실패 모드에 대해 합의했습니다. 또한, 11개의 MAE 구성과 9개의 JEPA 구성은 최고 성능과 통계적으로 구별할 수 없음을 확인했습니다.

더 나아가, 연구는 표준 탐지기로는 파악할 수 없는 새로운 JEPA 특유의 실패 모드인 바이어스-인플레이션 붕괴(bias-inflation collapse)를 식별했습니다. 적절한 마스크를 사용하면 이 파이프라인은 REVE 수준의 다운스트림 성능을 REVE의 사전 훈련 컴퓨팅 자원의 일부만으로 달성할 수 있습니다.

모델 병합은 여러 전문가의 능력을 결합하지만 공동 재학습 없이 이루어지며, 표준 전문가 훈련은 작업 손실만을 최적화하여 병합 후 성능을 보장하지 못합니다. 기존의 병합 인식 훈련(MAT) 방법들은 일반적인 병합 연산을 충분히 고려하지 못하고 추가적인 훈련 비용을 발생시킵니다.

연구진은 전문가 관점에서 일반적인 병합 방법들을 스케일(자신의 업데이트 재가중), 마스크(선택된 좌표 제거), 섭동(다른 전문가의 업데이트 추가) 세 가지 연산으로 설명했습니다. 이를 바탕으로 SMAT(Simple MAT)를 제안했는데, 이는 스케일링 계수, 마스크, 추가 노이즈를 샘플링하여 생성된 시뮬레이션된 병합 파라미터에 대해 전문가 손실과 예상 손실을 공동으로 최적화합니다.

SMAT는 주기적 스케줄링, 커널 융합, 파라미터 저장 전환 등의 기법을 도입하여 효율성을 높였으며, 각 단계마다 한 번의 순방향 및 역방향 패스만 사용합니다. 이 방법은 네 가지 언어 및 비전-언어 백본에서 다섯 가지 병합 방법의 평균 점수를 각 백본의 가장 강력한 기준선 대비 1.07점에서 2.16점 향상시켰습니다.

SMAT는 표준 파인튜닝 대비 훈련 시간 오버헤드가 2% 미만으로 매우 효율적입니다. 이는 모델 병합 과정에서 성능을 개선하면서도 훈련 효율성을 유지하려는 개발자에게 유용한 접근 방식을 제공합니다.

확산 트랜스포머(DiT)는 고화질 이미지 합성의 확장 가능한 백본으로 자리 잡았지만, U-Net 기반 확산 모델과 달리 경직된 스킵 커넥션 대신 모든 이전 레이어를 통합하는 균일한 잔차 스트림을 사용합니다. 이 연구는 확산 트랜스포머의 잔차 연결 방식을 재고하여 이를 수동적인 합산에서 이미지 노이즈 제거에 최적화된 능동적인 검색 메커니즘으로 변환하는 것을 제안합니다.

연구진은 DiT의 내부 표현을 체계적으로 분석하여 초기 레이어 특징 재사용과 대칭적인 레이어 가이드에 대한 잠재적 선호를 발견했습니다. 이를 바탕으로 국소 잔차 연결과 장거리 경로를 명시적으로 통합하는 구조화된 연결 설계를 도입했습니다. 이 방법은 각 트랜스포머 블록이 직접적인 미분 가능한 교차 깊이 경로를 통해 중요한 이전 표현에 선택적으로 '주의'를 기울여 공간적 및 의미적 단서를 동적으로 검색할 수 있게 합니다.

실험 결과, 이러한 적응형 연결성은 더 빠른 수렴을 가져왔으며, 추가 파라미터는 0.1% 미만으로 유지하면서 FID와 시각 품질에서 상당한 개선을 이루었습니다. 이 방법은 강력한 REPA-XL/2 모델의 FID를 가이드 없이 5.9에서 4.34로, 분류 없는 가이드(classifier-free guidance)를 사용했을 때는 1.39로 향상시켰습니다.

연구 결과는 확산 트랜스포머에서 적응형 교차 레이어 연결이 중요하지만 충분히 탐구되지 않은 요소이며, 구조화된 정보 경로를 통합하는 것이 확장 가능한 생성 모델을 개선하는 간단하고 효과적인 방향을 제공한다는 것을 시사합니다.

대규모 언어 모델(LLM) 에이전트가 수 시간 동안 지속되는 극장기(xlong-horizon) 작업을 수행할 때 온라인 강화 학습(RL)을 적용하는 데는 두 가지 근본적인 문제가 발생합니다. 첫째, 실행 편차와 지연으로 인해 GPU 유휴 시간이 발생하며, 둘째, 복잡한 비선형 분기 과정에서 발생하는 방대한 궤적 중복으로 인해 학습 효율성이 저해됩니다.

이러한 문제를 해결하기 위해 연구진은 xlong-horizon 온라인 RL을 위한 엔드투엔드 프레임워크인 QwenGyre를 제시했습니다. QwenGyre는 실시간 실행을 중단하지 않고 롤아웃과 학습 간에 GPU를 탄력적으로 재할당하며, 궤적 프로세서를 통해 분기 이력을 재구성하고 부분 진행 상황을 점수화하며 중복 경로를 제거하여 학습 비용을 제한합니다.

이 프레임워크는 플래그십 모델인 Qwen~3.8 2.4T에 확장되어 롤아웃당 70만 토큰을 처리할 수 있으며, 48단계에서 NL2RepoBench에서 6.0%의 절대적인 성능 향상(52.5%에서 58.5%로)을 달성했습니다. 또한, 다양한 학습 데이터셋에 대한 평가에서 QwenGyre는 Colocate 대비 최대 1.85배, Async 대비 최대 1.78배의 속도 향상을 제공합니다.

드론 시각 내비게이션을 위한 효율적인 세계 행동 모델인 DroneWAM이 발표되었습니다. 이 모델은 후보 행동이 미래 관측에 어떻게 변화를 가져올지 예측하고 예측된 결과를 바탕으로 행동할 수 있게 하여, 정확도와 효율성이라는 제약 조건 하에서 작동해야 하는 드론 환경에 최적화되었습니다.

DroneWAM은 명시적인 미래 이미지 생성을 피하기 위해 표현 공간에서 미래 상태를 직접 모델링하는 JEPA 기반 아키텍처를 채택했습니다. 또한, 사전 학습된 Resampler를 사용하여 밀집된 인코더 특징을 더 적은 잠재 토큰으로 압축함으로써 상상하는 각 단계에서 반복되는 계산량을 줄였습니다.

추가로, 현재 장면에 따라 예측 깊이를 적응적으로 할당하는 선호도 기반 게이트를 도입한 적응형 롤아웃(adaptive rollout) 기법을 사용했습니다. 이 기법을 지원하기 위해 동기화된 RGB 관측, 6-DoF 비행 궤적, 제어 명령, 무작위 풍속 교란을 포함하는 시뮬레이션 데이터셋인 DroneNav-6D가 구축되었습니다.

DroneNav-6D 데이터셋에서 DroneWAM은 비교된 방법들 중 가장 뛰어난 궤적 정확도를 달성했습니다. 적응형 롤아웃은 평균 예측 깊이를 8에서 4.58로 줄이면서 궤적 정확도를 개선했는데, 이는 예측 계산을 장면 전반에 걸쳐 더 효과적으로 할당할 수 있음을 입증합니다. 관련 코드와 데이터는 GitHub에서 공개될 예정입니다.

비디오 자기 지도 학습 비교 시 방법론 자체를 분리하여 평가하기 어렵다는 문제에 대해 TT-VidT를 제안합니다. 이 연구는 아키텍처, 목표, 데이터 노출, 스케일 등 여러 요소를 동시에 변화시키면서 어떤 선택이 움직임 우선 표현을 산출하는지 식별하는 데 중점을 두었습니다.

연구진은 약 170M에서 190M 규모의 인코더를 사용하여 sim1.7M OpenVid 및 Moments-in-Time v2 클립으로 8 에포크 동안 실험을 진행했습니다. TT-VidT는 프레임별 공간 경로에 DINOv3를 초기화한 ViT-B/16과 컴팩트한 시간 전이 레이어(Temporal Transfer Layer)를 결합합니다. 이 모델은 Diff Compression을 통해 학습되며, 첫 프레임 외모 앵커와 프레임별 움직임 토큰으로부터 타겟 프레임을 재구성합니다.

실험 결과, Diff Compression을 포함한 TT3D가 개별 구성 요소보다 가장 강력한 움직임 민감 영역에 진입함을 보여주었습니다. 또한 디코더 절제(ablations)는 영상 사전 학습된 디코더가 유리함을 나타냈습니다. 최종 비교에서 TT-VidT는 Jester, Something-Something V2, ARID, Diving48의 미세 조정(fine-tuning)을 동시에 수행하여 가장 강력한 비-TT 행보다 54%에서 121% 향상되었으며, DisMo보다 인코더 FLOPs를 48% 적게 사용하고 VideoMAE나 V-JEPA2보다 55% 적게 사용했습니다.

이러한 성능 주장은 HMDB51, IARD, EPIC-Kitchens 데이터셋을 통해 입증되었습니다.

코딩 에이전트 평가는 개별 이슈 해결에서 장기 개발로 발전했지만, 실제 소프트웨어 생태계에서는 여러 저장소에 걸친 조정된 변경 사항이 필요합니다. 이러한 요구사항을 평가하기 위해 다중 저장소 작업을 평가하는 WideSWE를 소개합니다. 이 연구는 103개의 소프트웨어 생태계에서 변경 사항을 채굴하고 검토하여 60개의 버그 수정과 60개의 기능으로 균형 잡힌 120개의 실제 작업을 도출했습니다.

WideSWE는 관련 이슈와 풀 리퀘스트에서 프롬프트를 도출하고 숨겨진 테스트를 체계적으로 검토하여 다양한 올바른 구현을 지원하면서도 필요한 동작과 회귀 검사를 보존합니다. 일곱 가지 에이전트 구성에서 전체 작업 성공률은 10.83%에서 42.50%까지 나타났으며, Codex CLI와 GPT-5.6-sol을 페어링한 구성에서 가장 높은 성공률을 기록했습니다.

실험 결과에 따르면 에이전트는 필요한 변경 사항을 식별하지 못하거나, 변경 사항을 인식하지만 요청을 완전히 만족시키지 못하고 미완성으로 남기거나, 또는 요청을 완전히 만족시키지 못한 채 필요한 저장소를 수정하는 경향을 보였습니다. 이러한 어려움을 완화하기 위해 단일 저장소 작업과 동일한 프롬프트 하에서의 공동 실행을 비교했습니다.

공동 실행은 관련 저장소의 정보를 사용하여 구현과 검증을 안내할 수 있어, 독립적인 실행이 누락된 작업을 복구하는 데는 효과적이지만 이전에 시도했던 실패한 구현을 수정하는 데는 덜 효과적입니다. WideSWE는 이러한 공동 실행 방식을 통해 에이전트의 다중 저장소 작업을 개선할 수 있음을 보여줍니다.

머신러닝 기반 의사결정을 개인 정보 보호 클라이언트에 이동시키면서 경제적 결정이 분산되고 추론이 이루어집니다. 공유된 예산 제약은 전역적으로 최신 정보가 될 수 없는 정보에 의존하게 되어 기존의 페이싱 방식으로는 해결할 수 없는 정보 구조 실패를 야기합니다. 연구진은 이러한 정보 불일치를 36개 캠페인과 50개 장치를 사용한 경매 논리에 충실한 온디바이스 시뮬레이션을 통해 분석했습니다.

이 시뮬레이션 결과, 비례적 균등 페이싱은 원래의 20배 예산 압력 하에서 한 틱의 지연 후 17.77%, 50틱 후에는 1,669.31%의 예산 초과를 발생시킵니다. 예산 압력이 심각한 경우에도 이러한 효과는 달라지지 않는데, 두 배의 압력 하에서 50틱 후의 초과 지출은 106.95%로 나타났습니다. 또한, 가시적인 예산 제한 장치는 제로 지연 준수를 정확하게 달성하지만, 다른 장치의 차감 내역이 보이지 않아 한 틱에서 11.88%의 예산 초과가 발생합니다.

두 번째로, ML/페이싱 점수 변환이 결제 단위를 변경하도록 허용될 때 인센티브 불일치가 발생합니다. 한 틱 후 경쟁 경매의 98.23%가 수익성 있는 이탈을 허용하며, 실행 가능한 구현 수준의 반례를 통해 승자의 가격에 대한 경쟁자의 승수(multiplier)를 분리할 수 있습니다. 따라서 중요 기반 입찰(Critical-base-bid) 지급은 현재 승수 조건에 따라 경매별로 이루어지지만, 동적인 진실성을 확립하지 못하고 기본 가치 순위 불일치를 해결하지 못합니다.

거대 언어 모델(LLM)이 사전 학습된 매개변수 지식 대신 복잡한 작업별 맥락에서 학습하는 능력이 부족하다는 문제점을 해결하기 위한 연구 결과가 발표되었습니다. 연구진은 소수의 교란을 가한 고품질 공개 문서를 활용하여 LLM이 문맥 의존적인 추론 경로와 답변을 생성하도록 훈련하는 합성 파이프라인을 구축했습니다. 이 파이프라인은 문서의 암기 위험을 줄이고, 문서에 기반한 추론을 요구하는 질문과 기준을 생성하며, 인간 주석가 없이 문서에 실제로 의존하는 샘플만을 선별하여 약 1만 개의 샘플을 생성했습니다.

이러한 합성 데이터를 통해 훈련된 학생 모델은 CL-bench에서 성능을 크게 향상시켰습니다. 구체적으로 SFT(지도 미세 조정) 단계에서 Qwen3.6-35B-A3B 모델의 성능은 13.7%에서 22.8%로 상승했으며, 이후 보상 기반 강화 학습(rubric-reward RL) 단계를 거쳐 최종적으로 24.6%를 달성했습니다. 이 결과는 수조 개의 매개변수를 가진 최첨단 모델인 Qwen3.8-2.4T(23.9%)와 비교해도 유사한 수준입니다.

연구진은 이러한 접근 방식이 LLM의 장기 문맥 이해 능력, 지시 따르기, 그리고 추론 능력을 광범위하게 향상시키는 것으로 관찰했습니다. 다만, 코드 생성 및 일반 지식 영역에서는 성능 향상이 거의 관찰되지 않았습니다. 이 연구는 LLM이 문맥으로부터 학습하는 능력을 개선하고 문맥 기반 추론에 대한 추가 연구를 촉진하기 위한 재현 가능하고 확장 가능한 방법을 제공하고자 합니다.

대규모 언어 모델(LLM)의 추론 능력을 강화하기 위해 보상 가능한 강화 학습(RLVR)이 사용되지만, 세밀한 귀인(credit assignment) 문제는 보조 모델이나 추가 샘플링을 필요로 합니다. 특히 정책 엔트로피는 사용 가능한 신호임에도 불구하고, 강화와 패널티 모두에서 불확실한 위치를 우선시하여 탐색 기회를 억제하는 문제가 발생합니다.

이러한 문제를 해결하기 위해 본 논문은 엔트로피 기반 귀인 방법인 엔트로픽 어드밴티지 정책 최적화(EAPO)를 제안합니다. EAPO는 성공과 실패를 비대칭적으로 처리하며, 성공적인 불확실한 상황과 반복되는 실패를 구별하여 보상과 패널티를 조정합니다. 구체적으로 EAPO는 정규화된 정책 엔트로피와 응답의 이점 부호(sign of the response advantage)를 결합하여 놀라운 성공을 강화하고 반복되는 실패를 수정합니다.

EAPO는 응답의 이점을 토큰 전체에 걸쳐 재분배함으로써 추가적인 감독 없이 기존 롤아웃 신호로부터 토큰 수준의 귀인을 도출합니다. 이 방법은 성공적인 응답에서 높은 엔트로피 결정을 강화하고 실패한 응답에서 낮은 엔트로피 결정을 패널티로 적용하며, 회복 기회를 보존하기 위해 불확실한 위치에서의 패널티를 완화합니다.

연구진은 EAPO를 기본 백본과 추론 백본 전반의 추론 작업에 대해 검증하여 최고의 전반적인 성능을 달성했음을 입증했습니다. 또한 EAPO는 더 효과적인 탐색을 촉진하여 문제 범위를 넓히고 더 다양한 후보 답변을 생성하는 것으로 나타났습니다.

신체화된 대화형 AI를 위해서는 반응적인 청취자의 얼굴 움직임을 생성하는 것이 중요합니다. 이 과정에서 핵심적인 모델링 과제는 화자의 신호 타이밍을 고려하면서 청취자의 지속적인 움직임의 연속성을 유지하는 것과, 전체 움직임 궤적과 함께 국소적으로 변화하는 얼굴 표정 이벤트를 포착하는 것입니다. 청취자의 반응은 이전 신호에 시간 지연을 두고 따라올 수 있으며, 짧은 표정이나 눈 깜빡임은 예측하기 어려운 변동성을 도입합니다.

이러한 문제들을 해결하기 위해 연구진은 역사 인식 시간 정렬과 확률적 표정 정제를 결합하는 프레임워크를 제안하며, 이를 위해 REALM(Reactive Embodied Audio-driven Listening Model)이라는 오디오 기반 반응적 청취를 위한 거친-세밀 프레임워크를 제안했습니다. REALM은 지연 중심의 주의 사전 및 적응형 게이팅을 통해 청취자 움직임 기록과 화자 오디오를 결합하는 반응형 게이티드 화자-청취자 융합 모듈을 포함합니다.

또한, 거친 디코더는 기본 움직임 궤적을 예측하고, 이를 보존하면서 표현 서브스페이스 내에서 오디오 조건화된 확률적 잔차를 추가하여 움직임을 보강합니다. ViCo 및 L2L 평가에서 제시된 방법은 여러 움직임 품질 측정 기준에서 평가된 기준선보다 개선된 결과를 보였습니다. 추가 분석을 통해 지연 민감도, 게이트 동작, 눈 깜빡임 역학 등을 검토했으며, 최종적으로 아메카 휴머노이드 로봇에의 배포와 지각적 사용자 연구를 통해 생성된 행동이 물리적 체화에 적용될 수 있음을 입증했습니다.

화자 검증(SV) 모델의 정확도가 향상될수록 화자 특성의 미묘한 차이를 더 잘 포착한다고 가정되어 음성 유사성의 자동화된 대리 지표로 널리 사용되어 왔습니다. 그러나 인간의 지각적 정렬 측정과 체계적인 분석을 통해, 모델의 성능(EER)보다는 모델이 훈련된 방식(학습 목표)이 지각적 정렬을 훨씬 더 크게 결정한다는 사실을 입증했습니다.

표준 마진 기반 분류 손실(예: AAM-Softmax)은 프로토타입 메트릭 손실보다 훨씬 낮은 지각적 정렬을 산출하며, EER 자체는 인간의 판단을 추적하지 못하여 커뮤니티의 암묵적인 가정을 직접적으로 뒤집습니다. 이러한 차이는 임베딩 기하학으로 추적되는데, 모델의 유효 차원($d_{eff}$)이 지각적 정렬과 -0.95의 순위 상관관계를 보이며, 분류 손실이 선호하는 차원 확산이 인간의 낮은 차원 음성 지각과 근본적으로 충돌함을 보여줍니다.

따라서 차원 병목(dimensionality bottleneck)을 부과하면 $d_{eff}$가 압축되고 지각적 정렬($\rho_{align}$)이 0.08에서 0.74로 상승하여 음성 유사성을 평가하기 위한 원칙적인 기하학적 기준을 확립할 수 있습니다. 이는 모델의 성능 지표를 넘어 지각적 정렬을 평가하는 새로운 방법을 제시합니다.

과학 이미지 생성 결과물의 정확성을 검증하는 것은 현재 중요한 병목 현상입니다. 오류는 표면적인 결함보다는 복잡한 도메인 지식, 구조적 추론, 다단계 지시에 기인하기 때문에 기존의 검증 방식으로는 한계가 있습니다. 기존 검증 도구들은 주로 자연 이미지에 초점을 맞추고 점수화에 의존하여 과학적 범위나 오류 수정에 대한 설명 가능한 피드백을 충분히 다루지 못하고 있습니다.

이러한 격차를 해소하기 위해 연구진은 과학 이미지 생성 검증을 위한 벤치마크인 SciGen-Verify를 구축했습니다. 이 벤치마크는 지시 사항 준수, 다학문적 추론, 세계 지식 영역을 포괄하며 판단, 설명, 수정 편집 지침을 지원하는 3단계 계층 프로토콜을 포함합니다.

또한, 추론 기반 멀티모달 검증 모델인 SciGen-Verifier를 개발했습니다. 이 모델은 콜드 스타트 지도 미세 조정과 커리큘럼 기반의 2단계 강화 학습 파이프라인을 통해 훈련되었으며, 과학적 추론 탐색을 강화하고 결과물을 정답 주석과 일치시키도록 보상하는 방식으로 작동합니다.

SciGen-Verify 상에서 SciGen-Verifier는 훨씬 더 큰 독점 모델들과 경쟁할 수 있는 성능을 달성했으며, 반복적인 이미지 수정에 대한 실용적인 온라인 비평가 역할도 수행합니다. 이는 과학 이미지 생성의 정확성과 설명 가능성을 높이는 데 기여할 것입니다.

일반 에이전트 학습을 위한 자동 생성 환경은 상호작용 데이터의 확장된 소스를 제공하지만, 기존 접근 방식은 단일 환경 내에서만 작업을 생성하는 한계를 가집니다. 실제 워크플로우에서는 에이전트가 여러 서비스에 걸쳐 정보와 행동을 연결해야 하므로, 본 연구는 재사용 가능한 서비스 라이브러리를 구성하여 작업 공간을 확장하는 Compositional Environment Scaling(CompoWorld)을 제안합니다.

CompoWorld는 코딩 에이전트가 도구 사양을 타입 상태와 공유 인터페이스를 가진 검증된 서비스로 변환하고, 세계 모델이 구현이 불확실한 도구를 처리하도록 하며, 의존성 그래프를 통해 서비스 간 연결을 가능하게 하는 무작위 보행 절차를 사용합니다. 이를 통해 서비스 간 정보 흐름이 필요한 작업을 생성하고 검증할 수 있습니다.

검증된 궤적은 지도 미세 조정(SFT)을 지원하며, 완료 중심의 루브릭 보상(Completion-Focused Rubric Reward)은 각 롤아웃 그룹 내에서 낮은 통과율을 가진 기준을 강조하여 강화 학습(RL)이 전체 작업 완료로 향하도록 안내합니다. 연구진은 448개의 서비스를 구성하고 10,130개의 도구를 노출시키며, 3K개의 SFT 궤적과 1K개의 RL 작업을 사용하여 Qwen3.6-35B-A3B를 훈련시켰습니다.

실험 결과 CompoWorld는 여덟 가지 벤치마크에서 백본 모델을 평균 9.17점 향상시켰습니다. 특히 AutomationBench에서는 Claude Opus 4.6과 같은 최첨단 모델을 능가하며, 비교된 에이전트 특화 35B-A3B 모델 중 최고 성능을 보였습니다.

비전-언어 모델(VLM)은 다중 시점 공간 추론을 위해 기하학적 사전 지식의 이점을 얻을 수 있지만, 정답만으로 학습하는 방식은 중간 기하학적 추정치와 이를 이용한 정량적 공간 답변을 직접적으로 지도하지 못합니다. 연구진은 VLM이 다중 시점 재구성을 통해 국소 기하학과 전역 장면 맥락을 함께 학습할 때 공간적인 사고의 연쇄(Spatial CoT) 지도 학습이 더욱 효과적이라고 가정합니다.

이를 위해 연구진은 QA 기반 재구성 사전 학습과 공간적 사고 학습을 연결하는 2단계 프레임워크인 SpatialSpeak을 제안했습니다. 1단계인 QA 기반 재구성 사전 학습(QA-RP)에서는 시점 간에 표시된 점 3차원 쿼리(세밀한 국소 기하학)와 객체 중심 쿼리(전역 장면 맥락)를 결합하여 텍스트 기반 질문 답변으로 구성합니다. 2단계에서는 시각 보상을 포함한 공간적 사고(CoT-VC)를 통해 모델이 질문과 관련된 기하학적 추정치를 표현하고 이를 사용하여 답변을 도출하도록 학습하며, 신뢰도 평가와 시각 보상이 답변 정제를 돕습니다.

실험 결과, QA-RP는 CoT-VC로부터 얻는 이득을 2.6점에서 6.9점으로 증가시켰으며, 국소 및 전역 재구성 지도 모두가 유익함을 보였습니다. SpatialSpeak은 ReVSI, VSI-Bench, SPAR-Bench에서 최고 성능을 달성했으며, ReVSI 점수는 62.8점으로 가장 강력한 비교 기준선보다 8.7점 더 높습니다.

에이전트가 작업을 수행하는 과정에서 바람직하지 않은 행동을 보일 수 있으므로 개발자들은 고정된 벤치마크를 넘어 배포 시 발생하는 특정 행동에 대한 테스트가 필요합니다. 이에 따라 본 논문은 배포 추적(deployment traces)으로부터 사용자 지정 바람직하지 않은 행동에 대한 표적 벤치마크를 구축하는 에이전트 시스템인 TraceDance를 제시합니다.

TraceDance는 효율적인 벤치마크 구축을 위해 Flash LLM을 이용한 후보 수준 확인과 프로그래밍 가능한 검색을 결합하는 Anchor-and-Confirm 방식을 사용하며, 사용자 정의 행동 사양을 생성하고 수정하는 Anchor Synthesis Loop를 활용합니다. 이 시스템은 결정 지점 연속(decision-point continuation)을 사용하여 참조 답변이나 환경 재생 없이 행동별 루브릭을 통해 LLM의 다음 턴을 평가합니다.

코딩 및 일반 도구 사용 실험에서 252,557회의 세션을 기반으로 107개의 벤치마크와 4,125개의 인스턴스를 생성했으며, 이는 빌드 대상 요청의 95.3%를 충족시킵니다. 인간 주석자들은 샘플링된 인스턴스의 84%에서 요청된 행동을 확인했으며, 자동 평가기의 합의도는 인간의 합의도와 비교할 수 있는 수준입니다.

다만, 아홉 개의 최첨단 LLM은 평가된 결정 지점에서 적절하게 응답하는 데 평균 26.7%의 통과율만을 달성하여 현재 LLM이 에이전트로서 행동하는 방식에 약점이 있음을 보여줍니다. TraceDance는 배포 문제를 표적 벤치마크로 전환함으로써 재귀적 자기 개선(RSI) 루프의 핵심 구성 요소로 활용될 수 있습니다.

강화 학습에서 검증 가능한 보상(RLVR)은 장기 에이전트를 위한 거친 감독 신호를 제공하지만, 온폴리 자기 증류(OPSD)는 여기에 밀집된 특권 피드백을 보완합니다. 그러나 연구진은 특권 지침이 학생의 기능적 결정과 일치하지 않을 수 있는 결정-타임스탬프 불일치 문제를 식별했습니다. 이는 특권 가이드가 다른 타임스탬프에서 발생할 수 있는 결정과 일치하지 않을 수 있으며, 결과적으로 맥락과 신용의 시간적 범위를 잘못 정렬할 수 있습니다.

이러한 불일치를 해결하기 위해 연구진은 감독을 할당하기 전에 정렬하는 원칙에 따라 AlignOPSD를 도입했습니다. 이 방법은 동일한 학생 샘플 응답을 형제 롤아웃 전반에 걸쳐 기능적으로 일치하는 맥락에서 재점수를 매겨 로컬 교사 증거를 보정합니다. 이후 반-마르코프 계층적 신용 할당을 사용하여 변화에 따른 결정 범위를 도출하고 보정된 증거를 활용하여 해당 범위와 구성 턴에 걸쳐 결과 기반 신용을 할당합니다.

AlignOPSD는 Qwen2.5-3B 및 Qwen2.5-7B 모델을 ALFWorld, WebShop, Search-QA 작업에 대해 대표적인 기준선과 비교하여 평가했습니다. 그 결과 AlignOPSD는 GRPO와 StepOPSD 모두를 능가하며, GRPO 대비 5.5%에서 8.7%의 성능 향상을 보였고 여섯 가지 비교에서 선두를 차지했습니다. 이 연구는 장기 에이전트의 증류 과정에서 시간적 맥락과 신용 할당의 정확성을 개선하는 데 중요한 기여를 합니다.

실행 가능한 환경은 도구 사용과 다단계 상호작용이 필요한 훈련 후 에이전트에게 매우 중요하지만, 실행 가능한 작업과 환경을 함께 구성하는 것은 확장하기가 어렵습니다. 스킬은 재사용 가능한 도메인 지식과 운영 절차를 제공하지만, 스킬에 포함된 정보와 완전한 실행 가능한 환경을 갖춘 구체적이고 도전적인 작업 사이에는 상당한 격차가 존재합니다.

이러한 격차를 해소하기 위해 본 논문은 스킬에서 시작하여 에이전트의 능력 요구 사항을 활용해 작업과 환경을 합성하는 능력 지향적 프레임워크인 Skill2Env를 제안합니다. Skill2Env는 재사용 가능한 난이도 패턴을 통해 이러한 요구 사항을 표현하고 이를 작업 청사진으로 인스턴스화하여 목표, 도전 과제, 환경 사실, 정보 경계 및 수용 기준을 명시합니다.

또한, 본 연구는 솔버 실행 증거를 사용하여 충분히 도전적이지 않은 작업 설계를 식별하고, 해당 난이도 패턴 인스턴스화를 강화하거나 확장하며, 이에 상응하는 청사진과 환경을 수정하는 반복적 작업 강화(Iterative Task Hardening)를 제안합니다. Skill2Env 환경에서 생성된 1.5K개의 고점수 궤적을 지도 미세 조정에 사용하여 에이전트 벤치마크 전반에서 일관된 개선을 관찰함으로써 능력 지향적 환경 합성이 에이전트 훈련 후 과정에 효과적임을 입증했습니다.

새로운 다중 시점 확산 모델인 VGGT-Diff가 희소 시점(sparse-view)의 새로운 시점 합성(novel view synthesis, NVS) 문제를 해결합니다. 기존의 NVS 방법들은 관찰된 기하학적 구조를 보존하지만 보이지 않는 영역을 합성하는 데 어려움을 겪는 재구성 기반 접근법과, 강력한 생성적 사전 지식을 제공하지만 암묵적인 소스-쿼리 대응에 의존하는 확산 기반 접근법 사이의 근본적인 상충 관계를 해소합니다.

VGGT-Diff는 이러한 두 패러다임을 연결하기 위해 VGGT-Ω에서 시각 기하학 잠재량을 사전 학습된 비디오 확산 모델로 라우팅합니다. 각 시각 토큰은 3차원 점과 신뢰도를 할당받은 후, 전면 및 후면 표면 증거를 보존하는 신뢰도 인식 시각 기하학 라우터(Visual Geometry Router, VGR)를 통해 쿼리에 정렬된 잠재 조건으로 변환됩니다. 이 조건들은 공동 타겟-시점 디노이징을 안내하며, 점 추적 잔차 일관성(Point-Track Residual Consistency, PTRC)을 통해 신뢰할 수 있는 3차원 트랙을 따라 예측된 깨끗한 잔차를 정규화하여 다중 시점 안정성을 향상시킵니다.

또한, 훈련 시간 정규화와 추론 시간 안내를 결합하여 향상된 견고한 기하학 조건화를 도입함으로써 모델의 안정성을 높였습니다. 실험 결과는 다양한 시점 난이도 하에서 보간 및 외삽에 걸쳐 경쟁적이거나 최첨단 성능을 보여줍니다. 이 연구는 기하학적 제약 조건을 통합하여 다중 시점 합성의 견고성을 개선하고자 하는 개발자들에게 중요한 방법론적 통찰을 제공합니다.