읽을 가치가 있는 기사만, 짧고 또렷하게.

음악 소스 분리(MSS)는 전통적으로 판별적 방법으로 해결되어 왔습니다. 최근에는 복잡한 데이터 분포를 모델링하는 강력한 생성 패러다임인 플로우 매칭(flow matching)이 다양한 분야에서 성공적인 적용을 보이며 주목받고 있습니다. 이러한 발전은 플로우 매칭을 MSS에 체계적으로 적용하여 네 가지 소스(보컬, 베이스, 드럼, 기타)를 풀밴드 스테레오 환경에서 분리하는 연구를 촉발했습니다.

연구진은 특히 예측 목표, 플로우 경로, 단일 소스 대 다중 소스 모델링, 그리고 혼합 일관성 제약 조건 등을 조사했습니다. 또한, 일반적인 MSS에 사용되는 신호 수준 지표인 신호 대 왜곡비 외에도 임베딩 기반 지표와 청취 테스트를 사용하여 포괄적인 벤치마크를 제공했습니다.

제안된 모델은 MUSDB18-HQ 데이터셋에서 객관적 및 주관적 테스트 모두에서 경쟁력 있는 성능을 보였습니다. 이는 생성적 MSS에서 플로우 매칭이 가진 잠재력을 강조하며, 새로운 생성 모델을 활용한 음악 분리 분야의 가능성을 제시합니다.

15만 달러짜리 Looker를 HTML 파일 몇 개로 대체할 수 있을까요? 인공지능(AI)을 활용하여 데이터 시각화 도구의 패러다임이 변화하고 있습니다.

최근 AI 모델인 Claude가 데이터 분석 결과를 HTML 차트 파일로 생성할 수 있게 되면서, 기존의 Looker와 같은 고가의 BI 솔루션을 대체할 가능성이 제기되고 있습니다. 개발자들은 이 HTML 파일을 S3에 저장하고 SSO를 통해 접근을 관리하며, Snowflake OAuth 토큰을 활용하여 실시간 쿼리 API를 구축하는 방식으로 자체적인 대시보드 시스템을 구축하는 데 성공했습니다.

이러한 접근 방식은 기존 Looker의 경직된 타일 기반 디자인에서 벗어나 사용자가 원하는 대로 자유로운 형태의 대시보드를 만들 수 있게 하여 사용자 경험을 크게 개선했습니다. 하지만 보안 측면에서는 대시보드에 실행되는 JavaScript가 세션과 동일한 출처에서 실행되어 권한 관리가 매우 취약하다는 문제가 발생했습니다.

결국 이 변화는 도구 자체의 기능보다는 플랫폼과 팀의 역량이 더 중요함을 시사합니다. AI는 대시보드 제작의 일부를 자동화하지만, 데이터 센터나 컴퓨팅 자원처럼 규모의 경제가 핵심인 영역에서는 여전히 기존의 강력한 플랫폼이 필요합니다. 따라서 AI를 활용한 대시보드 구축은 기존 플랫폼 위에서 이루어질 때 가장 큰 가치를 발휘할 수 있습니다.

비디오 장면 그래프 생성(VidSGG)은 비디오 내 객체와 그들의 변화하는 관계를 포착하는 것을 목표로 합니다. 기존 방법들은 시간적 맥락을 활용하기 위해 프레임 간 정보를 집계하지만, 일관성에 중점을 두면서 관계의 급격한 변화를 간과할 수 있습니다. 이로 인해 모델은 근본적인 관계가 변경되었음에도 불구하고 이전 예측을 유지하는 실패 모드인 관계 의미 관성(relational semantic inertia)이 발생할 수 있습니다.

이 문제를 해결하기 위해 연구진은 관계 전환 인식 트랜스포머(Relation-Transition-Aware Transformer, RTAformer)라는 단일 단계 프레임워크를 제안했습니다. RTAformer는 개체 지속성과 관계 변화를 별도로 모델링합니다. 인접 프레임 간 관계 쿼리의 보정된 차이를 주입하여 술어 업데이트를 안내하고, 훈련 중 교차 프레임 인스턴스 정렬을 통해 교차 프레임 표현 드리프트를 줄입니다.

Action Genome 실험 결과는 기존 방법들보다 재현율과 평균 재현율이 향상되었음을 보여줍니다. 추가적인 분석을 통해 제안된 구성 요소들의 기여도를 확인했으며, 매칭된 백본을 사용한 비교에서 비전이 전환 프레임보다 전환이 없는 프레임에서 더 큰 이득을 얻는 것으로 나타났습니다.

미세한 시각적 이해를 위해서는 국소 속성 및 공간 관계의 미묘한 차이를 구별해야 하지만, 기존의 비전-언어 모델에게는 여전히 어려운 과제입니다. 이러한 문제를 해결하기 위해 통합 멀티모달 모델(UMMs)이 이해와 보완적인 풍부한 시각 정보를 보존하는 생성 경로를 통해 새로운 기회를 제공합니다. 그러나 기존의 생성 보조 이해 방법들은 주로 생성적 감독이나 명시적인 생성을 기반으로 하며, 네이티브 생성 측 표현을 체계적으로 탐구하지 못했습니다.

이러한 격차를 해소하기 위해 연구진은 생성 측 표현이 미세한 이해에 제공하는 정보를 분석했습니다. 그 결과, 생성 측 표현은 미세한 의미 변화에 더 민감하며, 이해 측 표현이 놓치는 작업 관련 변화를 포착하고, 이러한 이점을 얻기 위해서는 정확한 공간 조직이 필수적임을 발견했습니다. 이를 바탕으로 연구진은 미세한 이해를 위한 네이티브 생성 측 정보를 해제하는 후처리 프레임워크인 GAFU를 설계했습니다.

GAFU는 생성 측 시각 표현을 미세한 시각적 세부 사항을 보존하는 압축된 G 토큰으로 압축하여 이해 경로를 통해 작업 조건화된 검색을 가능하게 합니다. 실험 결과, GAFU는 동일한 데이터로 훈련된 SFT 기준선보다 다양한 시각적 이해 작업과 UMM 아키텍처 전반에서 일관되게 우수한 성능을 보였습니다. 구체적으로 VStar-Bench, OmniSpatial, VSR-Bench에서 최대 20.00%, 17.94%, 8.62%의 상대적 개선을 달성했습니다.

결론적으로 GAFU는 생성 경로에서 얻은 보완적인 정보를 미세한 시각적 이해의 향상으로 전환하여 UMM 내에서 생성과 이해 간의 시너지를 위한 효과적인 경로를 제공합니다.

화학적 사고 과정에서 환각된 구조 및 속성 주장이 발생할 수 있어, 이를 해결하기 위해 분자 상태에 화학적 추론을 기반으로 하는 과정 검증 언어인 MolLean을 소개합니다. MolLean은 분자 그래프 편집부터 화합물 변환에 이르는 분자 리드아웃에 대한 상태 전이와 주장을 확인하는 계층화된 Lean 기반 커널을 사용합니다. 또한, 본질적인 구조 확인과 외부 측정값을 분리하는 타입드 증인 프로토콜을 통해 구조적 검증을 강화합니다.

더 나아가, MolLean-MCP라는 상태 기반 도구 인터페이스를 도입하여 생성 과정 중 이러한 전이, 검증, 리드아웃을 노출시킵니다. 모델은 피드백을 받아 다음 행동을 결정하며, 거부된 행동은 상태를 변경하지 않아 상태를 명확하게 유지합니다. 이 시스템은 단일 패스 추적 실행, 전체 추적 정제, 그리고 상호 작용적 추론을 통해 활용될 수 있습니다.

8,800개의 일치하는 예제를 12가지 작업(분자 생성, 편집, 최적화, 반응 포함)에 대해 평가한 결과, Qwen3.6-27B 모델에서 전체 추적 정제 방식이 직접적인 사고 과정보다 모든 작업에서 더 나은 성능을 보였습니다. 특히 MolLean-MCP는 단계별 검증 피드백을 통해 반응 작업에서 더 나은 성능을 달성하며, 명시적인 화학적 약속을 자유로운 설명 대신 검증하고 수정할 수 있는 실행 가능한 화학 추론 기반을 제시합니다.

멀티모달 코드 지능은 프로그램의 상징적 세계와 실행이 만들어내는 시각적 세계를 연결하는 분야입니다. 최근 모델들이 차트, 웹페이지, 애니메이션 등 시각적 결과물을 생성하도록 요구하면서 이 능력에 대한 관심이 커지고 있습니다. 하지만 기존의 독점 모델들은 데이터와 훈련 방식이 폐쇄되어 있으며, 공개 연구의 발전은 데이터의 양과 품질, 그리고 이를 생성하는 파이프라인과 방법에 의해 제한되고 있습니다.

특히 시각적 결과물이 프로그램으로서 정확하고 잘 구축되었으며 시각적으로 올바른지 모두 만족해야 하므로 품질 확보가 가장 어려운 문제입니다. 기존의 실행 결과(성공/실패), 코드 유사성, 작업별 검증기 등은 세 가지 요소를 모두 포괄하지 못하며 일반화되지 않는 한계를 보입니다.

이러한 한계를 극복하기 위해 데이터 측면에서 PrismaForge라는 계층적 데이터 파이프라인을 시작합니다. 이 파이프라인은 이러한 요소를 검증 가능한 기준으로 분해하는 합성된 루브릭을 중심으로 구축됩니다. 이 루브릭은 필터이자 보상 역할을 하여 지도 학습 코퍼스를 선별하고 시각 코딩 작업에 대한 강화 학습을 구동합니다.

PrismaForge를 활용하여 데이터 합성 및 필터링을 진행함으로써, 멀티모달 코드 지능을 위한 가장 다양하고 방대한 공개 데이터셋인 PrismaCoder-2M을 구축했습니다. 이 데이터를 기반으로 학습된 PrismaCoder-9B와 PrismaCoder-35B 모델은 현재 공개된 최첨단 상태를 선도하며 주요 독점 시스템과 경쟁하고 있습니다. 연구 결과는 제안된 루브릭 기반 파이프라인이 모델 백본 전반에 걸쳐 멀티모달 코딩 성능을 향상시킨다는 것을 보여줍니다. 관련 코드와 데이터는 https://qiushisun.github.io/PrismaCoder-Home/에서 공개됩니다.

언어 모델 에이전트가 장기 작업을 수행할 때 이미 완료한 작업을 반복하는 현상, 즉 루프(loop)가 발생합니다. 에이전트가 이전에 수행했던 도구 호출을 다시 요청하지만 동일한 관측값만 얻는 상황은 새로운 정보를 추가하지 않기 때문에 실패로 간주됩니다. 이러한 루프는 Qwen, Llama, Gemini 에이전트에서 자연스럽게 나타나며, 특히 에이전트의 기록이 컨텍스트 창에 맞게 압축될 때 훨씬 더 흔해집니다.

이러한 루프를 줄이기 위해 연구진은 자기 지도 학습 방법인 DeLoop를 제안했습니다. DeLoop는 에이전트 자신의 실행 과정(rollout)을 감독 신호로 활용합니다. 루프를 발생시킨 행동을 부정적인 예시로, 그 이후에 발생한 첫 번째 비루프 행동을 긍정적인 예시로 사용하여 학습합니다. 이 방법은 외부 보상이나 정답, LLM 심사 없이 직접 선호 최적화(DPO)를 통해 루프를 줄이는 데 필요한 감독을 학습합니다.

실제 실험 결과, DeLoop는 압축된 환경에서 루프 문제를 효과적으로 해결했습니다. CodeGym 환경에서 압축된 Qwen3-8B 모델의 루프 포함 비율을 57.3%에서 6.1%로 대폭 감소시켰으며, 작업 성공률은 유사하게 유지했습니다. 또한 Qwen3-32B 모델에서는 루프와 단계 수를 줄이면서 작업 성공률을 37.7%에서 44.8%로 향상시켰습니다.

최신 LLM의 에이전트 역량은 중요하지만 사전 학습 단계에서 평가하기가 어렵다는 문제가 제기되었습니다. 기존 접근 방식들은 정적인 궤적 기반 작업이나 확률 기반 대리 지표에 의존하여 경량적이지만 모델이 상호작용 환경에서 어떻게 행동하는지에 대한 가시성이 제한적입니다.

이에 연구진은 사전 학습된 기반 모델에서 에이전트 행동을 이끌어내고 평가하기 위한 경량 프레임워크인 ASAP(Agent Scaffold Adaptation for Pretraining Evaluation)을 소개합니다. ASAP은 기반 모델을 채팅 스타일 에이전트로 변환하지 않고도 기존 에이전트 스캐폴드를 보존하며, 구조화된 궤적 연속, 짧은 참조 접두사, 최소한의 복구 메커니즘을 통해 이를 적응시킵니다.

ASAP은 소프트웨어 엔지니어링 및 심층 연구 벤치마크 전반에 걸쳐 기반 모델과 사전 학습 체크포인트에 대한 구별되는 종단 간 성능을 제공합니다. 단순히 집계 점수를 넘어, ASAP은 모델이 생성한 실행 궤적을 노출시켜 학습 단계 전반에 걸친 탐색, 편집, 테스트, 복구 및 작업 완료 과정을 분석할 수 있게 합니다.

이러한 궤적들은 사전 학습 중 에이전트 관련 능력이 어떻게 변화하는지, 그리고 학습 후 실행 패턴이 어떻게 달라지는지에 대한 행동적 시각을 제공합니다. 연구 결과는 종단 간 에이전트 평가가 기존 사전 학습 벤치마크를 보완하여 상호작용 모델 행동에 대한 실용적인 진단을 제공할 수 있음을 시사합니다.

MLLM 기반 검출기는 시각-언어 접지(vision-language grounding)를 자기회귀 좌표 생성으로 정의하지만, 밀집된 장면에서는 종종 박스 반복 루프에 빠져 디코딩 예산이 소진될 때까지 동일한 박스를 반복하여 출력하는 문제가 발생합니다. 이러한 실패는 과거 답변에 대한 주의력 점유(historical-answer attention takeover)에서 기인하는데, 전체 기록에 대한 자기회귀 과정에서 증가하는 답변 기록 내의 반복적인 좌표 토큰이 비주얼 증거에 주의를 기울이는 데 필요한 주의력 싱크를 압도하기 때문입니다.

이 문제를 해결하기 위해 본 논문은 압축된 윈도우 자기회귀(Compressed Window Auto-Regression, WinAR)라는 새로운 메커니즘을 제안합니다. 이 방식은 긴 답변 시퀀스를 연속적인 생성 윈도우로 분할하고, 각 이전 윈도우를 고정된 세트의 잠재 토큰으로 압축하여 후속 디코딩을 조건화합니다. 이 설계는 주의력 점유를 유발하는 원시적인 과거 좌표에 대한 반복적인 노출을 줄이면서도 일관된 다중 객체 생성을 위해 필수적인 윈도우 간 의존성을 보존합니다.

WinARDet 모델은 RSDense와 같은 200~2,000개의 객체를 포함하는 데이터셋에서 성능을 개선했습니다. 이 모델은 기준 모델 대비 RexOmni F1-점수(IoU=0.5)를 32.16에서 39.36으로 향상시켰으며, 중복률은 35.48%에서 13.00%로 감소시켰습니다. 또한 WinARDet는 병렬 박스 디코딩 및 다각형 생성과 같은 다양한 디코딩 전략과 출력 형식에 걸쳐 일반화되어 장면 밀도가 높은 환경에서 장거리 시각-언어 접지를 위한 실용적인 패러다임을 제공합니다.

확산 모델에서 반복 샘플링은 노출 편향(exposure bias)으로 인해 오류가 누적되는 문제를 야기합니다. 학습 시에는 실제 이미지에 노이즈를 보간하여 학습된 디노이저(denoiser)가 사용되지만, 추론 시 입력은 이전 단계의 불완전한 예측에서 구성되어 학습 시 경험하지 못한 데이터로 인해 성능이 저하될 수 있습니다. 이러한 격차를 줄이기 위해 본 연구는 학습-추론 간의 간극을 줄이는 보정 단계를 도입합니다.

제안된 보정기는 기본 모델의 예측을 입력으로 받아 동일한 정답 목표에 대해 학습됩니다. 샘플링 과정 중 각 디노이징 단계마다 보정기는 디노이저의 클린 샘플 예측을 반복적으로 개선하여 중간 단계의 예측에서 발생하는 초기 아티팩트가 최종 샘플에 남는 것을 방지합니다. 이 단순한 프레임워크는 샘플 품질을 크게 향상시키면서도 다양성을 대부분 보존합니다.

이 방법은 DiT, SiT, JiT 모델에 걸쳐 평가되었으며, 특히 가이드 없이 고품질 샘플을 생성하는 데 도전적인 결과를 보였습니다. 보정 방법은 분류-자유 가이드(CFG)와 경쟁할 만한 성능을 달성하며, CFG와 결합하면 다양성을 더욱 개선하고 CFG 특유의 과포화 현상을 줄일 수 있습니다. 또한, 보정 과정의 추가적인 추론 비용은 개선된 예측을 기본 확산 모델로 다시 압축(distilling)함으로써 상쇄할 수 있어 추가적인 추론 시간 부담 없이 품질 향상을 얻을 수 있습니다.

멀티모달 대규모 언어 모델(MLLM)의 발전은 코드를 통해 3D 모델을 생성하고 편집하는 자율 에이전트 역할을 가능하게 했습니다. 이러한 모델들은 실제 참조로부터 물체의 형태, 재질, 공간 배치, 조명 등을 추론하면서 지시 사항을 엄격히 따르는 능력을 필요로 합니다. 그러나 기존 벤치마크들은 이러한 현실 세계의 개방형 요청에 대한 충분한 범위를 제공하지 못하고 있습니다.

이러한 격차를 해소하기 위해 연구진은 현실적인 3D 제작 작업을 평가하기 위한 최초의 포괄적인 벤치마크인 BlenderWorld를 소개합니다. BlenderWorld는 텍스트, 이미지, 비디오, 구조화된 사양 입력을 기반으로 하는 223개의 작업으로 구성되어 있으며, 건축물, 제품, 자연 환경, 과학 시각화 등 다양한 분야를 포괄합니다. 복잡한 결과물을 엄격하게 평가하기 위해 제출된 블렌더 프로젝트를 여러 시점에서 렌더링하고 2,651개의 작업별 이진 기준과 전체 시각 품질 점수를 사용하여 통일된 평가 프로토콜을 확립했습니다.

열세 개의 최첨단 모델을 평가한 결과, GPT-6-Astra가 79.9점으로 가장 높은 종합 점수를 기록했으며, Opus-5(73.0점)와 GPT-5.6-Sol(67.7점)이 그 뒤를 이었습니다. 이 연구는 현재 모델들이 광범위한 지시 사항을 이해할 수는 있지만, 블렌더 내에서 세밀한 3차원 공간 일관성과 정확한 구조적 재현에는 여전히 심각한 어려움을 겪고 있음을 보여줍니다. 이는 향후 3D 네이티브 에이전틱스 분야에 상당한 여지를 남깁니다.

대규모 언어 모델 에이전트가 파편화된 증거, 부분적으로 완료된 상태, 자원 및 결과물 간의 의존성이 존재하는 복잡한 환경에서 장기 목표를 수행할 때 관계를 유지하지 못하고 불완전한 결과를 도출하는 문제가 발생합니다. 이러한 실패는 환경 증거, 결과적 결정, 요구되는 효과 사이의 관계에 대한 의존성 때문에 발생합니다.

이러한 완성 격차를 해결하기 위해 본 연구는 각 작업을 타입 완성 그래프로 표현하는 작업 합성 프레임워크인 Interlock을 제안합니다. Interlock은 공개 증거와 결정 간의 연결을 나타내는 접지 엣지, 구성 요소 간의 공동 제약을 부과하는 결합 초하이퍼엣지, 결정과 모든 필요한 하위 효과를 연결하는 실현 엣지를 사용하여 작업을 모델링합니다. 이 그래프를 재설정 가능한 작업 공간, 공개 요청, 평가 기준표로 컴파일하여 작업 합성을 수행합니다.

또한, Interlock은 생성된 결과의 유효성을 검증하기 위해 소스 범위 검토와 공개 입력 검토를 수행하며, 에이전트로서의 판단자는 실행 산출물을 검사하고 필수 요구 사항을 충족하는 궤적을 보존합니다. 두 개의 Qwen3.6 백본에 이 경험을 미세 조정하여 훈련 유틸리티를 평가한 결과, AutomationBench 작업 통과율이 4.00~4.50 퍼센트 포인트, JobBench 가중 점수가 3.20~6.64 점, Harvey LAB 기준 통과율이 3.89~4.16 퍼센트 포인트 향상되었습니다.

이러한 결과는 외부 작업 환경 전반에 걸친 합성된 경험의 훈련 유틸리티를 입증하며, 복잡한 환경에서 에이전트의 장기 목표 달성 능력을 향상시키는 데 기여합니다.

학습 과정에서 복합 학습 목표 하의 잔차 오류를 계층적으로 해결하는 방법을 제시합니다. 이는 분포 변화나 교란 하에서 추가 정보를 식별하고 활용하기 위한 원칙적인 메커니즘을 제공합니다.

본 연구는 시스템 1/시스템 2 패러다임을 참고하여 이 원리를 두 개의 루프 메커니즘으로 공식화합니다. 빠른 시스템 1과 유사한 루프는 사용 가능한 증거로 해결 가능한 잔차를 해결하며, 나머지 인식적 잔차(epistemic residual)는 추가 증거를 획득하고 잔차 감소를 통해 정보적 가치를 측정하는 중간 속도의 시스템 2와 유사한 루프를 촉발합니다.

중첩된 해 공간에서 중간 루프의 최적해는 빠른 루프의 최적해보다 나쁘지 않음이 증명됩니다. 실험 결과, 이 두 루프 모델은 보이지 않는 손상(corruptions) 하에서도 중간 루프의 약 절반의 계산량으로 빠른 루프보다 일관되게 성능을 개선합니다.

특히, 더 깨끗한 관측값을 제공했을 때 이 모델은 동등한 계산 비용으로 단계별 분류기(staged classifiers)나 학습 지연(learning-to-defer) 방법보다 우수한 성능을 보였습니다.

다국어 재무 공시를 비교하려면 공통 회계 개념을 식별하고 이를 표현하는 모든 수치적 사실을 복구해야 합니다. 기존 벤치마크들은 이러한 능력의 일부만을 평가할 뿐, 동일한 다국어 증거에서 모델들이 개념 인식과 증거 복구를 동시에 성공적으로 수행하는지 여부에 대한 통찰을 제공하지 못합니다.

이에 연구진은 다국어 재무 보고서에서의 인식-접지(recognition-grounding) 격차를 조사하기 위해 MULTIFINGROUND라는 벤치마크를 소개합니다. 이 벤치마크는 영어, 프랑스어, 그리스어로 작성된 90개 발행사의 2025 회계연도 공시 자료를 기반으로 구축되었으며, 공유 회계 분류 체계를 통해 보고서를 정렬하고 추적 가능한 사실 수준 주석을 제공합니다.

15개의 평가 모델 중 8개의 API 및 오픈 가중치 참조 모델은 97.3%에서 99.4%의 개념 인식 정확도를 달성했지만, 올바르게 인식된 그룹의 26.6%에서 41.9%에서는 목표 사실 중 하나를 놓쳤습니다. 이는 강력한 개념 인식과 불완전한 증거 복구가 공존할 수 있음을 보여주며, 의미론적 인식과 증거 완전성을 함께 평가하는 것의 중요성을 강조합니다.

DAGFormer는 트랜스포머 모델의 교차 레이어 연결을 공동으로 훈련된 토폴로지 예측기를 통해 계획하는 새로운 언어 모델입니다. 이는 표준 트랜스포머의 잔차 연결 외에 이전 레이어에서 나중 레이어로 직접 연결을 추가하며, 입력 토큰을 기반으로 모든 연결의 강도를 제어합니다. 기존의 교차 레이어 라우팅 아키텍처가 각 레이어의 연결을 개별적으로 설정하는 것과 달리, DAGFormer는 모델 전체의 라우팅을 한 번에 계획하여 효율성을 높입니다.

이러한 접근 방식은 성능 향상으로 이어지는데, 75M에서 1B 파라미터에 이르는 OLMo-2 쌍에서 DAGFormer는 바닐라 트랜스포머 대비 WikiText-2 퍼플렉시티를 17%에서 25% 낮춥니다. 특히 5B 토큰으로 훈련된 1B DAGFormer 모델은 10B 토큰으로 훈련된 바닐라 모델보다 우수한 성능을 보였습니다.

DAGFormer는 다른 라우팅 기준선들과 비교했을 때 75M, 300M, 1B 파라미터에서 가장 낮은 퍼플렉시티를 달성했습니다. 또한, 이 성능 향상은 13가지 상식, 과학, 독해, 수학 평가 작업에서 평균 정확도를 2.0에서 2.5 포인트 높이고, 명령어 미세 조정(instruction finetuning)에서 AlpacaEval 승률을 바닐라 트랜스포머 대비 63%에서 70%로 끌어올리는 결과로 나타났습니다.

구조적 가지치기(structured pruning) 하에서도 DAGFormer는 여섯 가지 설정 중 다섯 가지에서 가장 적은 성능 저하를 보였습니다. 이는 DAGFormer가 모델의 구조적 연결을 최적화하여 효율성과 다중 작업 성능을 동시에 개선함을 시사합니다.

결정 모델은 텍스트를 생성하지 않고 단일 순방향 패스에서 선택지별 확률로 입력에 대한 질문에 답하는 방식으로 작동합니다. 이는 이중 과정 이론의 빠른 시스템 1과 유사하게 한 번에 답을 내놓지만, 깊이는 훈련 시점에 고정되어 있어 쉬운 질문과 어려운 질문에 동일한 연산을 사용합니다. 기존의 언어 모델이 생성된 텍스트를 통해 추론할 때는 추가 토큰 단계마다 비용이 발생하지만, LEV는 토큰 생성이 아닌 레이어를 반복 실행하여 더 깊이 생각함으로써 이 문제를 해결합니다.

LEV는 루프 형태로 사전 훈련된 언어 모델을 기반으로 하며, 각 루프 단계 후 선택지를 읽고 모든 단계를 공동으로 훈련하여 하나의 체크포인트로 어떤 깊이에서도 답변할 수 있게 합니다. 세 개의 루프된 백본을 사용했을 때, 동일한 가중치 내에서 깊이가 깊어질수록 정확도가 향상되며 특히 어려운 질문에서 그 효과가 두드러집니다. 예를 들어, 26억 파라미터 LEV 모델은 JevBench에서 깊이 1에서의 63.2% 정확도에서 깊이 4에서는 76.2%로 향상되었습니다.

또한, 질문당 특정 임계값에 맞춰 설정된 작은 스토퍼를 사용하여 질문에 따라 동적으로 깊이를 설정하는 온디맨드 깊이 기능을 구현했습니다. 이 방식은 정확도에서 1% 미만의 비용으로 계산을 15%에서 24% 절약할 수 있어 고정된 깊이 혼합보다 동등하거나 약간 높은 성능을 제공합니다.

잠금된 테스트 세트에서 14억 파라미터와 30억 파라미터 모델은 동일한 지연 시간(50ms 미만) 내에서 밀집된(루프되지 않은) 모델보다 5.4점에서 8.8점 더 정확한 성능을 보였습니다.

로봇 학습의 일반 지능 달성을 위해서는 다양한 환경과 상호작용에 걸쳐 학습을 확장해야 합니다. 하지만 기존의 로봇 정책은 상호작용 맥락에 관계없이 고정된 공유 파라미터를 사용하기 때문에, 서로 경쟁하는 파라미터 조정이 필요할 때 개별 작업이 충분히 적응되지 못하는 문제가 발생합니다.

이러한 문제를 해결하기 위해 MorphAct라는 맥락적 파라미터화 프레임워크가 제안되었습니다. MorphAct는 상호작용 맥락이 변함에 따라 로봇 정책 파라미터를 동적으로 조정하는 것을 목표로 합니다. 이는 비전-언어 및 행동 모듈에 대한 맥락 의존적인 저랭크 업데이트를 생성하는 두 개의 결합 생성기를 통해 구현됩니다.

이 두 생성기의 결합은 정책의 계산적 의존성에 따라 이루어지며, 비전-언어 업데이트가 행동 측 파라미터 생성을 조건화하는 표현을 형성합니다. MorphAct는 작업 레이블이나 전문가 어댑터 타겟 없이 순수한 행동 목표를 통해 두 생성기를 공동으로 훈련합니다.

실제 평가에서 MorphAct는 LIBERO와 Meta-World에서 세 가지 VLA 백본에 걸쳐 최대 16.30%의 성능 향상을 보였으며, 실제 환경 평가에서는 $\pi_{0.5}$ 대비 최대 14%의 성능 향상을 달성했습니다. 이러한 결과는 맥락적 파라미터 생성과 표현 결합의 이점을 뒷받침하며, 로봇 정책의 적응력을 크게 높일 수 있음을 보여줍니다.

하이브리드 선형 어텐션(HLA) 모델의 순환 상태를 활용하여 추측적 디코딩(speculative decoding) 과정에서 동적인 컨텍스트를 제공하는 새로운 방법인 ReaDy를 소개합니다. 기존의 피처 기반 드래프터는 목표 토큰의 숨겨진 특징에 의존하는데, 이는 후속 초안 위치의 필요와 맥락이 일치하지 않을 수 있다는 한계가 있었습니다. ReaDy는 이러한 문제를 해결하기 위해 HLA 순환 상태를 활용하여 초안 작성 중 위치별 컨텍스트 검색을 가능하게 합니다.

ReaDy는 각 초안 위치에 대해 목표의 확정된 순환 상태에서 보충 컨텍스트를 직접 검색할 수 있는 학습된 쿼리를 부여합니다. 이를 위해 경량의 상태 리더가 이 컨텍스트를 잔차 업데이트를 통해 초안 표현에 통합하며, 저랭크 상태 읽기와 융합 연산자를 사용하여 추가적인 계산 및 입출력 오버헤드를 최소화합니다. 이는 DSpark의 병렬 백본을 기반으로 하며, 절차적 연구를 통해 리더 용량, 상태 소스, 잔차 배치 등을 검증했습니다.

이 방법은 수학, 코드 생성, 대화 등 일곱 가지 벤치마크에서 평가되었으며, 단일 NVIDIA B200 GPU에서 Qwen3.8-27B 모델을 사용할 때 기존의 자기회귀 디코딩 대비 평균 3.16배의 디코딩 속도 향상을 달성했습니다. 또한, DSpark보다 모든 벤치마크에서 우수한 성능을 보였으며, 처리량은 평균 7.97% 향상되고 수용 길이(acceptance length)는 평균 8.50% 증가했습니다.

대규모 언어 모델(LLM)은 방대한 지식을 보유하고 있지만, 특히 고위험 사용 사례에서 해석 가능성과 신뢰할 수 있는 추론 능력이 부족합니다. 따라서 해석 가능한 구조와 시스템 2 추론 능력을 가진 신경-기호 모델이 LLM 수준으로 구축될 경우 유망한 대안이 될 수 있습니다. 그러나 기존의 신경-기호 모델은 기호 구성 요소의 범위가 제한적이고 주로 특정 도메인에 국한되어 있어 병목 현상을 겪고 있습니다.

연구진은 이러한 한계를 극복하기 위해 기존의 기호 시스템들을 정렬하고 병합하여 더 큰 기호 시스템을 구축하는 데이터 기반 방법을 제안했습니다. 이 방법인 SAE-IDF는 기호 단위들을 이질적인 시스템 간에 일치시키는 기초 단계에 초점을 맞춥니다. SAE-IDF는 희소 오토인코더(SAE)를 사용하여 기호를 고유한 맥락에서 희소 코드(sparse code)로 인코딩하고, 각 차원을 희소도와 시스템 간의 일치도를 기준으로 재가중합니다.

실제로 SAE-IDF는 6가지 종류의 기호 시스템에서 12가지 작업에 걸쳐 성능을 입증했습니다. 이 방법은 Gemma-2-9B 모델과 모든 Llama-3.1-8B 모델에 대해 동일한 LLM의 밀집(dense) 기준선보다 최대 45점까지 성능이 우수했습니다. 또한 SAE-IDF는 해석 가능성을 제공하여 희소 코드의 모든 차원이 인간이 읽을 수 있는 의미를 가지므로 각 매칭 결과는 명명된 개념(특징)으로 분해됩니다.

이 연구는 궁극적으로 보편적인 기호 골격(universal symbolic backbone)을 구축하는 길을 열어줍니다. 이는 LLM의 한계를 극복하고 더 신뢰할 수 있는 추론 시스템을 개발하는 데 중요한 기반을 제공합니다.

기존의 장기 에이전트 벤치마크는 최종 작업 성공에 중점을 두어 중간 실행의 유효성을 충분히 평가하지 못하고 있습니다. 하지만 실제 비즈니스 운영에서는 에이전트가 실행 과정 전체에서 중요한 제약 조건을 만족시키면서 잠재적으로 오래되었거나 상충되는 정책을 탐색해야 합니다. 특히 결제와 같은 고위험 영역에서는 중간 단계의 위반이 최종 결과와 무관하게 재정적 손실이나 규제 문제를 야기할 수 있습니다.

이러한 평가 격차를 해소하기 위해, 주요 결제 회사에서 실제 절차에 기반한 다중 턴 벤치마크인 BizBench를 소개합니다. 이 벤치마크는 789개의 지식 문서와 601개의 발견 가능한 비즈니스 도구를 통합한 실행 환경을 갖추고 있으며, 자원 제약, 시간 의존성, 사전 약속, 상충되거나 오래된 지침을 포함하는 50개의 작업을 포함합니다. BizBench는 최종 목표 달성뿐만 아니라 실행의 유효성까지 평가하는 데 중점을 두며, 참조 실행과 결정적 검사를 통해 이를 확인합니다.

실험 결과는 모델 간의 실행 유효성 차이를 명확히 보여줍니다. Claude Opus 5와 GPT-6 Sol은 각각 64.0%와 61.3%의 엄격한 성공률을 보였으나, Qwen3.8-27B의 경우 목표 달성률은 42.0%였음에도 불구하고 엄격한 성공률은 32.7%로 떨어져 결과 기반 평가가 유효하지 않은 실행을 가릴 수 있음을 입증했습니다. 또한, DeepSeek-V4.1-Flash 모델은 참조 실행 대비 평균 191.3회의 도구 호출을 기록하여 상당한 실행 오버헤드가 발생함을 드러냈습니다.

결론적으로 BizBench는 장기 에이전트가 복잡한 비즈니스 환경에서 단순히 작업을 완료하는 것을 넘어, 신뢰할 수 있고 제약 조건을 준수하는 실행을 달성하도록 평가하고 발전시키는 테스트베드를 제공합니다.