Latent On-Policy Self-Distillation

자율적으로 경험을 학습하고 이를 정책에 내재화하는 것은 자기 진화 AI의 핵심 과제입니다. 기존의 온-폴리 정책 증류(OPSD) 방법은 특권적인 자기 교사(privileged self-teacher)를 사용하여 학생의 궤적에 대한 밀도 높은 감독을 제공하지만, 설계자가 지정한 특권적 결과물(답변, 피드백, 기술 등)에 크게 의존하여 지속적인 자기 개선에 필요한 종단 간 학습 능력과 확장성을 제한합니다.

본 연구는 이러한 한계를 극복하기 위해 잠재적 온-폴리 자기 증류(Latent On-Policy Self-Distillation, LOPD)를 제안합니다. LOPD는 특권적 맥락 자체가 경험으로부터 종단 간으로 학습 가능하도록 만들어, 기존 방식처럼 수작업으로 특권적 컨텍스트를 정의하는 대신 이를 해결합니다. 기술적으로 LOPD는 관련 경험을 검색하여 연속적인 잠재 토큰으로 구성하고 이를 자기 교사를 조건화하며, 학생은 태스크와 상호작용 기록으로부터 궤적을 생성하고 방문한 모든 접두사에서 밀도 높은 토큰 수준 감독을 받습니다.

또한 LOPD는 잠재적 맥락 학습을 안정화하고 조절하기 위해 특권 마진 목적 함수를 추가로 도입했습니다. 실험 결과 LOPD는 에이전트 도구 사용 및 코드 생성 모두에서 RLVR과 OPSD, SDPO, Skill-SD를 능가하는 강력한 성능을 보였습니다. 특히 학습 효율성 측면에서는 GRPO 및 Skill-SD보다 30% 미만의 롤아웃 예산으로 더 높은 학습 효율을 달성했습니다.

이러한 결과는 특권적 맥락을 학습 가능하게 만드는 것이 성능 향상과 효율성 증대를 위해 필수적임을 입증하며, LOPD가 에이전트 진화를 위한 보다 확장 가능하고 자기 주도적인 패러다임으로 나아가는 단계임을 제시합니다.

Beyond Final Scores: A Systematic Evaluation of Agents for Long-Horizon AI Research and Development

자율 에이전트가 장기 실험을 통해 모델과 시스템을 개선하는 능력이 증가하고 있지만, 현재의 평가는 최종 점수에만 의존하여 진정한 발전의 정도나 축적된 경험이 후속 결정에 미치는 영향을 파악하지 못한다는 한계가 있습니다. 이에 본 연구는 7개의 최첨단 모델을 36개의 장기 과제에 대해 체계적으로 평가하기 위해 새로운 프레임워크를 제시합니다. 이 프레임워크는 솔루션 프레이밍, 실행, 피드백 제어를 통해 실행 중 행동을 특징짓는 규칙 기반 지표와 과제 간 경험 재사용을 비교하여 평가합니다.

연구 결과에 따르면 현재 에이전트는 완전히 자율적인 연구자라기보다는 엔지니어링 최적화기처럼 작동합니다. 에이전트는 실용적인 해결책을 공식화하고 구현할 수 있지만, 실행에 따라 성능이 크게 달라지며 가장 강력한 해결책은 주로 기존 기술을 조정하거나 결합하는 데 의존합니다. 또한, 진정한 방법론적 참신성은 드물게 나타납니다.

성능에 대한 상세 분석 결과는 최종 결과와 관계없이 유사한 결과 뒤에 숨겨진 다양한 프로세스 병목 현상, 후속 결정에 도움이 되거나 오도할 수 있는 경험 재사용, 그리고 성능 안정성에 영향을 미치는 하네스 설계와 같은 여러 요인에 의해 성능이 형성됨을 보여줍니다. 이러한 발견은 모델 훈련, 추론 시점 전략, 경험 관리, 그리고 하네스 설계 개선을 위한 구체적인 방향을 제시합니다.

Context-Matched Distillation: Teacher Causality for Autoregressive Video Distillation

인터랙티브 자기회귀 비디오 생성은 낮은 지연 시간의 결과물과 정밀한 온라인 제어를 동시에 요구합니다. 생성 속도를 높이는 소단계 증류(few-step distillation)는 노이즈 제거 단계를 줄이지만, 온라인 제어는 생성 중에 사용 가능한 과거 정보와 제어에 의존하는 인과적 제약 조건을 부과합니다. 기존의 비디오 분포 매칭 증류(DMD) 파이프라인은 종종 양방향 교사(bidirectional teachers)를 사용하여 완전한 클립을 점수화함으로써 인과적 소학생들을 감독합니다. 이로 인해 목표에 대한 점수가 학생이 생성할 때 사용할 수 없었던 미래 프레임이나 제어에 의존하게 되어 교사 감독과 학생의 인과적 정보 집합이 불일치하게 됩니다.

이에 연구진은 컨텍스트 일치 증류(Context-Matched Distillation, CMD)라는 인과적 DMD 프레임워크를 도입하여 각 목표가 생성될 때 사용 가능한 정보와 교사 감독을 일치시킵니다. CMD는 양방향 전체 클립 점수화 대신 미래 프레임이나 제어에 접근하지 않고 각 목표를 평가하는 인과적 교사를 사용합니다. 이 인과적 교사는 교사 훈련, 학생 증류, 추론 전반에 걸쳐 일관된 인과적 공식을 확립합니다.

또한, 프리픽스 점수화(Prefix Scoring)는 각 목표를 생성한 캐시된 학생 생성 프리픽스를 사용하여 각 목표를 평가함으로써 감독을 학생의 실현된 롤아웃 컨텍스트와 일치시킵니다. 프리픽스 손상(Prefix Corruption)은 훈련 초기에 생성된 신뢰할 수 없는 프리픽스를 교란하여 이 목표-컨텍스트 일치를 보존하면서 훈련을 안정화시킵니다. 이 간단한 인과적 공식은 프레임별 및 청크별 생성, 장편 비디오 증류, 카메라 조건화 증류 등으로 자연스럽게 확장됩니다.

실험 결과는 단편 및 장편 비디오 벤치마크 모두에서 자기회귀 방법들 간에 최고 수준의 총체적 성능을 입증했으며, 시간 변화에 따른 카메라 제어 준수가 상당히 개선되었음을 보여줍니다.

PixSDS: Why Latent SDS Makes Noisy Pixels

텍스트-3D 생성에 사용되는 Score Distillation Sampling(SDS) 기법은 사전 학습된 확산 사전(diffusion prior)을 사용하여 렌더링된 이미지를 최적화함으로써 가능합니다. 하지만 잠재 공간 SDS(latent SDS)는 종종 구조적인 색상 인공물과 고주파 텍스처 노이즈를 발생시키는 문제가 있습니다.

연구진은 이러한 잠재 공간 SDS의 실패 모드가 VAE(Variational Autoencoder)에 의해 유발되는 픽셀 드리프트(pixel drift)에서 비롯됨을 밝혀냈습니다. 최적화된 이미지가 VAE 인코더에 의해 약하게 제약되는 픽셀 공간 방향으로 이동할 수 있기 때문에, 이미지 자체에는 눈에 띄는 인공물이 축적되면서 잠재 표현은 깨끗하고 의미 있는 상태를 유지하는 모순이 발생합니다.

이러한 문제를 해결하기 위해 연구팀은 VAE 일관성을 유지하는 경사 복구 방법인 PixSDS를 제안했습니다. PixSDS는 잠재 SDS의 선행 단계(lookahead step)를 디코딩하고 이를 사용하여 픽셀 공간 최적화를 위한 깨끗한 방향으로 활용합니다. 이를 통해 확산 모델을 재학습하거나 렌더러를 변경하지 않고도 VAE 불일치 방향에서의 움직임을 줄여줍니다.

2D 최적화 및 텍스트-3D 생성 실험 결과, PixSDS는 의미 있는 콘텐츠를 보존하면서 구조적인 인공물을 상당히 줄이는 것으로 나타났습니다. 이 방법은 VAE 불일치에 따른 노이즈를 줄이면서도 핵심적인 SDS 목표를 변경하지 않는다는 점에서 실용적인 해결책을 제공합니다. 코드는 공개되어 있습니다.

Are You Sure You're Sure? On the Impact of Instruction Tuning on Confidence and Lexical Diversity

명령어 튜닝된 언어 모델은 다양한 생성 작업에서 강력한 성능을 보이지만, 최근에는 언어 모델이 과도한 자신감(verbalized overconfidence)을 보이는 현상이 나타났습니다. 특히 질문 응답 작업에서 모델의 과도한 자신감은 생성된 근거(rationale)의 일관성과 관련이 있을 수 있습니다.

본 연구는 명령어 튜닝이 생성된 답변 근거의 어휘 다양성(lexical diversity) 변화와 모델의 자신감 변화를 수반하는지 조사했습니다. 연구진은 질문 응답 벤치마크에서 세 쌍의 모델(기반 모델 및 명령어 튜닝 모델)을 평가했으며, 명령어 튜닝은 예측 정확도에는 제한적인 변화를 가져왔지만 답변 자신감은 일관되게 변화시켰고, 사후 확률 기반 보정(likelihood-based calibration)은 감소시켰습니다.

또한, 명령어 튜닝이 근거 다양성에 미치는 영향은 균일하지 않다는 것을 발견했습니다. 답변 간의 근거 다양성(cross-rationale diversity)은 일관되게 감소했지만, 표면적인 어휘 다양성(surface-level lexical diversity)은 모델과 벤치마크에 따라 방향과 크기가 다양하게 변화했습니다.

최종적으로, 답변 선택 및 근거 길이를 통제한 후에도 이러한 차이점들이 지속된다는 것을 확인했습니다. 이는 모델의 자신감과 근거 다양성이 명령어 튜닝의 서로 다른 영향을 포착한다는 것을 의미하며, 모델의 신뢰도와 다양성을 분석할 때 이 두 요소를 별도로 고려해야 함을 시사합니다.

LiveAnimate: Stable Long-Form Streaming Human Animation in Real-Time

실시간 상호작용이 필수적인 라이브 스트리밍이나 가상 아바타 등에 사용되는 포즈 기반 인간 애니메이션 생성에 있어 LiveAnimate는 획기적인 발전을 제시합니다. 기존의 확산 기반 시스템은 클립당 수 분에서 수 시간의 시간이 소요되어 반응성이 떨어졌으나, LiveAnimate는 140억 파라미터 비디오 확산 트랜스포머(DiT)를 기반으로 실시간 스트리밍과 안정적인 장기 생성 능력을 결합한 최초의 시스템입니다.

이 시스템은 두 단계의 훈련 파이프라인을 통해 개발되었습니다. 먼저 참조 기반 교사 강제 적응(Reference-Anchored Teacher-Forcing Adaptation)으로 사전 학습된 양방향 DiT를 블록 인과적 자기회귀 생성기로 변환하고, 이후 블록별 자기 강제 증류(Block-wise Self-Forcing Distillation)를 통해 샘플링 예산을 줄여 효율성을 높였습니다. 특히 장시간 스트림에서 외형을 보존하기 위해 자세 검색 싱크 어텐션(Pose-Retrieval Sink Attention, PR-Sink)이라는 경계가 있는 KV 캐시 메커니즘을 도입하여, 전체 시퀀스를 보존하지 않으면서 관련 외형 컨텍스트를 복원합니다.

이러한 설계는 메모리와 블록당 지연 시간을 스트림 길이에 관계없이 일정하게 유지하며, Ulysses 시퀀스 병렬 처리와 연산자 융합과 결합하여 두 개의 NVIDIA H100 GPU에서 19.63 FPS의 스트리밍 추론을 가능하게 합니다. 세 분 분량의 벤치마크에서 LiveAnimate는 처음 30초부터 마지막 분까지 시각적 품질과 정체성을 거의 일정하게 유지하며, 기존 시스템들이 품질 저하를 겪거나 수 시간의 오프라인 계산을 요구했던 것과 대조적입니다.

결과적으로 LiveAnimate는 상호작용이 가능한 전신 애니메이션을 위한 품질, 지연 시간, 지속 시간에 새로운 운영 지점을 확립했습니다.

UniSwap: Streaming Audio-Visual Identity Swapping for Talking Videos

대화 비디오에서 캐릭터 교체는 외모와 목소리를 동시에 전달하면서 원본의 움직임, 장면, 언어적 내용 및 오디오-비디오 타이밍을 보존해야 하는 복잡한 문제입니다. 기존 방법들은 두 양식에 대해 별도로 최적화된 모델을 사용하기 때문에 오디오-비디오 일관성을 유지하기가 어렵습니다. 이에 따라 본 연구는 스트리밍형 공동 오디오-비주얼 정체성 교체를 위한 최초의 프레임워크인 UniSwap을 제시합니다.

UniSwap은 소스 비디오, 참조 이미지, 참조 음성 클립을 입력으로 받아 단일 오디오-비주얼 확산 트랜스포머 내에서 참조 외모와 음성 음색을 전달하면서 소스 콘텐츠와 역동성을 보존합니다. 또한, 정렬된 교차 정체성 훈련 쌍의 부족 문제를 해결하기 위해 실제 클립에서 시각적 및 음성적 정체성을 제거하고 원본 클립을 재구성 대상으로 사용하는 스왑-앤-재구성 파이프라인을 도입했습니다.

모델은 양방향 백본에서 시작하여 공동 교체를 위한 인컨텍스트 사전 훈련, 블록-인과적 KV 캐시 생성(Conditional Streaming Adaptation), 노출 편향을 완화하고 블록당 샘플링 단계를 30회에서 3회로 줄이는 효율적인 자체 강제 DMD(Efficient Self-forcing DMD) 등을 통해 점진적으로 적응됩니다. 효율적인 다중 LoRA 전환(Efficient Multi-LoRA Switching)을 통해 세 가지 DMD 역할을 단일 고정 백본으로 공유하며, Feature-RoPE 분해(Feature-RoPE Decomposition)를 통해 캐시된 위치를 훈련 범위 내로 유지하여 안정적인 장기 추론을 지원합니다.

실험 결과는 강력한 오디오-비주얼 동기화, 경쟁력 있는 정체성 보존, 효율적인 스트리밍, 그리고 안정적인 장기 생성 능력을 입증합니다. 이는 개발자들이 복잡한 멀티모달 비디오 생성 작업에서 일관성을 유지하며 효율적으로 정체성을 교체할 수 있는 기반을 제공합니다.

H2R-Bench: Benchmarking Human-to-Robot Manipulation Video Generation in World Models

로봇 학습에 필수적인 대규모 조작 데이터 수집이 어렵고, 인간의 시점 기반 조작 비디오는 풍부한 행동 경험을 제공하지만, 인간의 손과 로봇의 엔드 이펙터 간의 차이로 인해 다른 신체(embodiment) 간의 데이터 전이가 여전히 어렵습니다. 최근 비디오 월드 모델(Video World Models)의 발전은 인간 관찰로부터 로봇 중심의 조작 비디오를 합성하는 유망한 경로를 제시하지만, 이러한 모델들의 교차 신체 전이 능력은 아직 탐구되지 않았습니다.

이러한 한계를 극복하기 위해 본 연구는 교차 신체 인간-로봇 조작 비디오 생성 평가를 위한 벤치마크인 H2R-Bench를 소개합니다. H2R-Bench는 모델이 주어진 신체에 따라 주어지는 인간의 시점 시연을 로봇 조작 비디오로 변환하는 능력을 평가합니다. 각 벤치마크 인스턴스는 인간 시연 비디오, 목표 신체 제약 조건, 그리고 작업 목표, 행동 이벤트, 기능 접촉, 객체 반응을 포함하는 소스 기반 주석을 포함합니다.

H2R-Bench는 목표 상태 완료, 행동 이벤트 완료, 기능 접촉 전이, 신체 일관성, 일반 비디오 품질 등 다섯 가지 차원을 통해 생성된 비디오를 평가합니다. 연구 결과에 따르면, 현재의 비디오 월드 모델들은 신체 일관성, 기능적 상호작용, 작업 실행 측면에서 인간-로봇 조작 전이를 수행하는 데 여전히 한계를 보입니다. 따라서 H2R-Bench는 비디오 월드 모델이 인간-로봇 신체 격차를 해소하고 인간 조작 관찰을 로봇 중심의 훈련 자원으로 전환할 수 있는지 체계적으로 진단하는 프레임워크를 제공합니다.

CW-BASS v2: Saturation-Aware Pseudo-Label Selection for Semi-Supervised Segmentation under Foundation-Model Teachers

자기 지도 학습 기반의 시맨틱 분할에서 어떤 유사 레이블을 신뢰할지에 대한 문제는 오랫동안 연구되어 왔습니다. 그러나 DINOv2와 같은 자기 지도 기반의 파운데이션 모델 교사(teacher)가 등장하면서, 모델의 신뢰도가 포화 상태에 도달하여 기존의 필터링 규칙이 강한 교사에게 오히려 해가 될 수 있다는 새로운 패러다임이 생겼습니다.

이에 본 논문은 교사의 신뢰도 영역을 읽는 포화 인식 기반의 유사 레이블 선택 방법인 CW-BASS v2를 제안합니다. 이 방법은 보정된 홀드아웃 보정치와 클래스별 노이즈 추정치를 결합하고, 보존율이 1에서 벗어나도록 보장하는 자체 적응형 신뢰 하한선을 결합하여 적용합니다.

CW-BASS v2는 홀드아웃 슬라이스에서 교사의 자신감 집합의 신뢰도($\pi_{kept}$)를 측정하여 요구되는 자신감 수준($\tau$)을 충족할 때만 엄격하게 필터링하고, 그렇지 않을 때는 적응형 하한선을 적용합니다. 이러한 접근 방식은 필터링 실패를 가정하는 것이 아니라 측정하여 실패를 회피함으로써 원칙성을 확보합니다.

그 결과, CW-BASS v2는 포화된 벤치마크에서 UniMatch V2 작동점을 회복하며, 자신감 집합이 신뢰할 수 없는 경우에도 성능을 개선합니다. 특히, 자신감 집합이 불안정할 때 성능이 향상되며, 이는 추가적인 마진(mIoU) 개선으로 이어집니다. 또한, 교사가 포화 상태일 때 적응형 차단이 보존 마스크를 과도하게 채우고 자기 학습이 확증 편향으로 퇴화하는 것을 방지합니다.

Spatial Memory Agent: Experience-Grounded Procedure Memory for Spatial Intelligence

공간 지능은 구체적인 에이전트, 로봇 계획, 멀티모달 어시스턴트의 기반이 되고 있습니다. 기존 연구들은 VLM 에이전트의 공간 추론 능력을 개선하기 위해 지도 미세 조정이나 강화 학습 같은 후처리 방법 또는 깊이 추정 도구와 같은 외부 공간 도구를 호출하는 에이전트 패러다임으로 주로 접근해 왔습니다.

본 연구는 외부 전문가 도구에 의존하지 않고 파라미터 업데이트 없이 고정된 VLM 에이전트가 자체적으로 공간 추론 능력을 향상시킬 수 있는지에 대한 보완적인 경로를 탐구합니다. 이를 위해 경험 기반의 실행 프레임워크인 공간 메모리 에이전트(Spatial Memory Agent, SMA)를 제시하며, 검증된 공간 경험을 재사용 가능한 교훈으로 변환하는 것을 목표로 합니다.

SMA는 공간 경험을 통해 예측된 답변과 보상을 얻은 후, 검증된 반성을 통해 핵심적인 교훈을 추출합니다. 또한 각 교훈에 전이 신뢰 점수(Transfer Reliability Score, TRS)를 할당하여 향후 전이 신뢰도를 입증하는 방문 증거로 활용합니다. 읽기 전용 배포 환경에서 SMA는 이 교훈들을 의미적 필터와 유사도-TRS 결합 순위를 통해 검색하여 고정된 모델 추론을 안내합니다.

다섯 가지 대표적인 공간 벤치마크와 네 가지 기본 VLM을 대상으로 평가한 결과, SMA는 모든 기본 모델 블록에서 가장 높은 평균과 대부분의 평가에서 가장 뛰어난 정확도를 달성했습니다. 이는 평가된 고정 모델 규모와 환경 전반에 걸쳐 공간 자기 진화를 위한 실용적인 파라미터 업데이트 없는 경로를 확립했음을 의미합니다.

DreamX-Phi 1.0: Action-Conditioned Video World Model for Robotic Manipulation

DreamX-Phi 1.0은 로봇 조작을 위한 행동 조건부 비디오 월드 모델로, 관찰된 프레임, 언어 지시, 그리고 말단 효과기 자세 및 그리퍼 상태를 포함하는 행동 시퀀스를 입력받아 결과적인 미래 관찰 결과를 예측합니다. 하지만 단순히 현실적인 시뮬레이션만으로는 예측의 충실도를 보장할 수 없으며, 그럴 경우 잘못된 팔이 움직이거나 조작하던 물체가 사라지는 문제가 발생할 수 있습니다.

이러한 문제점을 해결하기 위해 모델은 각 팔의 경로를 보존하고 강체 운동 구조를 유지하기 위해 PRoPE 스타일의 기하학적 인코딩을 통해 각 팔에 대한 SE(3) 변환을 어텐션에 주입합니다. 또한 장면의 기하학이나 작은 조작 물체의 변화를 완전히 제어하기 위해 장면 수준의 기하학을 위한 경량 깊 분기(depth branch)를 추가하고, 객체 일관성을 유지하기 위해 고정된 V-JEPA 교사(teacher)와 SAM3 마스크를 사용합니다.

나아가 이 모델은 분포 일치 증류(distribution-matching distillation)를 통해 다단계 생성기를 몇 단계의 학생 모델로 압축하여 효율적인 배포를 가능하게 합니다. 이 모델은 WorldArena~2.0 챌린지에서 Track~1 1위와 Track~2 2위를 달성했으며, 모델과 코드는 공개될 예정입니다.

Intern-S2-Preview: Scientific Agentic Foundation Model

과학적 발견은 이질적인 양식의 과학적 증거를 추론하고, 과학 도구 및 환경과 상호작용하며, 장기적인 과제를 지속할 수 있는 AI 시스템을 요구합니다. 이에 따라 본 논문은 다중 모드 과학적 이해, 추론, 생성 및 장기 과제 수행을 지원하도록 설계된 과학 에이전트 파운데이션 모델인 Intern-S2-Preview를 제시합니다.

모델 훈련 파이프라인은 렌더링된 과학 문서, 이미지-텍스트 데이터, 다양한 과학 코퍼스를 활용한 과학 다중 모드 사전 훈련으로 시작됩니다. 사전 훈련된 체크포인트에서 시작하여 지도 미세 조정, 확장 가능한 다중 작업 강화 학습(RL), 블랙박스 및 화이트박스 에이전트 RL, 온-폴리 디스틸레이션으로 구성된 통합 후 훈련 파이프라인을 적용합니다. 이 과정에서는 부분 롤아웃과 오프-폴리 보정을 통한 안정성 및 효율성 개선을 위해 적응형 길이 정규화, 온라인 추측 디코딩, 견고한 다중 작업 최적화 등의 실용적인 기술이 지원됩니다.

아키텍처 수준에서 Intern-S2-Preview-397B는 효율적인 장 시퀀스 이해에서 수치 예측으로 시간 시리즈 모델링을 확장하며, 별도의 메모리 증강 경로인 Memory Decoder를 통해 고정된 397B 백본을 수정하지 않고도 빠른 과학적 전문화를 가능하게 합니다. 이러한 확장 모델은 과학, 다중 모드, 에이전트 및 일반 목적 벤치마크 전반에서 경쟁력 있거나 선도적인 결과를 달성했습니다. 특히 시간 시리즈 모듈은 SciTS에서 과학적 신호 이해와 예측을 개선했으며, Intern-MemDec-4B 확장 모델은 백본을 변경하지 않고 Biology-Instructions 평균 점수를 56.92점에서 60.32점으로 향상시켰습니다.

Alaya-EVOKE: From Linear-Scaling Supervision to Endless World

인터랙티브 세계 모델은 지속적인 메모리, 반응성 있는 상호작용, 그리고 장거리 생성 능력을 지원해야 하지만, 이러한 요구사항은 모델에 상충되는 부담을 지웁니다. 현재 방식은 디노이저 컨텍스트나 키-값 캐시에 역사를 유지하는 데 비용이 증가하여 세션 길이와 보존된 메모리 사이에 트레이드오프가 발생하며, 낮은 지연 시간 상호작용은 교사(teacher)에 의해 제한되는 소수 단계 생성에 의존합니다.

Evoke는 이러한 한계를 극복하기 위해 지속적인 세계 상태를 외부화하고 장거리 상호작용 생성을 위해 교사를 재설계합니다. 장면 기하학은 외부 카메라 인덱스 세계 상태 은행에 유지되며, 여기서 시점에 관련된 정보만 검색하여 세션이 길어질수록 디노이저 컨텍스트를 제한합니다. 교사는 고정된 생성기가 아니라 장거리 감독을 위해 설계되었으며, 희소 어텐션은 청크별 그룹화, 선택된 먼 프레임 검색, 그리고 선형 어텐션 글로벌 상태를 결합하여 메모리와 컴퓨팅의 선형 성장을 가능하게 합니다.

이러한 감독은 짧은 창 내에서 국소적으로 그럴듯한 콘텐츠를 유지하면서도 각 청크별 조건화를 통해 시퀀스 전반에 걸쳐 프롬프트 변경과 이벤트 제어를 가능하게 합니다. 또한 자기 강제 롤아웃 하에서 적용된 30초 분포 일치 목표는 분류-프리 가이던스 없이 세 단계 학생에게 두 가지 능력을 전달하여 장기적인 표류에 대한 저항력을 개선하고 반응성 있는 조건화를 보존합니다.

결과적으로 Evoke는 제한된 컨텍스트와 재귀적 외부 메모리를 통해 개방형이며 지속적으로 진화하는 생성을 지원하며, 단일 H200에서 384x640 해상도 기준으로 각 1.5초 청크는 2.11초 만에 생성됩니다. 이 세 단계 세계 모델인 Evoke는 WBench에서 최고 성능을 달성하는 동시에 VBench-Long 및 VBench-2.0에서 경쟁력을 유지합니다.

PlayWorld: Benchmarking World Models with Agent Players over Long-Horizon Objectives

비디오 월드 모델은 현재 관찰과 사용자 행동에 기반하여 미래 상태를 시뮬레이션합니다. 최근 시스템들은 긴 시퀀스에서 인상적인 비디오 일관성과 행동 제어 능력을 보여주었지만, 이러한 상호작용 모델들을 공정하게 비교하는 것은 여전히 어렵습니다. 실제 사용자는 보통 상호작용을 통해 장기 목표를 추구함으로써 월드 모델을 평가합니다. 예를 들어, 사용자가 360도를 돌려 환경이 일관적인지 확인하거나 물에 들어가 현실적인 물결이 생성되는지 검사하는 식입니다.

이러한 목표를 달성하는 데 필요한 행동 시퀀스는 모델마다 상당히 달라지기 때문에, 고정된 행동 조건에 기반한 평가는 모델 간 비교에 부적합합니다. 이를 해결하기 위해 연구진은 다중 모드 에이전트 플레이어(multi-modal Agent Players)를 사용하여 월드 모델과 특정 장기 목표를 향해 상호작용하는 방식을 채택했습니다. 이를 바탕으로 PlayWorld라는 벤치마크를 소개하며, 이는 171개의 시나리오를 제공하고 각 시나리오는 기하학적 일관성(geometry consistency), 상호작용 충실도(interaction fidelity), 시야 밖 진화(out-of-sight evolution), 통찰 진화(insight evolution)라는 네 가지 핵심 차원을 기준으로 평가합니다.

또한 비디오 품질과 제어 가능성에 대한 기본 능력 지표도 포함했습니다. 아홉 가지 최첨단 월드 모델에 대한 실험 결과, 현재 모델들은 특히 공간적 일관성 및 지속적인 상태 진화를 유지하는 장기 상호작용 목표에서 신뢰성이 부족하다는 것을 보여줍니다. 이 연구는 상호작용 기반 평가를 위한 새로운 방법론과 벤치마크를 제시하며, 관련 코드와 데이터는 GitHub에서 공개되어 있습니다.

LycheeMemory V2: Efficient Long-Term Memory for LLM Agents via Semantic Segment-Level Consolidation

장기 LLM 에이전트가 미래 작업을 지원하기 위해서는 과거 상호작용으로부터 정보를 보존해야 합니다. 기존의 메모리 시스템은 각 상호작용 후 LLM을 호출하여 메모리를 통합하는 이른 통합(eager consolidation) 방식을 사용하는데, 이는 대화가 길어질수록 메모리 구축 비용을 증가시키는 원인이 됩니다. 특히, 세부적인 맥락 증거를 버리거나 검색 컨텍스트를 늘리는 방식은 오버헤드를 쿼리 시간으로 이동시키는 단점이 있습니다.

이에 본 연구는 턴 단위 통합 대신 의미적 세그먼트 단위 통합을 도입한 효율적인 장기 메모리 프레임워크인 LycheeMemory V2를 제시합니다. LycheeMemory V2는 여러 교환을 세그먼트로 묶어 각 세그먼트를 컨텍스트 독립적인 타입 메모리 레코드로 인코딩함으로써 메모리 구축 비용을 절감합니다. 세그먼트 단위 배치와 의미적 경계 감지 기술을 통해 LLM 인코딩 빈도를 낮추고 일관된 이벤트 및 시간적 증거를 보존할 수 있습니다.

GPT-4.1-Mini를 사용한 실험 결과, LycheeMemory는 LoCoMo에서 89.22%, LongMemEval-S에서 92.20%의 최고 성능을 달성했습니다. 이는 기존 A-Mem과 비교했을 때, 쿼리 시간 토큰 사용량은 증가시키지 않으면서 LoCoMo에서 86.0%, LongMemEval-S에서 75.9%의 구축 토큰을 절감한 수치입니다. 이러한 결과는 장기 에이전트 메모리의 정확도와 비용 간의 균형이 보존되는 정보뿐만 아니라 통합의 세분성(granularity)에 따라 달라진다는 점을 시사합니다.

From Atomic Evidence to Logical Composition: Structured Compositional Reasoning over Compound Answer Options

대규모 언어 모델은 개별 판단이 정확하더라도 명시적인 논리 연산자(AND, OR, NEITHER/NOR)를 사용하여 답변 옵션을 결합해야 할 때 실패하는 경향이 있습니다. 본 연구는 이러한 복합 옵션을 다루기 위해 새로운 프레임워크를 제시합니다.

이 프레임워크는 각 옵션을 원자적인 답변으로 분해하고 각 답변에 대한 대조 가설을 점수화하여 모델이 복합 옵션을 직접 보지 않도록 합니다. 이후 연산 제약 조건이 있는 정수 선형 계획법을 사용하여 보정된 점수들을 단일 예측으로 합성합니다.

연구진은 이 방법론을 LOGICAL-COMMONSENSEQA와 새로 도입된 독해 벤치마크인 LOGICAL-SATA에 대해 평가했습니다. 그 결과, 프레임워크는 인간이 검증한 LOGICAL-COMMONSENSEQA 분에서 Macro-F1 점수를 48.3에서 77.0으로, LOGICAL-SATA 분에서 47.0에서 75.6으로 향상시켰습니다.

특히 NEITHER/NOR 유형에서 가장 큰 개선을 보였으며, 이는 모델이 복잡한 논리적 구조를 더 효과적으로 처리할 수 있음을 시사합니다.

Gemini 3.7 Flash

구글은 코딩과 에이전트 분야에서 가장 지능적인 작업마차 모델인 제미나이 3.7 플래시를 출시했습니다. 이 모델은 개발자 피드백과 알고리즘 혁신을 바탕으로 이전 버전인 제미나이 3.6 플래시보다 소프트웨어 엔지니어링, 지식 기반 작업, 웹 개발 워크플로우 전반에서 상당한 개선을 제공합니다.

3.7 플래시는 디버깅 및 문제 해결과 같은 코딩 작업에서 3.6 플래시보다 강력한 성능을 보이며, FrontierCode 1.1 및 DeepSWE v1.1 벤치마크에서 각각 43.6%와 65.3%의 코드 정확도를 달성했습니다. 또한, 프롬프트당 더 적은 횟수로 기능적인 레이아웃과 완성된 애플리케이션을 생성하며, UI 생성 시에는 참조 입력에 기반한 높은 디자인 준수율을 보였습니다.

금융, 법률, 생명과학과 같은 지식 집약적인 분야에서는 복잡한 문서를 처리하는 능력에서 3.6 플래시를 크게 능가하며 GDP.pdf 벤치마크에서 34.0%의 정확도를 기록했습니다. 이 모델은 실시간으로 캐릭터와 텍스처를 생성하는 등 다양한 멀티모달 작업에서도 뛰어난 성능을 발휘합니다.

개발자들은 Gemini API나 Google AI Studio를 통해 이 모델을 탐색할 수 있으며, 기업은 Gemini Enterprise Agent Platform을 통해 접근할 수 있습니다. 또한, 이 모델은 화학, 생물학, 방사능 및 핵(CBRN) 및 사이버 공격 분야의 오용에 대한 업데이트된 안전장치를 포함하고 있어 안전성과 유용성을 동시에 확보했습니다.

Happy 45th Birthday to the IBM PC and Model F/XT

1981년 8월 12일은 IBM이 개인용 컴퓨터(PC)를 출시하며 x86 아키텍처의 인기를 촉발시킨 중요한 시기입니다. 이 성공은 IBM 자체의 성과뿐만 아니라, 당시의 뛰어난 키보드인 Model F/XT의 설계에 기인했다는 점이 주목됩니다. 이 글은 IBM PC와 Model F/XT 키보드의 역사적 배경과 그 기원을 탐구하며, PC 시대 이전의 컴퓨터 개발 과정과 하드웨어 디자인의 연관성을 조명합니다.

PC 등장 이전에도 IBM은 1970년대에 SCAMP 프로토타입과 5100 휴대용 컴퓨터와 같은 제품을 통해 개인용 컴퓨터의 개념을 탐구했습니다. 특히 Datamaster 시스템은 PC 개발에 중요한 영향을 미쳤는데, 1981년 7월에 출시된 Datamaster IBM 5322 시스템/23과 5324 Datamaster는 PC 개발에 필요한 하드웨어 기반을 제공했습니다.

Datamaster의 개발 과정에서 발생한 기술적 결정은 키보드 디자인에도 직접적인 영향을 미쳤습니다. 5322 Datamaster의 디자인은 토미 R. 하디(Tommy R. Hardy)의 특허를 통해 알려져 있으며, 이는 이후 IBM PC 키보드 설계에 반영되었습니다. 따라서 Model F/XT 키보드의 레이아웃과 기능은 단순히 당시의 디자인을 넘어, Datamaster 시스템과 같은 선행 하드웨어의 발전 과정에서 형성된 기술적 맥락을 이해하는 데 중요합니다.

결론적으로 Model F/XT 키보드는 IBM PC의 성공을 뒷받침한 하드웨어 발전의 연장선상에 있으며, 이는 초기 개인용 컴퓨터 시스템의 설계와 개발 과정이 최종 사용자 경험과 물리적 인터페이스에 어떻게 반영되는지를 보여주는 사례입니다.

What's New in Flutter 3.47

Flutter 3.47 버전에서는 디자인 시스템을 핵심 SDK에서 분리하는 대규모 업데이트가 이루어졌습니다. material_ui와 cupertino_ui 패키지가 독립적인 단독 패키지(standalone packages)로 1.0 버전을 출시하여 개발자들이 선택적으로 도입할 수 있게 되었습니다. 이는 디자인 로드맵을 독립적으로 관리하고, 분기별 Flutter SDK 릴리스와 무관하게 디자인 라이브러리를 더 빠르고 자주 업데이트할 수 있는 기반을 마련합니다.

이러한 분리 덕분에 개발자는 전체 Flutter SDK 버전을 업그레이드하지 않고도 최신 Material 및 Cupertino 위젯 스타일을 사용할 수 있으며, 향후 스타일 중립적인 Flutter 코어 위젯 카탈로그를 구축하는 데 기여할 수 있습니다. 프로젝트를 마이그레이션하려면 dart fix 명령어를 사용하여 import 구문을 자동으로 업데이트하는 도구가 제공됩니다.

또한, 이 전환 과정에서 Material 및 Cupertino 위젯의 로컬라이제이션 관련 기능도 패키지 내부로 통합되어 flutter_localizations가 분리되었습니다. 개발자는 MaterialUiCompatibilityBridge와 같은 도구를 사용하여 레거시 SDK 임포트를 사용하는 패키지들도 새로운 독립 패키지로 즉시 마이그레이션할 수 있습니다.

이 외에도 성능 및 도구 측면에서 여러 개선이 이루어졌습니다. 데스크톱 환경에서 Impeller가 기본으로 적용되었으며, 위젯 미리보기가 안정화되었습니다. 또한 접근성 기능, 텍스트 선택 안정성, 제스처 전파 개선 등 프레임워크 전반의 안정성과 사용자 경험을 향상시키는 수정 사항들이 포함되었습니다.

Principia Mathematica is modern and insightful

알프레드 노스 화이트헤드와 버트런드 러셀의 『프린키피아 수학(Principia Mathematica)』은 1910년에 출판되었음에도 불구하고 현대 프로그래밍 언어와 논리학에 대한 통찰을 제공하는 현대적인 텍스트로 평가받습니다. 이 책은 오늘날 우리가 다루는 참조 투명성(referential transparency), 외연성(extensionality), 타입(type)과 같은 개념들을 최초로 언급하며, 프로그래밍의 근본적인 원리를 선구적으로 다루고 있습니다.

책은 람다 계산(lambda-calculus)의 선구적인 개념을 포함하고 있으며, 변수의 바인딩과 치환, 추상화, 적용 등의 개념이 언어학에서 비롯된다는 점을 통찰합니다. 특히 수학의 기초적인 개념들이 전체 수학을 설명하기에 충분하다는 점을 강조하며, 증명을 극도로 상세하게 제시함으로써 불필요한 전제를 배제하려는 노력을 보여줍니다.

또한 이 책은 함수를 이항 관계의 한 형태로 정의하는 기술적 함수(descriptive functions) 개념을 도입했는데, 이는 현대 프로그래밍에서 함수와 데이터 구조를 이해하는 방식에 중요한 영향을 미쳤습니다. 이처럼 고전적인 수학적 논의가 현대 컴퓨터 과학의 핵심 개념들을 예측하고 담고 있다는 점은 개발자에게 깊은 통찰을 제공합니다.