Agent-Editing World Model: Rethinking World Modeling for LLM Agents

최근 대규모 언어 모델(LLM)의 발전으로 에이전트가 다양한 환경에서 장기 목표를 수행할 수 있게 되었지만, 기존의 언어 세계 모델은 환경 관찰 결과를 예측하는 데 그치고 실행 의존적인 도구 응답을 재구성하는 데는 한계가 있습니다. 또한 에이전트는 역사에 지원되지 않는 가정이나 오래된 계획이 남아 다음 결정을 왜곡하는 작업 상태 오염 문제를 겪습니다.

이에 연구진은 도구 응답을 시뮬레이션하는 대신 추론과 행동이 미래의 작업 진행 상황을 어떻게 형성하는지를 모델링하는 에이전트 편집 세계 모델(Agent-Editing World Model, AEWM)을 제안했습니다. AEWM은 액션 심판(Action Judge)을 사용하여 결정의 중요도(Critical, Exploratory, Noisy)를 구별하고, 상태 수정(State Revision)을 통해 동일한 관찰 기록에서 나온 노이즈가 있는 추론 및 행동 연속을 편집합니다.

이러한 능력은 실제 실행과 통합된 편집 액트(EditAct)를 통해 다음 결정의 기반이 되는 상태를 직접 변경합니다. 연구진은 검색, 터미널, 소프트웨어 엔지니어링 분야에서 AEWM을 중간 훈련 및 지도 미세 조정을 통해 학습시켰습니다. 이 결과, AEWM은 액션 심판 벤치마크에서 70.5%의 매크로 F1 점수를 달성하며 가장 강력한 최전선 기준선보다 10.6점을 상회했습니다.

더 나아가, 검증된 편집 액트 궤적에 대한 거부 샘플링 미세 조정을 AEWM-RFT로 명명했는데, 이는 온라인 AEWM 지침 없이도 세 가지 도메인에서 자체 RFT보다 2.2~2.6점의 성능 향상을 보였습니다.

Training Object Permanence in World Models

최근 연구는 비디오 생성 모델이 인간의 인지적 선험(priors)인 객체 영속성과 견고성을 갖추기 시작했으며, 이는 인간과 유사한 물리적 지능을 구축하는 데 이상적인 후보임을 보여줍니다. 이러한 문제를 해결하기 위해 연구진은 인지 과학에 기반한 데이터 인프라인 WROP(World Reasoning with Object Permanence)를 소개했습니다.

WROP는 여섯 가지 인지 범주로 나뉜 150개의 수작업으로 설계된 인지 과학 기반 과제로 구성된 데이터 인프라입니다. 연구진은 블렌더 생성기를 사용하여 속도, 조명, 카메라 각도와 같은 방해 요소들을 무작위화하면서도 각 과제의 인지 구조를 보존하여 각 작업당 10,000개 이상의 샘플을 생성했습니다. 이 결과로 150만 개의 샘플 훈련 코퍼스와 300문제 시험지를 공개했습니다.

이 데이터와 시험지를 사용하여 14개의 비디오 모델을 평가했으며, 그중 16B 규모의 PWM-WROP 세계 모델이 이어지는 모델(continuation) 중에서 1위를 차지하고 전체적으로 세 번째 순위를 기록했습니다. 연구진은 데이터, 시험, 모델 답변, 점수, 가중치, 그리고 AWS Trainium2 기반의 네이티브 PyTorch 훈련 스택을 공개했습니다.

Sourcehut account takeover via build logs (XSS in ansi2html)

SourceHut 계정 탈취 취약점과 관련된 CVE-2026-92973이 보고되었습니다. 이 취약점은 빌드 로그에 텍스트를 주입할 수 있게 하여 해당 로그를 보는 사용자들의 계정을 탈취할 수 있는 악성 코드를 실행할 수 있게 합니다.

취약점은 ansi2html.py 파일에서 ANSI 이스케이프 코드를 HTML로 변환하는 과정에서 발생하는 XSS(크로스 사이트 스크립팅) 취약점에서 비롯되었습니다. 공격자는 이 취약점을 악용하여 빌드 로그에 특정 문자열을 삽입함으로써, 해당 로그를 보는 모든 브라우저에서 페이로드를 실행하도록 유도할 수 있습니다.

이러한 공격은 builds.sr.ht와 같은 시스템에서 빌드 작업을 실행하는 방식으로 이루어질 수 있으며, 공격자는 계정 정보가 포함된 빌드 로그를 통해 사용자 세션을 탈취하거나 악성 파일을 다운로드할 수 있습니다. 해당 취약점은 약 4년 5개월 동안 해결되지 않고 남아 있었으며, 개발자들이 빌드 로그를 관리하고 시스템을 감사할 때 보안상의 위험이 있음을 시사합니다.

Looks promising for document editing with your agent

Paper Office는 에이전트가 워드, 파워포인트, 엑셀 파일을 안전하고 정확하게 조작할 수 있도록 돕는 파이썬 패키지 모음입니다. 이 패키지는 기존의 오픈 소스 라이브러리인 python-docx, python-pptx, OpenPyxl을 기반으로 구축되었으며, 에이전트 기반 사용 사례에 맞게 API를 개선하여 정확성과 기능 범위를 확장했습니다.

기존의 표준 라이브러리들은 수년간의 누적된 예외 상황을 가지고 있지만, 많은 중요한 워크플로우에서 기능의 폭과 정확성 계약이 부족하여 에이전트가 인간처럼 문서를 편집하는 방식과 동일한 기술을 적용할 때 결과물이 만족스럽지 않거나 사소한 오류가 발생했습니다. 특히 DOCX, PPTX, XLSX 파일이 OOXML이라는 구조를 가지므로, 작은 변경도 여러 곳에 영향을 미치며 관계를 일관되게 유지하는 것이 중요합니다.

Paper Office는 이러한 문제를 해결하기 위해 문서 전체 검색, 추적된 편집, 리뷰 해결 및 주석 스레드 관리와 같은 기능을 추가했습니다. 실제 실험 결과, Paper 패키지는 업스트림 패키지보다 92.5%의 테스트를 통과했으며, 이는 소프트웨어가 지식 노동 문제에 대한 에이전트 성능을 개선하는 중요한 동력이 됨을 보여줍니다.

이러한 개선 사항은 에이전트가 파일 내부의 논리적 객체를 찾고 서식과 관계를 유지하면서 변경 사항을 적용하며, 직렬화 과정에서 모든 것이 보존되도록 보장하는 데 필수적입니다. 결과적으로 에이전트가 문서 편집 시 발생하는 조용한 회귀 현상을 방지하고 최종 사용자에게 적합한 결과물을 제공할 수 있게 됩니다.

FLEET: From Logits Entropy to Enhanced Trajectories in Text Generation

거대 언어 모델(LLM) 기반 솔루션은 정확도와 안정성을 높이기 위해 온도 샘플링(temperature sampling)을 사용하지만, 이는 이전 생성물과 평가에 대한 인식이 부족한 메모리 없는 접근 방식이어서 샘플을 늘릴수록 의미적으로 중복된 답변이 증가하고 효율성이 감소하는 한계를 가집니다. 이러한 한계를 해결하기 위해 본 연구는 생성 과정에 메모리 메커니즘을 통합하는 새로운 방법인 FLEET을 제안합니다.

FLEET은 각 생성을 미리 정의된 임계값을 초과하는 엔트로피를 가진 상태를 통과하는 희소 궤적(sparse trajectory)으로 표현하며, 이 궤적을 사용하여 토큰별 유틸리티 점수를 추론하고 이를 로짓(logits)에 조정합니다. 이 방법을 통해 FLEET은 반복 샘플링 기준과 동일한 정확도를 달성하면서도 속도는 3배 향상시켰습니다.

특히 복잡한 코딩 작업에서 FLEET은 주목할 만한 성능 향상을 보였는데, 동일한 예산 내에서 LiveCodeBench Pass@32 점수가 59.9%에서 66.2%로 크게 개선되었습니다. 또한, 탐욕 디코딩(greedy-decoding) 구성에서 이 접근 방식은 결정론적이며 단일 보정 패스만으로 주요 하이퍼파라미터를 도출할 수 있어 기존 LLM 파이프라인에 최소한의 수정만으로 통합이 가능합니다.

Six Layers Less: Encoder Pruning for Whisper with Label-Free Recovery

Whisper와 같은 대규모 사전 학습된 트랜스포머 기반 ASR 모델에서 디코더를 가지치기(pruning)하는 것이 전체 전사 속도를 크게 향상시켰습니다. 예를 들어, whisper-large-v3-turbo 모델은 디코더 레이어를 32개에서 4개로 줄였으며, Distill-Whisper는 디코더를 2개로 줄이는 데 성공했습니다. 하지만 인코더 크기를 줄이는 접근 방식은 커스텀 추론 구현의 필요성 때문에 널리 채택되지 못했습니다.

본 연구에서는 인코더 레이어를 워드 오류율(WER) 변화를 기준으로 순위를 매겨 변화가 가장 적은 여섯 레이어를 제거하는 방법을 제시합니다. 이로 인해 인코더 스택의 18.5%가 제거되었으며, 결과적으로 별도의 커스텀 추론 코드가 필요 없는 더 얕은 인코더 모델이 탄생했습니다.

추가적으로 레이어 가지치기에서 발생하는 성능 저하를 복구하기 위해 레이블 없는 단일 언어 음성 데이터를 사용하여 증류(distillation)를 수행했습니다. 이 과정을 통해 네 가지 언어에 걸친 평균 WER은 제로샷(zero-shot) 방식의 21.9%에서 증류 후 20.1%로 증가했으며, 이는 기준선인 18.2%보다 높은 수치입니다.

연구팀은 코드와 가지치기된 모델을 공개했으며, 관련 내용은 GitHub와 Hugging Face에서 확인할 수 있습니다.

Uranus: Building the Next-Generation Simulation Infrastructure for Embodied AI

로봇 데이터 생성, 정책 훈련, 평가 및 안전한 반복을 위해서는 확장 가능한 시뮬레이션이 필수적이지만, 실제 상호작용은 비용이 많이 들고 기존 시뮬레이터는 구축에 많은 노력이 필요합니다. 이에 저자들은 관절 궤적 조건화 자기회귀 확산 모델을 기반으로 데이터 주도 로봇 시뮬레이터인 우라누스(Uranus)를 제시합니다.

우라누스는 세 가지 주요 기능을 제공합니다. 첫째, 스트리밍 및 개방형 롤아웃 기능을 통해 미래 관절 위치 궤적을 온라인으로 받아 고정된 지평선 없이 한 단계당 하나의 잠재 프레임을 생성하며 네 개의 RGB 프레임을 생성합니다. 둘째, 추론 최적화를 통해 24 FPS를 달성하는 낮은 지연 시간 생성을 구현합니다. 셋째, 다양한 로봇 형태와 카메라 구성을 아우르는 동기화된 다중 뷰 생성을 위한 통합 인터페이스를 제공하며 확장 가능하고 확장성이 뛰어난 로봇 제어를 가능하게 합니다.

연구진은 우라누스에 대해 분포 내 및 분포 외 데이터 모두에 대해 포괄적인 정량적 및 정성적 평가를 수행하여 객관적인 평가와 현재 한계를 명확히 식별했습니다. 이들은 실용적인 도구와 통찰력을 커뮤니티에 제공하기 위해 코드와 모델 가중치를 공개했습니다.

All modalities are equal, but video is more equal: Closing the Cross-Attention Gap in Joint Video Generation

영상은 외관, 기하학, 움직임, 시간적 진화를 포착하는 풍부한 표현입니다. 반면 3차원 신체 움직임이나 오디오와 같은 다른 양식들은 동일한 사건의 더 좁은 측면만을 인코딩합니다. 연구진은 공동 멀티모달 확산 트랜스포머가 상호 모달 대응에서 비대칭성을 보인다는 것을 발견했습니다. 즉, 동반되는 양식들은 영상과 강한 대응 관계를 형성하지만, 영상을 제약하는 상호 대응 관계는 상당히 약하다는 것입니다.

연구진은 이러한 양방향 대응을 영상 토큰에 대한 비교 가능한 분포로 표현하고 그 불일치를 상호 대응 격차로 정의했습니다. 이를 해결하기 위해 RecCAR(Reciprocal Cross-modal Attention Regularization)라는 KL 정규화 기법을 도입했습니다. RecCAR는 확립된 영상-양식 대응 관계를 고정 참조로 사용하여 약한 양식-영상 대응 관계를 이 참조에 맞추어 정렬합니다.

이 방법을 적용하여 공동 영상-움직임 및 영상-오디오 생성 작업에서 RecCAR는 성능을 크게 향상시켰습니다. 구체적으로 인체 해부학 점수를 0.69에서 0.75로 개선했으며 오디오-영상 비동기화를 0.804에서 0.752로 줄였습니다. 이는 전체적인 생성 품질을 향상시키는 결과로 이어졌습니다.

EmbodiedSWE: Coding Agents for Long Horizon Dexterous Robotics

장거리 목표를 가진 정교한 로봇 공학을 위한 코딩 에이전트를 연구하며, 이들의 해결책이 일반적인 로봇 정책 학습을 위한 확장 가능한 감독(supervision)을 제공할 수 있는지 탐구했습니다. 이를 검증하기 위해 접촉이 풍부한 조작, 변형 가능한 객체, 그리고 최대 30분의 연속 상호작용이 필요한 장거리 작업까지 포괄하는 시뮬레이션 벤치마크인 EMBODIEDSWE-BENCH를 개발했습니다.

연구 결과, 최전선 코딩 에이전트는 복잡한 장거리 작업을 해결할 수 있으며, 이러한 해결책을 서로 다른 작업과 구현체 간에 전이시킬 수 있음을 발견했습니다. 하지만 도출된 해결책들은 상당한 반복 상호작용을 필요로 하며 개별 작업 인스턴스에 특화되어 있다는 한계가 있습니다.

따라서 연구진은 단일 코딩 에이전트의 해결책을 대규모 다양하고 다양한 궤적으로 확장하여 VLA(Vision-Language Agent)를 훈련시키는 EMBODIEDSWE-GEN을 도입했습니다. 이 방법을 통해 생성된 시연이 많아질수록 VLA의 성능이 향상되고, 에이전트 지원 분산(agent-aided diversification)은 홀드아웃 작업 변이에 대한 일반화 능력을 개선했습니다.

나아가, 코딩 에이전트가 생성한 시뮬레이션 데모만을 사용하여 미세 조정된 VLA가 실제 로봇에서 장거리 작업을 완료할 수 있음을 보여주었습니다. 이 프레임워크는 코딩 에이전트를 사용하여 복잡한 로봇 작업을 해결하고 검증된 해결책을 로봇 정책을 위한 확장 가능한 감독으로 전환하는 것을 목표로 합니다.

Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents

에이전트 메모리 시스템은 과거 경험을 재사용하여 성능을 개선하지만, 기존 설계 방식은 메모리를 쓰기 시점에 정리하는 방식에 의존합니다. 이는 작업이 완료된 후 그 궤적을 반성, 워크플로우, 기술 등의 고정된 결과물로 압축하여 유사성을 통해 검색하는 방식으로 이루어집니다. 이 방식은 미래의 질의가 알려지기 전에 무엇을 기억할 가치가 있는지 시스템이 결정하게 만들어 정보를 비가역적으로 버리고 여러 잠재적인 다운스트림 작업에 사용되어야 하는 질의 독립적인 요약을 생성하게 됩니다.

이러한 쓰기 시점 정리 방식은 저장 결정의 가치가 관련 질의가 도착했을 때, 때로는 훨씬 나중에 나타날 수 있어 장기적인 신용 할당 문제(long-horizon credit-assignment problem)를 야기하기 때문에 학습하기가 어렵습니다. 대신 연구진은 원시 궤적(raw trajectories)을 보존하고 현재 작업이 알려지는 읽기 시점(read time)까지 정리를 연기하는 방식을 채택했습니다. 메모리 정리자는 검색된 흔적과 새로운 작업을 바탕으로 즉각적인 필요에 맞춘 작고 작업 적응형 페이로드(task-adaptive payload)를 합성합니다.

이러한 읽기 시점 정리 방식은 정리자가 즉각적인 작업 성공으로부터 직접 훈련될 수 있게 하여 지연된 유틸리티 신호와 관련 작업을 인위적으로 그룹화할 필요가 없다는 장점이 있습니다. ALFWorld, WebShop, τ^2-bench 등 여러 벤치마크에서 제시된 Just-in-Time Memory(JitMem)는 메모리가 없는 에이전트뿐만 아니라 휴리스틱 및 학습된 쓰기 시점 메모리 방식보다 일관되게 우수한 성능을 보였습니다.

JitMem은 가장 강력한 기준선 대비 각각 16.2, 16.3, 3.9 절대 성공률 포인트만큼 성능을 향상시켰습니다. 특히, 훈련되지 않은 정리자조차도 이러한 기준선과 경쟁하거나 능가한다는 점은 작업 적응형 읽기 시점 정리가 성능 향상의 주요 원천임을 보여줍니다. 따라서 정리자를 추가로 훈련하는 것은 성능 개선을 더욱 증폭시킬 수 있습니다.

The Past Frames the Future: Memory for Autoregressive Video Generation

생성 모델의 발전으로 비디오 충실도가 향상되었지만, 오토회귀(AR) 비디오 생성은 생성 시퀀스가 확장됨에 따라 엄격하게 제한된 컨텍스트 창, 저장 공간, 계산 한계 내에서 작동해야 하는 근본적인 병목 현상이 발생합니다. 이로 인해 엔티티의 정체성, 동적 상태, 개입으로 인한 인과적 변화와 같은 중요한 역사적 정보가 관련성이 감소하기 훨씬 전에 활성 컨텍스트에서 사라지는 문제가 발생합니다. 이러한 시간적 지속성을 유지하는 것이 AR 비디오 생성의 근본적인 메모리 문제입니다.

본 논문은 AR 비디오 생성에서의 메모리 메커니즘에 대한 체계적이고 포괄적인 검토를 제시하며, 메모리를 외부 AR 단계에 걸쳐 유지되는 지속적인 역사 정보로 공식화합니다. 이는 원본 증거가 더 이상 국소적으로 접근 불가능하더라도 미래 생성을 영향받을 수 있도록 합니다. 연구는 메모리 메커니즘을 다섯 가지 관점, 즉 역사(Forms), 기능(Functions), 작동(Operations), 학습(Learning), 평가(Evaluation)로 조직하여 메모리 기반 비디오 생성 시스템을 위한 구조적 토대를 마련합니다.

연구는 컴포저블하고 자원 인식 메모리 아키텍처, 신뢰할 수 있는 상태 업데이트, 자기 롤아웃 학습, 표준화된 평가와 같은 열린 과제들을 종합합니다. 이 논문은 표현, 메커니즘, 학습 패러다임을 연결함으로써 신뢰할 수 있고 메모리 조건화된 비디오 생성 시스템을 개발하기 위한 기반을 제공합니다.

InternW0: A Foundational Physical World Model for Efficient Real-World Interactions

상하이 AI 연구소에서 개발한 InternW0은 효율적인 실제 상호작용을 위한 기초적인 물리 세계 모델로 소개됩니다. 이 모델은 부분적인 관찰과 외부 영향 하에서 국소적인 물리 모델링을 기반으로 하며, 옴니모달 인터페이스, 비동기 다중 주파수 처리, 그리고 물리적 모델링을 중심으로 구축되었습니다.

InternW0은 흐름 일치(flow matching)를 사용한 비대칭 비디오-행동 아키텍처를 통해 미래 시각 역학(visual dynamics)과 연속적인 로봇 제어를 공동으로 학습합니다. 고용량 비디오 전문가가 장기 예측 컨텍스트를 제공하는 동시에 경량 행동 전문가가 더 빠른 시간 척도로 작동합니다. 모델은 매 행동 업데이트마다 미래를 재생성하는 대신, 레이어별 K/V를 재사용하고 관찰 조건부 컨텍스트 라우팅을 통해 새로 관찰된 상태에 적응시킵니다.

이 모델은 이질적인 신체 구현을 지원하는 도메인별 인터페이스와 소프트 프롬프트를 포함하며, 접촉에 민감한 후처리 과정에서 힘 및 촉각 신호를 통합하여 접촉이 풍부한 조작을 가능하게 합니다. InternW0은 에고랩(EgoLab)과 같은 275시간의 실제 실험실 에고센트릭 데이터와 약 7,200시간의 이질적인 로봇 및 에고센트릭 데이터를 사용하여 훈련되었습니다.

평가는 시뮬레이션 벤치마크와 실제 과학적 작업에서 이루어졌는데, 여기에는 15단계의 금속-유기 골격 합성 워크플로우와 범용 정량 피펫팅을 위한 5단계의 접촉 및 힘 인식 정밀 조작이 포함됩니다. 이러한 결과는 보편적이고 효율적인 실제 상호작용을 위한 확장 가능하고 비동기적이며 과학 중심적인 물리 세계 모델을 발전시킵니다.

WhatWorkedBench: Benchmarking Experimental Understanding in AI Agents

AI 연구 에이전트가 실험 결과 변화에 대해 신뢰할 수 있는 지식을 갖도록 WhatWorkedBench를 소개합니다. 이 벤치마크는 예산된 실험 후 구성 요소 변화에 대한 예측 정확도를 측정하여 실험적 이해도를 평가합니다. 에이전트는 코드를 검사하고 측정값을 선택한 후 구성 요소 설정의 모든 조합에 대한 점수를 예측하는 반응 표면을 제출합니다.

이 벤치마크는 각 구성 요소를 고정하면서 변화시키는 참조 효과를 제공하는 포괄적인 CPU 실행을 통해 얻은 효과를 포함합니다. 이는 30개의 데이터 소스와 8가지 워크플로우 유형에서 36개 작업에 걸친 변화 조합과 1248개의 구성 기록을 포착합니다. 핵심 평가는 8개 가족에 걸친 4,206개의 수치 제어 기록과 원래 6개 에피소드의 108개 에이전트 에피소드를 결합하여 수행되었습니다.

이 연구는 가우시안 프로세스(GP)를 에이전트 관찰에 피팅함으로써 효과 회수 및 실제 효과 크기에 대한 정확도를 높이는 데 기여합니다. 원래 플래시 코호트에서는 0.632에서 0.698로, 추가 코호트에서는 0.621에서 0.720으로 정확도가 향상되었습니다. 또한, 6개의 완료된 비트 감지 및 그래프 제출에서 가족-매크로 회수율이 0.303에서 0.455로, 20개의 새로운 측정값과 6개의 이진 옵션을 가진 워크플로우에서 GP 회수율이 0.248에서 0.462로 증가했습니다.

WhatWorkedBench는 실험 에이전트, 적응형 실험 설계, 수치 추론, 프로그램 구조 사용에 대한 연구를 지원합니다.

Verifiable Hidden Dynamics Play: Generating Agentic RL Environments from Solved Mechanisms

언어 모델 에이전트는 상태 변화, 상호 의존적인 결정, 지연된 결과가 있는 장기 과제에 직면해 있습니다. 이러한 에이전트를 확장하기 위해서는 다양한 환경, 신뢰할 수 있는 결과 신호, 그리고 낮은 확장 비용이 필요합니다. 기존 생성 파이프라인은 환경을 먼저 구성한 후 결과 규칙이나 궤적을 주석 처리하며, 역학 및 평가는 사후에 정렬하는 방식으로 진행되어 동역학과 평가가 후행적으로 처리되었습니다.

VHD-Play는 이러한 의존성을 뒤집어, 코퍼스 기반 설정자가 의사 결정 과정을 상태 기반 도구로 표현하도록 하여 수학적 모델을 샘플링하고 해결하는 방식으로 접근합니다. 이 파이프라인은 동일한 해결된 모델에서 실행 가능한 동역학과 궤적 점수 참조를 상속받습니다. 이 과정을 통해 몇 센트의 비용으로 3,300개의 다양한 에이전트 환경을 생성할 수 있습니다.

세 가지 패밀리에 걸쳐 Qwen3.6-35B-A3B를 훈련했을 때 평균 에이전트 점수는 0.204에서 0.815로 상승했습니다. 이러한 이점은 훈련 패밀리에서 제외된 인스턴스와 여덟 개의 보지 못한 메커니즘 패밀리에서도 나타났으며, 일반적인 함수 호출, 여행 계획, 365일 전자상거래와 같은 외부 벤치마크로도 확장되었습니다. 특히 전자상거래 벤치마크에서 훈련된 체크포인트는 모든 실행에서 파산하지 않고 Qwen3.7-Max를 초과 달성했습니다.

비교 결과, 학습 가능한 격차의 대부분은 근본적인 문제 해결보다는 상태 기반 상호작용에 있다는 것을 보여줍니다. 또한, 고정된 35B 설정자는 더 큰 환경을 실현하며, 메커니즘 크기와 수평적으로 조정된 훈련은 메커니즘 크기와 지평이 증가함에 따라 이득을 유지하는데, 이는 진화하는 훈련 기질의 잠재력을 시사합니다.

Hunyuan-A13B Technical Report

텐센트 팀이 Mixture-of-Experts 아키텍처를 기반으로 하는 오픈소스 대규모 언어 모델인 Hunyuan-A13B를 발표했습니다. 이 모델은 총 800억 개의 파라미터를 가지고 있지만 추론 시에는 130억 개의 파라미터만 활성화하여 모델의 성능과 계산 효율성, 배포 비용 사이의 균형을 맞추었습니다.

Hunyuan-A13B는 사실 신뢰도와 추론 능력을 향상시키기 위해 엄격하게 필터링된 20조 토큰 코퍼스를 기반으로 학습되었으며, 고품질 지도 미세 조정과 대규모 강화 학습을 통해 성능이 더욱 향상되었습니다. 특히 이 모델은 작업 복잡도에 따라 추론 깊이를 조정하는 이중 모드 사고의 연쇄 사고(Chain-of-Thought) 프레임워크를 도입하여 일상적인 질의에는 빠른 사고를, 복잡한 다단계 문제에는 느린 사고를 적용할 수 있습니다.

평가 결과에 따르면 Hunyuan-A13B는 수학, 과학, 프로그래밍, 일반 언어 이해 및 에이전트 작업 전반에서 경쟁력 있는 성능을 보이며 훨씬 더 큰 모델에 근접합니다. 또한 높은 추론 처리량 덕분에 지연 시간에 민감한 애플리케이션에 적합하며, 연구와 실용적인 LLM 배포를 지원하기 위해 공개되었습니다.

MemBodied: Recurrent Associative Memory for Vision-Language-Action Models

비전-언어-행동 모델은 로봇 제어를 위한 강력한 기반을 제공하지만, 대부분의 정책은 현재 관측을 넘어 에피소드 수준의 정보를 보존하고 활용하지 못합니다. 이러한 한계는 과거 관측에 의존하는 역사 의존적 조작 작업에서 특히 문제가 되는데, 과거 정보를 컨텍스트에 유지하면 컨텍스트가 불필요하게 커지고 추론 지연 시간이 증가하는 심각한 비용이 발생합니다.

이에 연구진은 고정 크기의 에피소드 메모리인 MemBodied를 제안하며, 이는 정책 호출 전반의 상호작용을 기록하는 연관 상태(associative state)와 초기 장면의 압축된 표현을 참조로 보존하는 에피소드 앵커(episode anchor)라는 두 가지 구성 요소로 이루어져 있습니다. 모델은 각 정책 호출 시 과거 관측을 직접 사용하는 대신 현재 입력과 메모리 구성 요소를 기반으로 행동 생성을 조건화합니다.

다섯 가지 평가된 메모리 요구 RMBench 작업에서 MemBodied는 상태 없는 정책의 평균 성공률보다 7.81배, 순수한 순환 메모리보다 2.98배 높은 성공률을 달성했습니다. 또한, 가장 강력한 메모리 증강 기준선보다 1.3배 우수하면서도 추가된 파라미터는 10배 적습니다. 완전히 관측 가능한 LIBERO-Long 테스트에서는 90.6%의 성공률을 기록하며 상태 없는 $\pi_0$ 정책보다 5.4% 향상되었습니다.

이러한 결과는 MemBodied가 역사 의존적 조작을 위해 정책 컨텍스트를 확장하는 실용적인 대안임을 뒷받침합니다.

How we made claude.ai 3x faster in two weeks

Claude.ai의 핵심 사용자 경험과 데스크톱 앱을 2주 만에 3배 빠르게 만든 방법을 공개합니다. 개발팀은 사용자들의 피드백에 따라 성능 개선에 집중했으며, 웹과 데스크톱 앱 전반에 걸쳐 13가지 측정 항목을 통해 개선 작업을 진행했습니다.

이 개선 작업은 앱 실행, 대화 시작, 대화 로드, 메시지 전송 등 95%의 사용자 활동을 구성하는 네 가지 핵심 여정에 초점을 맞추어 진행되었습니다. 그 결과, 평균적으로 3.1배 빠른 속도를 달성했으며, 예를 들어 웹에서 앱 새로고침 시간은 3,085밀리초에서 550밀리초로 82% 빨라졌습니다. 이러한 개선은 사용자들의 대기 시간을 크게 줄여 매일 수만 시간의 대기 시간을 절약하는 효과를 가져왔습니다.

팀은 Claude Tag(베타)를 사용하여 내부 연구 모델을 구동하고, 병목 현상을 식별하며, 개선 사항을 배포하는 순환 구조를 구축했습니다. 특히 스트리밍 렌더러를 재구축하고 완료된 블록을 메모이제이션하며 토큰화 로직을 워커로 이동시키는 등의 기술적 조치를 통해 성능을 극대화했습니다.

현재 Claude.ai와 데스크톱 앱은 이전보다 3배 빨라졌지만, 여전히 95번째 백분위수와 매우 긴 대화와 같은 영역에서 추가적인 개선 여지가 남아 있습니다. 개발팀은 앞으로도 이러한 방식으로 한 스레드씩 개선을 이어갈 계획입니다.

Gemini 3.8 text-to-speech says hello

구글 딥마인드가 Gemini 3.8 Flash TTS와 Gemini 3.8 Flash-Lite TTS라는 가장 표현력이 풍부한 오디오 생성 모델을 출시했습니다. 이 모델들은 사용자가 자연어 프롬프트를 통해 완전히 새로운 목소리를 생성하거나 기존 목소리를 복제할 수 있게 하며, 연기 지침, 속도, 억양, 감정 톤까지 세밀하게 제어하여 실제 사람과 같은 대화와 장면 대화를 구현할 수 있게 합니다.

개발자들은 Gemini API와 Google AI Studio를 통해 이러한 고성능 음성 생성 경험을 쉽게 구축하고 배포할 수 있습니다. 특히 Gemini 3.8 Flash TTS는 게임, 몰입형 오디오북, 팟캐스트 등 다양한 미디어에서 캐릭터를 생생하게 구현하는 데 중점을 두며, Gemini Notebook과 Google Vids와 같은 제품군에서 사용자 경험을 개선하는 데 활용됩니다.

이 새로운 TTS 모델들은 고품질 오디오북, 팟캐스트 제작은 물론, 대규모 실시간 음성 에이전트 구축에 활용될 수 있습니다. 또한, Figma, HeyGen 등 다양한 파트너사들이 이 모델들을 통합하여 글로벌 더빙 및 지역별 억양을 반영한 미디어 현지화에 활용하고 있습니다.

구글은 이러한 음성 생성에 안전한 워터마킹과 같은 안전 기능을 내장하여 오디오가 책임감 있게 사용되도록 보장하고 있습니다. 개발자들은 Gemini API를 통해 이 모델들을 활용하여 혁신적인 오디오 솔루션을 개발할 수 있습니다.

수학과 인공지능 자문그룹

AI 기업과 수학계의 소통 및 연구 결과의 책임 있는 발표와 공개를 자문하는 독립 그룹이 프린스턴 인스티튜트 포 어드밴스드 스터디(Institute for Advanced Study)를 거점으로 출범했습니다. 이 그룹은 인공지능 기술 발전 과정에서 수학적 연구 결과가 어떻게 조율되고 공개되어야 하는지에 대한 기준을 제시하는 역할을 수행합니다.

현재 이 그룹은 OpenAI가 내부 모델로 산출했다고 밝힌 다수의 중요한 수학 연구 결과를 어떻게 조율하여 공개할지에 대한 방안을 논의하고 있습니다. 이는 AI 모델의 기반이 되는 수학적 근거의 투명성과 책임성을 확보하는 데 중점을 둡니다.

이러한 자문 그룹의 설립은 AI 개발 과정에서 수학적 엄밀성과 공개의 책임성을 높이는 데 기여할 것으로 기대됩니다. AI 기업과 수학계 간의 소통을 촉진하여 연구 결과가 더욱 책임감 있게 발표되고 공유될 수 있는 환경을 조성하는 것이 주요 목표입니다.

TechCrunch Founder Summit’s agenda revealed: Unlock fundraising, hiring, and AI insights in Boston on November 4

테크크런치 창업자 서밋이 11월 4일 보스턴에서 개최되며 스타트업 성장에 필요한 핵심 인사이트를 제공합니다. 이 행사는 창업 과정의 어려움을 줄이고 성공의 기회를 극대화하기 위해 투자자와 창업자들로부터 직접적인 경험과 지식을 공유하는 데 중점을 둡니다. 참가자들은 수개월의 시행착오 대신 투자 유치, 채용, AI 전략 등 핵심 분야에 대한 실질적인 가이드를 얻을 수 있습니다.

이번 서밋에서는 자금 조달 전략부터 리더십 구축, 그리고 AI 기반 기업을 만드는 방법까지 광범위한 주제가 다뤄집니다. 투자 유치 환경에서 창업자가 주목해야 할 지표와 실수를 피하는 방법, 그리고 기업의 성장에 맞춰 리더십을 발전시키는 과정에 대한 구체적인 사례를 배울 수 있습니다. 특히 AI가 제품의 기반이 되는 AI 네이티브 기업을 구축할 때 팀 구조와 운영 전략을 어떻게 재고해야 하는지에 대한 심도 있는 논의가 예정되어 있습니다.

또한, 자본 평가와 채용에 대한 실질적인 조언도 제공됩니다. 투자자를 평가하고 캡테이블을 구축하는 과정에서 고려해야 할 상충되는 요소들을 탐색하며, 조직의 문화와 실행력을 높이는 효과적인 채용 전략을 모색할 수 있습니다. 이러한 세션들은 단순히 이론을 넘어 실제 스타트업이 시장에서 성공하고 지속 가능한 성장을 이루기 위한 실용적인 프레임워크를 제시합니다.