읽을 가치가 있는 기사만, 짧고 또렷하게.

LLM의 답변에 의존할 때 사용자는 답변자의 전문성뿐만 아니라 자신의 우려 사항이 AI에게 제대로 전달되었는지까지 신뢰하기 어려워지고 있습니다. 이는 질문자가 특정 분야의 지식을 기대하거나 필요한 일을 진행하기 위해 사람을 거치는 이유와 대비됩니다.

사람에게 질문하는 행위는 해당 분야의 지식을 기대하거나 필요한 작업을 진행하기 위해 그 사람을 거쳐야 하기 때문에 이루어집니다. 반면, LLM은 지식 전달의 도구로 사용되지만, 답변의 신뢰성 측면에서는 인간과의 상호작용과는 다른 맥락을 가집니다.

따라서 LLM의 답변을 활용할 때는 단순히 정보의 정확성뿐만 아니라 질문자의 의도와 맥락이 AI에 정확하게 반영되었는지에 대한 비판적인 검토가 필요합니다. AI는 지식 전달의 효율성을 높이지만, 인간과의 소통에서 발생하는 전문성과 맥락 전달의 복잡성을 완전히 대체하기는 어렵습니다.

코드 리뷰 도구인 Flirt가 오픈소스로 공개되었습니다. 이 도구는 커밋을 계속 수정하고 리베이스하며 강제 푸시하는 패치 시리즈 워크플로에 최적화되어 개발자들이 효율적으로 코드 리뷰를 진행할 수 있도록 설계되었습니다.

Flirt의 핵심 기능은 이전에 리뷰했던 내용을 기억하고 현재 상태와의 차이를 명확하게 보여주는 것입니다. 이를 통해 개발자는 변경 사항을 추적하고 이전 작업과의 맥락을 쉽게 파악할 수 있습니다.

또한 Flirt는 로컬 우선(local-first) 도구로 설계되어 데이터 보안과 작업 흐름의 유연성을 보장합니다. 개발자는 자신의 환경에서 안전하게 코드를 관리하면서 강력한 리뷰 기능을 활용할 수 있습니다.

Deno에서 Node.js로 돌아와 개발을 진행한 결과, 최신 JavaScript 문법과 내장 API가 크게 개선되었다는 점이 확인되었습니다. 특히 `require()` 구문 없이도 개발이 가능해졌으며, 이는 Deno를 계속 사용했던 이유가 습관과 익숙함에 가까웠음을 시사합니다.

이러한 변화는 개발 환경 간의 API 및 문법 차이가 실제 프로젝트에 미치는 영향을 보여줍니다. Deno 기반의 정적 사이트 생성기를 Node 환경으로 옮기는 과정에서 파일 시스템 API와 같은 부분에서 변화가 발생하며 개발자가 환경 전환 시 고려해야 할 사항들이 생깁니다.

결론적으로, 개발자는 단순히 도구를 바꾸는 것을 넘어 각 환경에서 제공하는 내장 API의 개선 사항을 이해하고 적용해야 합니다. 이러한 변화를 인지하고 적용하는 것이 효율적인 개발 환경을 구축하는 데 중요합니다.

제너레이티브 AI가 교육을 혁신할 수 있다는 주장에 대한 대규모 실험 결과가 제시되었습니다. 2026년 8월, 18개 테네시 중학교에서 진행된 2년간의 클러스터 무작위 실험에서, 학생들은 기존의 일일 보충 수학 시간에 Khan Academy와 AI 튜터 Khanmigo를 사용했습니다. 이 실험 결과, AI 튜터의 사용이 수학 성취도를 향상시켰는데, 학기별로 수학 성취도가 1.3 국가 백분위 등급만큼 상승했으며, 이는 학년 동안 약 0.14 표준편차의 효과를 보였습니다.

이러한 성취도 향상은 AI의 도움 없이 Khan Academy 연습을 했을 때의 결과와 유사했습니다. 하지만 연구진은 학생들이 Khanmigo를 충분히 활용하지 않았다는 점을 발견했습니다. 학생들은 AI 튜터를 최소 한 번 사용했지만, 수학적 대화에 적극적으로 참여하는 경우는 드물었고, 실수했을 때도 17%의 연습 세션에서만 상호작용을 보였습니다.

결과적으로 AI 튜터링의 잠재력을 실현하기 위해서는 단순히 접근성을 제공하는 것을 넘어 학생들의 참여를 유도하는 것이 핵심이라는 점이 드러났습니다. 즉, AI 교육 기술이 교육에 혁신을 가져오기 위해서는 학생들의 실제 사용과 참여를 이끌어내는 것이 가장 중요한 제약 조건이 됩니다.

클로드(Claude)가 구글 문서, 스프레드시트, 프레젠테이션에 직접 통합되어 작업할 수 있는 기능이 베타로 공개되었습니다. 이 새로운 애드온과 커넥터를 통해 사용자는 별도의 앱 전환 없이 클로드 내에서 파일을 열고 직접 편집할 수 있습니다. 예를 들어 구글 문서에서는 문장의 수정이나 제목 스타일 변경을 즉시 적용할 수 있으며, 요약본을 다듬거나 다음 단계를 표로 정리하는 등 복잡한 문서 작업을 수행할 수 있습니다.

구글 스프레드시트에서는 클로드가 수식 작성, 피벗 테이블 및 차트 생성, 새 탭 추가를 지원하며, 데이터 정리나 조인을 위해 데이터를 파이썬으로 추출하고 결과를 시트에 다시 작성하는 작업도 가능합니다. 또한 구글 슬라이드에서는 기존 레이아웃과 테마를 기반으로 새 슬라이드를 만들고, 슬라이드 내의 요소가 겹치거나 가독성이 떨어지는 부분을 자동으로 확인하여 수정할 수 있습니다.

작업 방식은 사용자가 선택할 수 있습니다. 기본 모드인 ‘수정 전 질문하기’ 모드에서는 모든 변경 사항이 승인 카드 형태로 나타나 사용자의 승인을 기다리며, ‘모든 수정 수락’ 모드에서는 클로드가 작업을 중단 없이 자동으로 적용합니다. 엔터프라이즈 및 팀 플랜에서는 구글 드라이브 커넥터를 통해 세일즈포스나 구글 드라이브의 계정 기록을 가져오거나, 보안 및 규정 준수 기능(Compliance API 등)을 활용하여 파일 편집을 수행할 수 있습니다.

흐름 모델과 확산 모델은 계산 비용이 많이 드는 수치 적분 때문에 추론 속도가 느린 문제가 있습니다. 이를 해결하기 위해 학생 모델이 교사 모델의 동역학으로부터 학습하여 단일 또는 소수의 단계로 생성할 수 있는 증류(Distillation) 방법이 유망합니다. 하지만 기존 방법들은 정제된 증류 데이터셋, 비용이 많이 드는 교사 실행, 또는 보조 프록시 네트워크에 의존하여 모델 훈련과 확장성을 복잡하게 만듭니다.

본 논문에서는 이러한 문제를 해결하기 위해 시뮬레이션이 필요 없고 데이터가 필요 없는 증류 방법인 일관 분포 매칭(Consistent Distribution Matching, CDM)을 제안합니다. 핵심 아이디어는 샘플 생성과 점 추정(score estimation)을 단일 학생 네트워크로 통합하는 것입니다. 이 프레임워크는 고정된 교사 모델과 훈련 가능한 학생 모델, 단 하나의 목적 함수만을 사용하여 효율성을 극대화합니다.

연구진은 목적 함수를 최소화하는 것이 학생의 흐름-맵 푸시포워드(flow-map pushforwards)가 교사 마진(teacher marginals)로 와서(Wasserstein) 수렴함을 증명했습니다. ImageNet 256x256 데이터셋에서 이 방법은 40 에포크 훈련 후 단일 함수 평가(1-NFE)로 FID 2.04, 4-NFE FID 1.37을 달성하며 데이터 없이도 기존 증류 기준선보다 우수한 성능을 보였습니다. 이 연구의 코드와 모델은 https://consistentdmd.github.io/에서 공개되어 있습니다.

소프트웨어 엔지니어링(SWE) 분야에서 에이전트가 장기적인 상호작용을 통해 추론하고 도구를 사용하며 상태 변화에 적응해야 하는 것은 어려운 장기 목표 설정 환경입니다. 기존의 그룹 상대 정책 최적화(GRPO)와 같은 강화 학습 방법은 여러 궤적을 독립적으로 샘플링하고 결과를 비교하지만, 실패한 패치에서 얻은 검증기 피드백을 후속 시도의 맥락으로 재사용하지 못한다는 한계가 있습니다. 이는 실패 시 발생한 진단 정보를 활용하지 못한다는 의미이며, 복구 궤적을 학습하는 데 어려움이 따릅니다.

이에 연구진은 복구 시도를 정책 학습에 통합하는 실패 조건화 강화 학습 프레임워크인 FC-SWE를 제안했습니다. FC-SWE는 패치가 검증에 실패했을 때 저장소 상태를 원래대로 복원하고 실패한 패치와 검증기 피드백을 복구 궤적의 맥락으로 활용합니다. 이 프레임워크는 두 가지 메커니즘을 통해 GRPO를 조정합니다. 하나는 각 시도의 검증 결과를 보존하는 궤적 국소 보상이며, 다른 하나는 동일한 이슈에 대해 실행된 모든 초기 및 복구 궤적을 비교 그룹으로 설정하여 실패 시도들을 포함시키는 활성 집합 이점 추정입니다.

이러한 접근 방식은 500개의 SWE-bench 검증된 작업에서 GRPO 대비 향상된 성능을 보였습니다. Qwen3.5-4B 모델과 SWE-agent를 사용한 FC-SWE는 Resolved@1에서 41.7%, Resolved@2에서 52.8%의 성공률을 달성했습니다. 특히 최대 두 번의 시도만으로 학습되었음에도 불구하고, FC-SWE는 11회의 시도 예산 하에서 Resolved@11에서 70.7%라는 높은 결과를 기록했습니다.

비전-언어-행동(VLA) 모델은 시각 관찰과 언어 지시를 연속적인 로봇 행동으로 매핑하는 작업을 수행합니다. 그러나 많은 연속 행동 VLA 모델들은 장면과 지시를 설명하는 표현에서 행동 생성을 지원하는 표현으로의 전환을 암묵적으로 처리하며, 주로 최종 행동 예측 손실을 통해 이를 감독합니다. PAIR은 이러한 두 공간 사이에 공유된 지각-행동 표현을 학습하는 프레임워크를 도입하여 이 전환을 명시적으로 학습합니다.

훈련 과정에서 PAIR은 마스크된 행동 오토인코더를 사용하여 전문가 행동 청크를 시간적으로 정렬된 행동 잠재 토큰으로 인코딩하고, 브릿지 모듈을 통해 현재 시각-언어 표현에서 작업 관련 특징을 추출합니다. 이후 PAIR은 이러한 특징을 행동 잠재 토큰과 정렬하여 작업 정보를 보존하고 전문가 행동의 구조를 포착하는 브릿지 토큰을 형성합니다. 이 브릿지 토큰은 행동 토큰 공간으로 투영되어 초기 행동 토큰에 주입되어 행동 전문가 정제를 위한 행동 준비된 시작점을 제공합니다.

실제 실험 결과, PAIR은 LIBERO-Plus 모델에서 VLA-Adapter의 성공률을 59.1%에서 64.2%로 높였으며, CALVIN 환경에서 VLA-Adapter의 평균 완료 시퀀스 길이를 4.42에서 4.53으로 증가시켰습니다. 또한, 일곱 가지 실제 작업에서 OpenVLA-OFT의 성공률을 51.4%에서 65.0%로 향상시켰습니다. 이러한 결과는 브릿지 토큰이 작업 정보를 유지하면서 연속 행동 정보를 행동 전문가 정제 이전에 접근 가능하게 함을 보여주며, 연속 행동 VLA에서 지각과 행동 사이의 유용한 인터페이스로서 공유 중간 표현의 가치를 뒷받침합니다.

인간 비디오는 휴머노이드 학습을 위한 풍부한 동작 목표를 제공하지만, 시각적으로 그럴듯한 참조는 물리 기반 실행 시 지속적인 실패를 유발할 수 있습니다. 이러한 실패는 훈련 감독이 어디에서 변경되어야 하는지를 보여줍니다. 본 논문은 실행 피드백을 사용하여 비디오 기반 휴머노이드 동작 추적을 개선하는 정책 내 루프(policy-in-the-loop) 프레임워크인 MimicX를 제시합니다.

MimicX는 재구성 및 리타겟팅된 동작에서 시작하여 어려운 전환과 영향을 받은 신체 영역을 특정하고, 정책 연속을 위한 추적 목표와 리셋 커리큘럼을 공동으로 조정합니다. 반복적인 롤아웃 검증을 통해 추적 가드(tracking guards) 하에서 실행 우선순위 개선을 선택합니다.

네 가지 핵심 비디오 작업에서 MimicX는 고정 참조(Fixed Reference) 기준선 대비 추적 정확도와 견고한 실행 지평(Robust Execution Horizon)을 일관되게 향상시켰습니다. 작업 평균 결과는 신체 추적 오류를 25.7% 감소시키고 실행 지평을 255.6% 증가시켰습니다.

MimicX는 핵심 작업 외에도 추가 비디오, 동작 참조, 충돌 장면 연구를 통해 방법론을 평가했으며, MimicX-HLoop는 이질적인 실행을 통해 피드백을 가속화합니다. 궁극적으로 MimicX는 정책 실패를 수정할 내용을 결정하고 어떤 개선 사항을 유지할지 결정하는 실행 가능한 감독으로 전환합니다.

본 논문은 경험 추적을 통해 임체화된 에이전트(embodied agent)의 하네스(harness)를 최적화하는 EMHO(Embodied Agent Harness Optimization)라는 자체 진화 프레임워크를 제안합니다. 이 방법은 임체화된 모델 자체는 고정시킨 채 실행 궤적과 이전 하네스 기록을 분석하여 하네스를 반복적으로 수정함으로써, 에이전트가 실패나 비생산적인 행동에서 벗어나 환경을 해석하고 상호작용하는 방식을 근본적으로 개선합니다.

EMHO는 단순한 기술이나 복구 프롬프트 수준을 넘어, 에이전트가 진행 상황을 모니터링하고 시각 도구를 사용하며 관찰을 근거화하고 실패에 반응하는 방식을 수정하는 데 중점을 둡니다. 또한, 단일 하네스를 여러 하위 작업에 걸쳐 지원하기 위해 에피소드별 이득과 손실을 사용하여 수정된 행동이 언제 어떻게 적용되어야 하는지를 증거 기반으로 정제하는 EMHO-Merge를 도입했습니다.

이 프레임워크를 내비게이션 및 조작 작업에 대해 EmbodiedBench에서 평가한 결과, EMHO는 Qwen 9B와 27B 모델 모두에서 작업 성공률을 일관되게 향상시켰습니다. 정성적 분석 결과는 EMHO가 단순히 실패에서 회복하는 것을 넘어, 임체화된 에이전트가 환경을 해석하고 상호작용하는 방식을 재구성한다는 점을 보여줍니다.

3D 가우시안 스플래팅(3DGS) 연구의 급속한 성장에 따라 논문을 기반으로 구현하는 작업에 상당한 노력이 요구되고 있습니다. 이에 연구진은 일반적인 논문-코드 변환 방법이나 최신 모델들이 실패하는 상황을 해결하기 위해 SPLATIFY라는 멀티 에이전트 프레임워크를 소개합니다. SPLATIFY는 3DGS 논문을 학습 가능한 gsplat 기반 구현으로 변환하는 것을 목표로 합니다.

SPATIFY는 다섯 가지 혁신을 통해 이 목표를 달성합니다. 첫째, gsplat에 대한 문법을 사용하여 손실, 밀도화, 렌더링, 최적화에 대한 확장 지점을 갖는 모듈형 방법 템플릿을 구축함으로써 생성된 코드가 gsplat의 구조적 불변성을 만족하도록 제약합니다. 둘째, 충실한 재현을 위한 구조적 요소들로 포크 인식 인용 복구, 위상적 의존성에 따른 그래프-오브-사고 합성, 20개 이상의 검증된 구현체로부터 RAG 기반 인컨텍스트 예제 선택, 그리고 PSNR 기반 재생성 및 가우시안 수준 구조 확인을 결합한 시각적 피드백 등을 제공합니다.

또한, SPLATIFY는 기존 결과보다 성능을 개선하기 위해 약점과 상보적인 정규화 기법을 자율적으로 찾는 지식 기반 구성 개선 방법을 포함합니다. 나아가, 3DGS 문헌 외의 물리적 사전 지식을 검색하고 렌더링 지식과 결합하여 이전에 다루지 않았던 장면 유형에 대한 방법을 생성하는 학제 간 방법 발견을 수행합니다.

마지막으로 SPLATIFY-Bench라는 평가 프레임워크를 통해 30개의 다양한 3DGS 논문을 평가합니다. 공개된 코드가 없는 논문에서도 SPLATIFY는 전문가 구현체와 일치시키며 개발 시간을 몇 주에서 몇 분으로 단축합니다. 구성적 발견을 통해 PSNR을 최대 2.4dB까지 추가로 개선할 수 있으며, SPLATIFY는 볼류메트릭 성운 렌더링과 같은 다른 과학 분야의 방법도 완전히 합성할 수 있음을 입증합니다.

자동화된 연구 시스템에서 LLM 에이전트가 장기간에 걸쳐 작동할 때, 단순히 추론을 늘리는 것만으로는 진전이 이루어지지 않는 문제가 제기되었습니다. 에이전트들은 점점 커지는 기록을 반복하거나, 다른 작업의 결과물을 복제하거나, 토큰 소비가 계속되는 동안 실험을 중단하는 등의 실패 모드를 보입니다. 이러한 실패는 연구 상태가 어디에 위치하며 다음 실험을 누가 결정하는지에 대한 두 가지 선택에서 비롯됩니다.

이 문제를 해결하기 위해 연구팀은 상태 없는 언어 에이전트(Stateless Language Agents, SLA)를 도입했습니다. SLA는 상태 있는 검색 원칙을 기반으로 하며, 에이전트가 호출을 넘나들며 대화 기록을 유지하지 않고, 대신 전체 연구 상태(후보 솔루션 및 측정 결과)를 관리하는 하네스가 각 호출마다 새롭고 역할에 특화된 컨텍스트를 재구성합니다. 각 에이전트가 보는 정보는 실행이 진행됨에 따라 늘어나는 기록이 아니라 명시적인 설계 선택이 됩니다.

이 SLA 프레임워크를 통해 상태 없는 조언자(Advisor)가 검색 방향에 걸친 증거를 읽고 병렬 작업자(Worker)에게 구체적인 실험을 할당하여 연구를 진행합니다. 이 방법은 소프트웨어 엔지니어링, 커널 최적화, 알고리즘 설계 분야에서 최대 10억 토큰 예산까지 평가되었으며, SLA는 모든 작업에서 최고의 최종 결과를 달성했습니다. 특히 SLA는 가장 강력한 커널 기준선 성능에 도달하는 데 있어 84% 적은 토큰을 사용했습니다.

이러한 결과는 지속적인 연구 상태를 에이전트 대화에서 분리하는 SLA의 중요성을 입증하며, 짧은 평가 범위가 연구 시스템과 그 구성 요소를 잘못 판단할 수 있음을 보여줍니다. 또한, 공유 체크포인트에서 얻은 제거 실험 결과에 따르면, 집중된 컨텍스트와 명시적인 할당이 SLA의 진전에 기여하며, 이는 전체 실행에서 효과가 누적될 수 있습니다.

멀티모달 대규모 언어 모델은 시각 이해의 주류 패러다임이 되었지만, 입력을 밀도 높은 고정 크기 패치 토큰으로 인코딩하여 상당한 비용이 발생합니다. 시각 정보는 균일하게 분포되어 있지 않아 일부 영역은 세밀한 디테일을 요구하는 반면 다른 영역은 압축된 표현을 허용합니다. 기존의 다운샘플링 방식은 이 디테일을 희생시키며, 현재의 토큰 가지치기 및 적응적 접근 방식은 콘텐츠 적응적 세분성, 작업 일반화, 그리고 최신 MLLM 및 서빙 인프라와의 통합 측면에서 한계가 있습니다.

이러한 한계를 극복하기 위해 시각 표현을 할당하는 세부 수준과 범위를 학습하는 새로운 능력인 탄력적 시각 표현 엮기(elastic visual representation weaving)를 제안합니다. VisionWeave는 대규모 훈련을 통해 이러한 능력을 최첨단 MLLM에 확립하며, 이는 게이티드 공간 풀러와 세분성 라우터를 결합하여 공유 MRoPE 좌표 내에서 거친 세부 표현과 네이티브 세부 표현을 동시에 구축하고 콘텐츠 적응적으로 할당합니다.

VisionWeave는 Qwen3.5-4B 모델에서 자체 증류만으로 이 능력을 검증했으며, Qwen3.8-27B 모델에 확장하여 30K A100 GPU-시간으로 훈련했습니다. 이 모델은 시각 콘텐츠에 따라 토큰 절약을 적응적으로 조정하여 평균적으로 43.0%의 토큰을 절약하면서도 여덟 가지 벤치마크에서 네이티브 성능의 98.9%를 유지했습니다. 이는 고정된 50% 절약을 목표로 하는 토큰 가지치기 기준선(88% 성능 유지)보다 훨씬 우수한 결과입니다.

또한 SGLang 서빙 엔진에 배포했을 때 VisionWeave는 평균 처리량(throughput)을 2.3배 향상시키고 평균 TTFT를 54.4%, 평균 TPOT를 60.6% 감소시켰습니다. 이러한 결과는 탄력적 시각 표현 엮기가 차세대 멀티모달 모델을 위한 유망한 능력임을 입증합니다.

대규모 언어 모델(LLM)과 비전-언어 모델(VLM)은 배포 후 보통 고정되어 해결한 사례로부터 학습하지 못하는 한계가 있습니다. 특히 의학 분야에서는 새로운 임상 증거와 가이드라인이 지속적으로 업데이트되므로, 모델을 업데이트하려면 모델 가중치 접근 및 추가 훈련이 필요합니다. 기존의 파라미터 없는 방법들은 훈련을 피할 수 있지만, 고정된 검증 세트에 과적합되거나 도메인 지식이 부족해지거나 시각적 세부 정보를 잃을 수 있다는 문제가 있습니다.

이러한 한계를 해결하기 위해 연구진은 고정된 LLM과 VLM이 배포 경험으로부터 학습할 수 있도록 하는 모델 불가지론적 프레임워크를 제시했습니다. 이 프레임워크는 세 가지 형태의 외부 전문 지식을 통해 학습을 가능하게 하는데, 이는 추론 및 도구 사용을 안내하는 기술, 이전 사례나 신뢰할 수 있는 외부 증거로 뒷받침되는 사실을 저장하는 지식 메모리, 그리고 시각적 예시를 보존하고 각 검색된 사례를 현재 이미지와 연결하도록 안내하는 멀티모달 지식 기반으로 구성됩니다.

새로운 검증 전략은 이전 사례의 성능을 저하시키지 않으면서 새로운 사례에만 도움이 될 경우에만 업데이트를 수행하여 고정된 검증 세트에 의존하는 문제를 피합니다. 이 프레임워크는 임상 진단, 임상 워크플로우, 의학적 추론 및 의료/비의학 시각 추론을 포함하는 여섯 가지 벤치마크에서 네 가지 오픈 소스 및 클로즈 소스 기반 모델을 사용하여 성능을 개선했습니다.

그 결과, 이 프레임워크는 의료 작업에서 기본 모델 대비 최대 34.2%의 성능 향상을 보였으며, 보지 못한 사례에 일반화되고 추가 최적화 없이 다른 모델로 전이될 수 있습니다. 또한 이 방법은 비의학 도메인에서도 작동하여 모델의 유연성을 입증합니다.

거대 언어 모델(LLM)이 임상 추론 및 환경 문서화 지원에 점점 더 의존함에 따라 환자 대화에 포함된 부수적인 정보가 모델의 성능과 임상적 추론에 미치는 영향을 조사했습니다. 576건의 환자-의사 대화 분석 결과, 최첨단 모델은 노트의 35%에 사적인 잡담을 삽입했으며, 이는 5점 척도에서 평균 품질 점수를 최대 0.20점까지 변화시켰습니다.

또한, 최첨단 노트 중 3.7%에서는 모델이 부수적인 발언을 잘못 귀속시키거나 임상적으로 사용했습니다. 별도의 모의 상담 녹음 57건에서는 다른 환자 상담의 배경 음성(-10dB)이 48.2%의 녹취록으로 누출되었으며, 이는 네 개의 오픈 웨이트 모델이 생성한 다운스트림 노트의 5.3%에서 오염이 감지되었습니다.

연구진은 LLM 내에 임상 추론과 방해(distraction)라는 이중 인코딩 가설을 제시하며, 부수적인 정보로 인한 혼란과 관련된 LLM 구성 요소가 임상 추론을 지원한다는 예비 증거를 발견했습니다. 이러한 발견은 임상 사용 전에 부수적인 정보에 대한 저항성을 평가하고, 임상 추론을 보존하면서 오염을 방지하는 안전장치를 마련해야 함을 시사합니다.

GPU 병렬 시뮬레이션은 풍부한 로봇 상호작용을 제공하지만, 기존 벤치마크들은 이 규모를 이질적인 조작 작업과 표준화된 다중 작업 강화 학습 평가와 결합하는 데 어려움을 겪고 있습니다. 이에 연구진은 40개의 이질적인 작업을 포괄하는 GPU 병렬 Isaac Lab 벤치마크인 Hebero(Heterogeneous Benchmark for Robot Learning)를 제안하여 단일 정책의 효율적인 공동 훈련 및 평가를 가능하게 했습니다.

또한, 희소 보상과 제한된 시연을 사용하여 학습할 수 있도록 Demonstration-Guided Policy Optimization(DGPO)을 제안했습니다. 이 프레임워크는 시연을 밀집 추적 보상과 비대칭 가치 학습에 재사용하며, PPO 내에서 학습자별 시연 인터페이스를 통제하여 비교할 수 있는 공유 스택을 제공합니다. DGPO 내에서 도입된 IW-ABC는 작업 진행 상황을 활용하여 적응형 행동 복제(ABC)를 조정하고, PPO 업데이트에서 지연되는 작업에 중요도를 부여하는 중요도 가중치(IW)를 사용하여 행동 복제를 지원합니다.

이러한 방법론을 통해 IW-ABC는 작업당 50개의 시연을 사용하여 상태 입력 평균 성공률 90.1%를 달성했으며, 이는 가장 강력한 기준선인 FAMO-ABC보다 7.8%p 높은 수치입니다. 시각적 대응물은 평균 성공률 93.5%에 도달했습니다. 실제 실험에서는 시뮬레이션에서 훈련된 단일 다중 작업 정책이 물리적인 Piper 로봇에서 네 가지 작업을 성공적으로 수행함을 입증했습니다.

확산 대규모 언어 모델(DLLM)은 반복적인 블록 디노이징을 통해 텍스트를 생성하며, 다중 브랜치 추론을 통해 이 과정을 가속화할 수 있습니다. 기존의 DLLM 가속 방법들이 디노이징 단계 간의 시간적 중복성(temporal redundancy)을 활용했다면, 본 연구는 추론 검증 단계 내에서 다중 브랜치 계산 중복성(multi-branch computational redundancy)이라는 보완적인 중복성 축을 식별했습니다. 이는 추론 시 드래프트 브랜치들이 부모로부터 대부분의 토큰을 상속받으면서도 히든 스테이트가 브랜치 간에 매우 유사하게 유지된다는 점을 이용합니다.

연구진은 이러한 다중 브랜치 중복성을 활용하여 다중 브랜치 추론 검증의 비용을 줄이는 알고리즘-시스템 공동 설계를 제안하며 이를 SpecFold라고 명명했습니다. SpecFold는 토큰 수준의 잔차 게이팅을 수행하고 접힌 어텐션 및 FFN을 통해 부모 계산을 선택적으로 재사용하면서 잔차 히든 스테이트를 보존하는 방식으로 작동합니다. 시스템적으로는 이 미세한 재사용을 효율적인 희소 다중 브랜치 실행을 통해 엔드투엔드 처리량 이득으로 전환하는 Triton 커널 구현을 통해 구현되었습니다.

SpecFold는 시간적 캐싱과 독립적이며 기존의 DLLM 추론 전략과 호환됩니다. 실험 결과, SpecFold는 두 종류의 DLLM 패밀리, 다섯 가지 모델, 그리고 다섯 가지 표준 벤치마크에서 Spiffy 대비 최대 1.64배, 일반 디코딩 대비 최대 1.99배의 처리량 향상을 달성하면서도 동등한 작업 성능을 유지했습니다.

최근 AI 시스템은 잘 정의된 지표가 주어졌을 때 과학적 발견에서 빠른 진전을 보였지만, 자율적인 개방형 과학 발견을 수행할 수 있는지에 대해서는 여전히 불분명합니다. 연구진은 여러 에이전트가 과학 생태계를 시뮬레이션하는 개방형 환경인 스테이션(Station)에서 AI의 능력을 탐구했습니다.

개방형 작업의 어려움을 해결하기 위해 연구진은 스테이션에 감독 메커니즘(Supervisor mechanism)과 주기적인 메타 반성(Meta Reflection)이라는 두 가지 메커니즘을 추가하여 중간 지표가 부족하더라도 지속적인 탐색을 장려했습니다. 이 에이전트들에게는 ICLR에서 발표된 세 편의 최근 논문을 바탕으로 한 연구 질문만 제공하고 결과와 웹 접근 권한은 차단했습니다.

그 결과, 스테이션은 평균적으로 기준의 62.7%를 재발견하는 것으로 나타났으며, 이는 Codex Multiagent-v2의 15.4%와 AI Scientist-v2의 14.4-20.6%보다 훨씬 높은 수치입니다. 또한 이 두 메커니즘을 함께 적용했을 때 연구 범위와 연속성이 향상됨을 확인했습니다.

나아가, 오라클 논문 없이 두 가지 개방형 작업에 대해 스테이션을 평가했을 때, 에이전트들이 내린 발견 중 일부가 지식 차단 시점 이후 연구자들이 보고한 발견과 매우 유사하다는 것을 발견했습니다. 이는 적절한 환경이 에이전트가 개방형 과학 발견에서 의미 있는 진전을 자율적으로 이룰 수 있도록 가능하게 함을 시사합니다.

그래프 신경망(GNN) 훈련 시 희소 그래프(sparse graph)를 사용하면 계산량을 줄일 수 있지만, 어떤 엣지를 유지할지 결정하는 것이 비용이 많이 듭니다. 특히 희소 그래프를 재사용하는 것은 비용이 저렴하지만 훈련을 고정된 위상에 묶어두며, 에포크별로 이를 변화시키려면 반복적인 샘플링이나 재계산이 필요합니다.

이에 본 논문은 한 번의 구조 추출과 에포크별 그래프 구성을 분리하는 Edge-Disjoint Subgraph sparsification framework, 즉 EDiS를 제안합니다. EDiS는 그래프를 캐시 가능한 엣지 분리 부분 그래프로 한 번 분해한 다음, 에포크 전반에 걸쳐 엣지 예산 제약과 유지 비율을 만족하는 그래프로 재결합합니다. 이 과정에서 구조를 다시 추출할 필요 없이 효율적인 훈련이 가능합니다.

제안된 방법은 특징 기반 점수와 연속적인 최대 점수 덮는 포레스트를 사용하여 기본 구조를 구성하지만, 대체 엣지 선택 규칙도 지원합니다. 또한, 에포크별 훈련 그래프를 캐시된 분해에서 추출하는 샘플러와 구성 단계에 대한 조합적 분석을 제공합니다. 이 분석 결과, 기본 덮는 포레스트 선택자 하에서 저장된 분해는 고점 컷 엣지를 결정론적으로 보존하며, 구성된 훈련 그래프에서 고점 컷의 생존에 대한 선택자 독립적인 조건적 경계를 도출했습니다.

이러한 EDiS 방법은 19가지 동형 그래프, 이형 그래프, 대규모 노드 분류 벤치마크에서 17가지 기준 모델과 동일한 엣지 예산 하에서 가장 높은 평균 벤치마크 점수(정확도/ROC-AUC)를 달성했습니다. 추가 분석 결과는 엣지 예산이 엄격할 때 구조 분해와 에포크 변화가 가장 큰 이점을 제공함을 보여줍니다.

거대 언어 모델이 점점 더 높은 이해관계가 걸린 결정에 정보를 제공함에 따라, 개별 답변을 얼마나 신뢰할 수 있는지에 대한 질문이 중요해지고 있습니다. 언어 모델은 유창한 설명과 권위 있는 어조로 잘못된 결론을 제시할 수 있어, 불확실성을 인식하고 답변을 보류하는 것이 어려워집니다. 불확실성 정량화는 이러한 괴리를 해소하기 위해 개별 예측의 신뢰도를 추정하고자 합니다.

기존의 불확실성 측정 방법들은 반복적인 생성이나 별도의 학습된 구성 요소를 필요로 하며, 불확실성이 어디서 발생하는지 또는 추론 과정에서 어떻게 변화하는지를 보여주지 못하는 한계를 가지고 있습니다. 최근 연구들은 생성 길이와 불확실성 추정치 및 정확도 간의 연관성을 보여주었으며, 이는 추정치의 예측력이 출력 길이보다는 불확실성 특이적 정보에서 얼마나 오는지에 대한 의문을 제기합니다.

이러한 한계를 극복하기 위해 기계적 해석 가능성(mechanistic interpretability)을 활용하여 중간 모델 상태와 인간이 해석할 수 있는 개념을 연결하는 방법이 제시되었습니다. 이를 바탕으로 연구진은 모델의 변화하는 불확실성을 측정하고 해석할 수 있는 저차원 부분 공간인 U-Space를 도입했습니다. 이 방법은 불확실성과 확실성의 의미적 닻을 식별하고 이를 잔차 공간으로 매핑하여 직관적인 토큰 수준 불확실성 맵을 생성합니다.

U-Space는 정확도 레이블, 반복적인 생성, 또는 학습 없이 작동하며, 추론 벤치마크 전반에서 표준 및 길이 제어 평가 모두에서 기존 기준선보다 높은 신뢰도를 보였습니다. 이 접근 방식은 지도 학습 기반 추정치보다 더 안정적으로 불확실성을 전달하며, 모델의 불확실성을 직접 검사하거나 스칼라 불확실성 점수로 집계할 수 있게 합니다.