읽을 가치가 있는 기사만, 짧고 또렷하게.

단백질 시퀀스와 구조 생성에서 자기회귀 트랜스포머는 여전히 비교적 취약하다는 연구 결과가 나왔습니다. 연구진은 목표 표현의 역할을 탐구하며, 아미노산 토큰은 문맥적 의미 없이 잔기 정체성을 인코딩하는 반면, 골격 좌표는 이 프레임워크에서 이산적인 표현을 필요로 한다고 주장합니다.

이를 위해 연구진은 두 가지 학습된 잠재 단백질 언어인 단백질 잠재 언어(PLL)와 구조 잠재 언어(SLL)를 도입했습니다. PLL은 ESM-2 인코더를 기반으로 4,096 상태의 문맥 알파벳으로 시퀀스를 매핑하며, SLL은 보조 시퀀스 및 신뢰도 감독을 통해 GCP-VQVAE Lite를 조정하여 골격 좌표로 디코딩을 유지합니다. 이 두 언어를 사용하여 PLLM과 SLLM을 사전 학습한 후, 자기회귀 트랜스포머 모델에 적용했습니다.

PLLM은 아미노산 자기회귀 모델에 비해 계산 확장 지수(compute-scaling exponent)가 0.038로, 0.020인 기존 모델보다 우수한 성능을 보였습니다. 또한, SLL을 사용하여 시퀀스-구조 예측 시 토크나이저를 대체했을 때 학습된 검증 불확실성(perplexity)이 34% 감소했습니다. 장기 단백질의 경우 잠재 토큰 샘플링은 MSA 기반 AlphaFold2보다 약 1,000배 빨랐으며, SLLM의 내부 토큰 신뢰도를 추론 시 활용하면 단일 디코딩 샘플을 넘어 시퀀스-구조 예측 품질을 향상시킬 수 있다는 초기 결과도 관찰되었습니다.

이러한 연구 결과는 학습된 잠재 단백질 언어가 단백질 생성에서 자기회귀 트랜스포머의 확장성과 추론 시간 샘플링을 위한 유망한 기반임을 시사합니다.

인간-사물 상호작용에 대한 생성 모델은 데이터의 제약에 의해 제한되는데, 대부분의 데이터셋은 다중 객체를 한 번에 포착하는 것이 조합적으로 비용이 많이 들기 때문에 개별 객체를 한 번에 기록합니다. 연구진은 상호작용이 국소적이라는 관찰을 바탕으로 단일 객체 캡처만으로도 다중 객체 활동의 일부를 포함하고 있다고 보았습니다.

이러한 단일 캡처들을 접촉 일관성, 손의 균형 맞추기, 신체 간 이동 등을 통해 구성하며, 언어 모델과 기하학적 검사를 사용하여 의미론적, 물리적으로 타당한 쌍만을 허용합니다. 이 방법은 데이터셋이 시간 기록이 아닌 클립을 통해 조합적으로 성장하도록 하며, COSMI 데이터셋은 최대 다섯 개의 객체를 포함하여 222k개의 시퀀스와 275시간의 데이터를 보유하고 있습니다.

COSMI 데이터셋은 기존의 최대 다중 객체 캡처보다 약 30배 많은 양이며, 추가적인 데이터셋이나 손-객체 기록을 통해 확장될 수 있습니다. 연구진은 이 데이터에서 텍스트-상호작용 확산 트랜스포머(text-to-interaction diffusion transformer)인 COSMI 방법을 훈련시켰으며, 이는 신체 부위에 상대적으로 예측되는 객체를 생성합니다.

이 모델은 보지 못한 객체와 상호작용 조합에 대한 벤치마크에서 일반화되며, 텍스트 정렬 및 접촉 정확도에서 기존 모델들을 능가합니다. 특히 보지 못한 객체에 대해서는 그 차이가 가장 크게 나타나며, 코드, 모델, 데이터 파이프라인은 프로젝트 페이지에서 공개됩니다.

기존 스트리밍 비전-언어 모델(VLM)은 시각 스트림을 지속적으로 인식하고 추론하지만, 추론 과정에서 계산 경로가 고정되어 있어 변화하는 장면 역학에 맞춰 계산을 적응시킬 수 없습니다. 따라서 서로 다른 미래 사건이 요구하는 인식 수준과 형태에 따라 계산을 동적으로 조정할 수 없습니다.

본 논문은 스트리밍 VLM이 즉각적인 미래를 예측하는 능력을 내재하고 있음을 보이며, 이 능력을 활용하여 훈련 없이 미래 계산을 동적으로 구성할 수 있음을 제시합니다. 이러한 예측 계산을 실현하기 위해서는 미래 예측이 계산을 안내하기에 충분히 신뢰할 수 있어야 하고, 계획 수립은 스트리밍 추론과 동시에 실행되어야 하며, 온라인 재구성 오버헤드는 무시할 수 있어야 하는 어려운 과제가 있습니다.

이러한 문제를 해결하기 위해 연구진은 공유 가중치, 입력 인코더, KV 캐시를 가진 두 개의 Siamese LLM으로 구성된 듀얼 스트림 아키텍처인 FORESIGHT를 도입했습니다. 이 구조에서 첫 번째 LLM은 들어오는 토큰을 지속적으로 처리하는 반면, 두 번째 LLM은 스트림보다 앞서서 미래 컨텍스트를 예측하고 미래 계산을 계획하며 스트리밍 추론을 중단하지 않고 응답을 생성합니다. 결과적으로 계산 계획은 스키마 기반 디코딩과 경량 차분 업데이트를 통한 효율적인 재구성 프로토콜을 통해 온라인으로 실행되어 낮은 오버헤드로 동적 적응을 가능하게 합니다.

고정된 Qwen3-VL-8B 백본을 사용하여 구현된 FORESIGHT는 OmniPro Online 평가에서 23.0의 평균 공동 F1 점을 달성하며 가장 강력한 훈련 기반 기준선보다 9.5% 높은 성능을 보였습니다. 또한 StreamingBench에서는 6.7, OVO-Bench에서는 15.4의 성능 향상을 기록했으며, 특히 증거가 비디오 스트림에서 더 늦게 도착할 때 최대 18.7의 이득을 얻었습니다. 연구진은 소스 코드를 공개할 예정입니다.

이미지-텍스트 정렬 문제는 캡션 평가, 환각 탐지, 데이터 큐레이션, 텍스트-이미지(T2I) 생성 모델 벤치마킹 등 컴퓨터 비전 분야의 핵심 과제입니다. T2I 모델이 발전함에 따라 누락된 객체, 속성 교체, 잘못된 수량, 부정어 무시와 같은 미묘한 문제들을 찾아낼 수 있는 벤치마킹 지표가 요구되고 있습니다.

기존 접근 방식들은 한계가 있습니다. 선호 데이터로 평가자를 미세 조정하는 방식은 특정 백본과 훈련 분포에 묶여 있으며, 전체적인 지표는 세부 사항을 놓치고, 분해된 지표는 고정된 '예' 가정에 의존하여 충실한 이미지를 불이익을 주는 문제가 있습니다.

이에 본 연구는 고정 참조 답변을 이미지 기반 답변과 캡션 기반 답변 간의 예상 일치도로 대체하고, 캡션이 질문을 얼마나 결정적으로 결정하는지에 따라 질문에 가중치를 부여하는 훈련 불필요 지표인 DEPICT를 제안합니다. 이 방법을 통해 부정어 정확도를 19%에서 88%로 향상시켰으며, 분해 과정에서 손실된 맥락을 복구하기 위해 이 일치도 점수를 전체 지표와 결합했습니다.

DEPICT는 다섯 개의 벤치마크와 열한 개의 백본을 평가하여 모든 훈련 불필요 지표를 능가하고 세 가지 인간 상관관계 벤치마크 중 두 가지에서 미세 조정된 평가자들을 능가하는 결과를 보였습니다.

분할 학습(Split learning)은 클라이언트가 텍스트를 전송하지 않고 서버에서 언어 모델을 훈련할 수 있게 하는 방식입니다. 이 과정에서 클라이언트는 첫 번째 레이어들을 직접 실행하고 각 토큰에 대한 숫자 벡터를 서버에 보냅니다. 서버는 훈련 과정에서 기울기(gradients)를 다시 클라이언트에게 보냅니다. 연구 결과, 이 통신 트래픽을 관찰하는 공격자가 이 정보로부터 클라이언트의 텍스트 대부분을 재구성할 수 있으며, 기울기가 이 재구성 능력에 얼마나 기여하는지 측정했습니다.

GPT-2 모델에서 공격자는 클라이언트 레이어의 공개된 가중치만 가지고 활성화 값(activations)만으로 토큰의 94.20%를 복구할 수 있었습니다. 여기에 기울기 정보까지 추가하면 97.38%의 토큰을 복구할 수 있으며, 이는 활성화 값만 사용할 때보다 3.17퍼센트 포인트 더 높은 수치입니다. 문서 단위로 계산했을 때, 기울기가 없을 때는 32개 토큰 문서의 13.71%만 정확히 복구할 수 있었으나, 기울기를 사용하면 37.77%를 복구할 수 있어 문서 단위의 차이가 훨씬 커집니다.

보안 방책으로 각 출력 벡터에 위장 값(decoy)을 혼합하는 '시크릿 믹스업(Secret mixup)' 기법을 사용하면 공격자가 거의 모든 문서를 정확히 재구성하는 것을 막을 수 있지만, 여전히 83~91%의 토큰을 복구할 수 있습니다. 또한, GPT-2와 Qwen3-0.6B 실험에서는 서버가 연속된 레이어 런만 훈련할 때, 런이 시작되는 레이어가 모델 품질과 누출에 모두 영향을 미치는 것으로 나타났습니다.

따라서 분할 모델이 전송하는 정보를 텍스트 자체만큼 민감하게 취급하고, 토큰별 및 문서별로 누출량을 보고해야 합니다. 이러한 세부 정보를 통해 모델의 보안 취약점을 더 정확하게 평가하고 방어할 수 있습니다.

인텐트 기반 오픈 RAN 환경에서 RAN 지능형 컨트롤러(RIC) 루프 내에서 인텐트를 A1 정책으로 변환하는 해석기가 필요합니다. 기존의 의사결정 모델인 Jev-1.13.0은 타입이 지정된 정책 필드를 반환하는 반면, 생성형 대규모 언어 모델(LLM)은 정책 토큰을 순차적으로 생성합니다. 연구는 LLM의 추가 지연 시간이 제어 마감 기한, RIC 용량 또는 무선 성능에 미치는 영향을 비교했습니다.

연구 결과, LLM을 사용한 해석기는 A1 및 E2 전송에 필요한 25ms 미만의 속도와 비교했을 때 해석에 0.286초에서 2.35초가 소요되었습니다. Jev-1.13.0은 99.8%의 호출에 대해 1초의 준실시간 예산을 충족했지만, 두 개의 호스팅된 LLM은 17.9%와 0%에서만 이 예산을 충족했습니다.

무선 네트워크 측면에서 이상적인 집행은 각 인텐트가 요청하는 방향으로 서비스 수준 계약(SLA) 위반을 3.96퍼센트포인트 이동시켰으나, 기본 지점에서는 업데이트가 없었습니다. 호스팅된 LLM은 Jev-1.13.0보다 해당 지점에서 해결된 증가를 보이지 않았습니다. 또한 느린 해석기는 1초 예산을 놓치고 두 개의 해석기는 초당 2개의 인텐트로 큐를 포화시켰습니다.

결론적으로 느린 해석기는 기본 지점에서 무선 페널티를 해결하지 못했으며, 이는 제어 시스템의 실시간 제약 조건과 무선 성능 간의 균형을 고려해야 함을 시사합니다.

최신 자기회귀(AR) 비디오 확산 모델은 짧은 시간 동안의 비디오 생성에는 탁월하지만, 색상과 질감이 변화하고 움직임 역학이 감소하는 드리프트(drifting) 문제로 인해 긴 비디오를 생성하는 데 어려움을 겪습니다. 기존 연구들은 드리프트를 완화하기 위해 캐시된 키-값(KV) 엔트리를 선택하거나 수정하는 KV 조건화(KV conditioning)에 주로 의존해 왔습니다.

하지만 KV 조건화만으로는 충분하지 않으며, 캐시된 KV 엔트리가 분포 내(in-distribution)에 남아있다는 가정을 전제로 합니다. 이 가정은 훈련 범위를 넘어설 때 실패하는데, 롤아웃 과정에서 KV 엔트리 구성에 대한 제약이 없기 때문에 캐시된 엔트리 자체가 분포 외(out-of-distribution, OOD)가 되는 KV-출처(KV-provenance) 문제가 발생합니다.

이 문제를 해결하기 위해 본 연구는 테스트 시간 프레임워크인 인-디스트리뷰션 포싱(In-Distribution Forcing, ID-Forcing)을 제안합니다. 이 방법은 KV 캐싱과 KV 조건화를 훈련 구성과 일치시키며, 핵심 메커니즘인 셀프 캐싱(self-caching)을 통해 출처에서 OOD KV 엔트리를 방지합니다. 각 청크는 이전 KV 엔트리에 의존하지 않고 캐시되어 롤링 윈도우를 정확히 분포 내에 유지합니다.

그 결과 ID-Forcing은 짧은 시간 모델을 분 단위 비디오 생성으로 원활하게 확장할 수 있게 되었습니다. 광범위한 평가 결과, 이 방법은 표준 비디오 생성 벤치마크에서 경쟁력을 유지하면서 드리프트를 완화하는 데 있어 기존 연구보다 훨씬 뛰어난 성능을 보였으며, 드리프트 측정 지표와 사용자 연구를 통해 그 효과가 입증되었습니다.

언어 모델은 긴 텍스트를 단일 이차 순방향 패스로 읽어내며, 컨텍스트 창에 도달하기 전에 정확도가 떨어지는 문제가 있습니다. 이 문제를 해결하기 위해 훈련 없이 추론을 수행하는 방법인 Periscope가 제안되었습니다. Periscope는 텍스트의 N개 청크를 KxK 격자에 배열하고, 고정된 모델에게 K개의 국소 스팬과 K개의 스트라이드 스팬에 대해 동일한 질문을 던져 모든 답변의 로그 오즈를 한 토큰당 읽어냅니다. 이를 통해 추가 비용 없이 증거 맵을 생성하며, 이 맵의 정점은 답변 뒤에 있는 청크를 가리킵니다.

이 증거 맵은 긴 텍스트를 읽는 것을 대체하며, 실제 벤치마크에서 뛰어난 성능을 보였습니다. LongBench v2에서는 이 맵이 가장 높은 순위를 차지하는 9k 토큰을 제시했으며, 중간 컨텍스트가 150k 토큰인 InfiniteBench에서는 최고의 윈도우 읽기 결과보다 5점 높은 성능을 기록했습니다. 또한 이 맵은 BRIGHT의 장문 문서 코퍼스를 여섯 가지 방법 중 최고의 NDCG@10으로 순위화했습니다.

Periscope의 효율성은 메모리 사용 측면에서도 두드러집니다. 각 호출은 단 하나의 프로브만 캐시하므로, 27B 모델이 4.5M 토큰 컨텍스트를 처리할 때 단일 패스는 296GB의 캐시가 필요하지만, Periscope는 단지 모델을 담는 80GB GPU만 필요하게 만듭니다. 이는 긴 읽기가 텍스트를 담는 GPU가 아닌 모델을 담는 GPU를 요구하게 하여 효율적인 추론 환경을 제공합니다.

AI 에이전트가 과학 코드를 생성하는 능력은 향상되었지만, 코드를 생성하는 것과 그 알고리즘을 개선하는 것은 별개의 문제이다. 특히 수치 해석(numerical solvers) 분야에서 실행 피드백은 성능 저하를 드러낼 수는 있으나 그 근본적인 원인과 해결 방법을 알려주지는 않는다. 이에 연구진은 수치 진단과 재사용 가능한 솔버 자체 개선을 연결하는 프레임워크인 자동 진단 및 기술 발견(Auto-Diagnosis and Skill Discovery, ADSD)을 소개한다.

ADSD는 진단 우선 패러다임을 따르며, 솔버가 왜 성능이 낮은지 먼저 설명한 다음, 이 진단을 바탕으로 적절한 수치 방법을 발견하도록 안내한다. 이렇게 얻은 지식은 재사용 가능한 솔버 기술로 패키징되어 시행착오 기반의 편집이 아닌 진단, 발견, 구현의 구조화된 과정을 통해 솔버 개선을 가능하게 한다.

이 프레임워크는 전력 흐름 방정식, AC 최적 전력 흐름 제어, 강성 상미분 방정식, 이질 확산 편미분 방정식 등 네 가지 까다로운 수치 영역 전반에서 솔버의 정확도, 견고성, 효율성을 지속적으로 개선한다. 예를 들어 GOC-500 전력 흐름 사례에서 ADSD는 평균 솔버 오류를 약 71배 감소시켰으며, 이러한 개선은 보지 못했던 그리드 토폴로지와 운영 영역으로도 확장된다.

에이전트 하네스는 태스크 해결에 사용되는 역할, 지침, 도구 및 통신 구조를 정의하며, 이는 쿼리에 따라 달라져야 합니다. 각 설계 선택의 가치는 실행을 통해서만 관찰되므로, 쿼리마다 하네스를 맞춤 설정하는 것은 추론 시 대안을 실행하거나 비용이 많이 드는 수동 설계를 필요로 했습니다. 이에 본 연구는 실행을 쿼리별 검색 루프 밖으로 이동시키는 SHIFT를 제안합니다.

SHIFT는 로컬 LLM 설계자가 검색을 통해 하네스 구축 행동에 대한 정책을 학습하고, 측정된 실행으로부터 정확도와 실행 비용의 균형을 예측하는 가치 함수를 학습합니다. 각 쿼리에 대해 몬테카를로 트리 탐색은 이러한 예측을 사용하여 하네스를 구성합니다. 이 방법은 수학부터 문서 및 일반 어시스턴트 작업까지 6개 벤치마크에서 9,193개의 작업을 수행했으며, Gemini 3.5 Flash 실행기를 사용하여 평균 80%의 최고 정확도를 달성했습니다.

SHIFT는 프롬프팅, 프롬프트 최적화, 워크플로우 검색을 포함하는 17개의 기준선보다 우수하며 가장 강력한 기준선보다 7.2% 포인트 더 높은 정확도를 보였습니다. 또한, 더 저렴한 모드인 SHIFT는 가장 강력한 기준선보다 실행 토큰을 32% 적게 사용하면서도 모든 기준선보다 높은 평균 정확도를 달성했습니다.

연구 결과는 구조, 지침, 도구를 함께 선택하는 것이 지침이나 도구만 선택하는 것보다 최대 9.1% 포인트 더 나은 결과를 가져온다는 것을 보여줍니다. 또한 학습된 가치 선택은 후보 풀에서 더 정확하고 실행 비용이 낮은 하네스를 식별해 냅니다.

컴퓨터 사용 에이전트의 기존 접근 방식은 모델을 브라우저나 데스크톱 환경에 고정된 도구를 갖춘 도메인별 하네스(harness)와 결합하는 방식이었습니다. 이는 모델이 시스템 상태에 직접 프로그래밍 방식으로 작동하거나 도구를 유연하게 구성하는 것을 방해합니다. 이러한 한계를 극복하기 위해 본 연구는 bash 명령어를 유일한 액션 인터페이스로 사용하고 파일 시스템을 동적 도구 생성 및 컨텍스트 관리를 위한 공간으로 활용하는 최소한의 터미널 하네스인 CUAWright를 소개합니다.

CUAWright를 통해 에이전트에게 최소한의 프로그래밍 가능한 인터페이스를 제공했을 때, GUI 또는 하이브리드 CLI 인터페이스를 사용하는 경우보다 훨씬 강력한 결과를 달성함을 실험적으로 입증했습니다. OSWorld 2.0에서는 부분 보상에서 33.2%의 상대적 개선과 추정 비용에서 37.5%의 감소를 보였으며, Online-Mind2Web 및 Odysseys 벤치마크에서는 GUI 기반 하네스보다 성공률에서 각각 4.7%와 44.0%의 개선을 기록했습니다.

특히 시각적 이해와 CLI 상호 작용이 필요한 CAD 애플리케이션에서도 이러한 이점이 나타났습니다. CADGenBench와 BenchCAD에서 CUAWright는 GPT-5.5를 사용한 다른 CLI 기반 하네스에 비해 8.1%에서 41.6%의 상대적 개선을 달성했습니다.

이러한 결과는 디지털 환경이 GUI 인터페이스가 시사하는 것보다 훨씬 더 프로그래밍 가능하다는 것을 시사하며, 더 나은 성능과 효율성을 위해서는 최소한의 터미널에 초점을 맞춘 하네스가 핵심임을 보여줍니다.

3차원 세계 행동 모델인 PointWAM은 로봇 조작을 위한 정교한 움직임을 예측하는 데 사용됩니다. 기존 접근 방식들이 RGB 프레임이나 잠재 공간으로 세계를 표현하고 말단 효과기 자세나 관절 각도를 예측하는 데 그쳐 정교한 조작에 필수적인 3차원 공간 구조와 접촉 기하학을 포착하는 데 어려움을 겪었습니다.

PointWAM은 세계를 장면(환경)과 손(행위자)으로 분해하고, 이 둘을 공유하는 시공간 좌표계 내에서 3차원 점 궤적(point trajectories)으로 공동 예측하는 3차원 세계 행동 모델입니다. 이러한 명시적이고 분리된 표현 방식은 특정 객체나 키포인트 선택 없이 대규모 인간 시연 비디오로 효과적인 사전 학습을 가능하게 합니다.

PointWAM은 색상 점 구름과 언어 지시를 입력으로 받아 시간이 지남에 따라 장면과 손이 3차원 공간에서 어떻게 공동 진화하는지를 예측한 후, 이 예측된 손 움직임을 로봇 행동으로 리타겟팅합니다. 인간 비디오 사전 학습을 통해 평균 DexJoCo 성공률이 56.9%p 향상되었으며, 장면-궤적 감독을 추가함으로써 손만 예측하는 것보다 10.9%p 더 높은 성능을 보였습니다.

두 가지 방법을 모두 적용했을 때 PointWAM은 10가지 DexJoCo 작업에서 기존 최고 성능을 11.7%p 능가하며 실제 로봇에서 강력한 VLA(Vision-Language Action) 모델보다 우수한 성능을 입증했습니다.

터미널 에이전트는 소프트웨어 엔지니어링을 넘어 과학 및 기타 전문 분야로 확장되고 있지만, 훈련 환경을 구축하기 위해서는 실행 가능한 참조 행동과 의미적 정확성을 표면적으로 그럴듯한 결과물과 구별하는 도메인별 검증기가 필요합니다. 이러한 구성 요소를 각 작업에 대해 작성하는 것은 반복적인 엔지니어링을 요구하여 재사용을 제한합니다.

본 논문은 기존 소프트웨어 워크플로우에서 참조 출력과 검증 목표를 얻는 자기 지도 학습 프레임워크인 소프트웨어-인-더-루프 재구축(software-in-the-loop reconstruction)을 소개합니다. 이 프레임워크는 구조화된 입력을 출력으로 매핑하는 실행 가능한 프로그램인 기존 소프트웨어 워크플로우를 활용합니다. 각 워크플로우에 대해 여러 입력 구성을 실행하고 사례를 공개 관찰과 숨겨진 평가로 분할하여 에이전트가 원본 워크플로우에 접근하지 않고도 편집 가능한 프로그램을 구성하도록 합니다.

제안된 계층적 검증기는 도메인별 의미적 비교, 구조적 유효성, 그리고 지름길 회피 검사를 결합하여 후보를 평가하며, 공개 피드백은 반복적인 수정을 지원합니다. 이 방법은 각 작업에 대한 참조 솔루션을 작성하지 않고도 추가적인 워크플로우와 구성을 허용합니다. 6개 도메인에서 500개의 워크플로우와 46개의 소프트웨어 패밀리에 대해 이 방법을 구현한 결과, Qwen3.8-Max는 838개의 작업을 해결하고 1,422개의 검증된 궤적을 생성했으며, 이를 3,000개의 재구성 전용 훈련 예시로 오버샘플링했습니다.

또한 Qwen3.8-27B를 지도 미세 조정했을 때 Terminal-Bench 2 성능이 47.94%에서 53.56%로 향상되었으며, 이는 네 가지 보고된 평가에서 네 가지 일치 토큰 코퍼스 제어 중 가장 높은 평균 성능을 달성했습니다. 이러한 결과는 기존 과학 소프트웨어가 터미널 에이전트를 위한 확장 가능하고 행동적으로 검증된 감독을 제공할 수 있음을 시사합니다.

거대 언어 모델(LLM)이 사실적 지식의 인터페이스로 사용되면서, 사전 학습 이후 변경된 정보가 모델 파라미터에 자동으로 반영되지 않는 문제가 제기되고 있습니다. 지식 편집(Knowledge Editing, KE)은 비용이 많이 드는 재학습을 대체하는 목표 지향적인 방법으로, 관련 없는 지식과 일반 능력을 보존하면서 선택된 지식만을 수정합니다.

기존의 KE는 구조화된 사실 삼중항을 사용하지만, 비구조화된 지식 편집(UKE)은 여러 사실을 포함하는 자유 형식의 구절을 사용합니다. 그러나 기존 UKE 편집기는 문맥 의존성이라는 실패 모드를 보입니다. 즉, 편집된 LLM은 편집 구절을 재현할 수는 있지만, 원래 구절의 문맥 없이 개별 사실을 신뢰성 있게 회상하지 못합니다.

연구진은 표준 구절 수준 편집 목표 하에서 문맥으로 인해 발생하는 어려움 과소평가 현상을 식별했습니다. 나중에 제시되는 사실들은 더 풍부한 정답 문맥을 받게 되어 초기 손실이 낮아져 학습하기 더 쉽다는 것입니다. 이에 대응하여 연구진은 FOVEATED라는 프레임워크를 제안했습니다. FOVEATED는 각 문장의 핵심 키에 할당된 회전 위치 임베딩(RoPE) 위치를 무작위로 이동시켜 각 문장의 집중된 시야를 구성합니다. 이 과정에서 적용된 교란은 편집 중에만 적용되고 편집 후에는 제거되어 추론 시 모델의 고유한 위치 인코딩은 변경되지 않습니다.

연구진은 FOVEATED가 문맥으로 인한 어려움 과소평가를 상쇄함을 이론적으로 분석했으며, 다섯 가지 KE 편집기, 두 가지 LLM 백본, 세 가지 벤치마크 전반에 걸쳐 일관된 개선을 실증적으로 입증했습니다.

LLM 기반 진화 방법론은 원형 패킹과 같은 어려운 계산 최적화 문제 해결에 강력한 접근 방식으로 부상했습니다. 그러나 기존 연구들은 보통 고정된 반복 횟수 내에서 성능 향상에 초점을 맞추었으며, 실제 최적화는 단위 비용당 최대 이득을 목표로 해야 한다는 주장이 제기되었습니다. 이에 저자들은 비용을 고려하는 진화 프레임워크인 FrugalEvo를 제안했습니다.

FrugalEvo는 더 강력하고 비용이 높은 LLM이 해결 전략을 탐색하고, 더 저렴한 LLM이 이를 구현하고 코드를 반복적으로 개선하는 방식으로 작동합니다. 또한 캐시 재사용을 개선하기 위해 여러 진화 단계에서 접두사를 최대화하는 캐시 효율적인 진화 프로세스를 설계했습니다. 솔루션 품질을 고정된 비용 예산 내에서 측정하기 위해 누적 LLM 비용에 따른 최고 평가 점수 곡선 아래 면적을 정의하는 예산 인식 곡선 아래 면적(BA-AUC)을 도입했습니다.

이 방법은 10가지 수학 및 시스템 최적화 작업에서 기존의 최첨단 기준선들과 동등하거나 더 나은 최종 솔루션 품질을 달성했으며, 9개 작업에서 더 높은 BA-AUC를 기록했습니다. 특히 알고리즘 최적화 작업에서는 ALE-Bench-Lite의 10가지 과제에서 기존 기준선보다 평균 성능이 높게 나타났습니다.

원형 패킹 문제에서 FrugalEvo는 비용 효율성을 극대화하여 놀라운 결과를 보였습니다. GPT-5.6 Terra 및 Luna를 사용하여 단 1.68 USD로, GLM-5.3 및 Flash 변형을 사용하여 단 0.55 USD로 최첨단 성능을 달성했는데, 이는 평균 50 USD에 달하는 CORAL이나 SwarmResearch와 같은 다중 에이전트 방법론을 포함한 모든 기준선보다 우위를 점합니다.

대규모 언어 모델(LLM)이 공중 보건, 금융, 거버넌스 등 민감한 분야에 광범위하게 사용됨에 따라 정확성과 사회적 가치 정렬이 요구되고 있습니다. 그러나 LLM은 훈련 데이터에 내재된 편향을 지속적으로 반영하거나 증폭시켜 공정성 문제를 야기하는 경우가 많습니다. 단일 모델의 내재적 지식에 의존하는 자기 편향 제거 방식만으로는 깊이 뿌리내린 고정관념을 해결하기에 불충분합니다.

이러한 한계를 극복하기 위해 본 연구는 집단 편향 완화(Collective Bias Mitigation, CBM)라는 프레임워크를 제안합니다. CBM은 다양한 LLM 간의 지식 공유와 모델의 세밀한 행동 학습을 통해 편향을 완화하는 방법을 제시합니다. 이는 서로 다른 LLM을 효과적으로 선택하고 조직하여 보다 공정한 응답을 도출하는 방식을 체계적으로 탐구한 최초의 연구입니다.

실험 결과 CBM은 단독 기준 모델보다 편향을 상당히 개선하는 것으로 나타났습니다. 예를 들어, 상위 7개 모델 설정에서 위원회(Committee) 토폴로지는 연령 편향 점수를 0.25에서 0.10으로 낮추었습니다. 특히 토론(Debating) 및 위원회(Committee) 토폴로지는 편향 완화 효과와 추론 비용 사이의 균형을 맞추어 편향 감소를 달성하며, 이는 보다 공정한 LLM을 개발하는 데 중요한 잠재력을 보여줍니다.

언어 간 능력 전이의 메커니즘에 대한 이해는 평가 데이터셋의 비호환성 때문에 어려움을 겪어왔습니다. 연구진은 이러한 전이 현상을 평가하기 위해 30,000개의 질문-답변 쌍과 15개 언어를 포괄하는 확장 가능한 다국어 수학 데이터셋인 Multilingual GSM-Symbolic을 도입했습니다. 이 데이터셋은 오버피팅을 방지하고 일반화를 보장하기 위해 기호 템플릿을 활용하여 단일 샘플에서 수백만 개의 고품질 변형을 생성할 수 있게 합니다.

이 분석을 통해 능력 전이의 주요 결정 요인들을 정량화할 수 있었습니다. 모델 크기($\beta= 1.77$), 언어 자원 수준($\beta= 0.77$), 추론 능력($\beta= 0.67$), 그리고 유형학적 거리($\beta= -0.25$)가 가장 큰 영향을 미치는 요인으로 나타났습니다. 이러한 요인들을 공동으로 추정함으로써 마라티어로 평가된 32B 모델이 영어에서 평가된 10B 모델과 유사한 성능을 보인다는 것을 확인할 수 있습니다.

특히 모델 크기와 추론 능력은 저자원 언어와 고자원 언어 간의 성능 격차를 좁히는 데 중요한 역할을 하며, 이는 $\beta= -0.27$과 $\beta= -0.20$으로 나타났습니다. 하지만 유사한 요인들은 유형학적으로 멀리 떨어진 언어에서는 거의 또는 전혀 영향을 미치지 않는 것으로 분석되었습니다.

이 분석 프레임워크는 언어 간 변이의 92%를 설명하지만 모델별 언어 변이의 23%만을 설명하며, 보지 못한 언어에서의 모델 성능을 6.0pp 이내로 예측할 수 있습니다. 또한, 목표 언어의 10개 템플릿 측정치를 통합하면 예측 오차를 4.19pp로 줄여, 추가적인 데이터셋 없이도 합리적인 성능 추정이 가능해집니다.

사고의 연쇄(CoT) 추론은 대규모 언어 모델이 답변에 도달하는 과정을 인간이 검사하고 모델의 행동을 감독할 수 있게 합니다. 그러나 이러한 추론 과정은 추론에 더 많은 토큰을 사용하기 때문에, 모델이 더 적은 토큰으로 작업을 해결하도록 훈련하는 효율적인 방법이 필요합니다. 하지만 이러한 효율성 훈련이 모델이 중요한 추론 단계를 건너뛰게 하여 CoT가 모델의 실제 결정을 충실하게 반영하지 못할 수 있다는 우려가 제기됩니다.

이러한 역학 관계를 이해하기 위해 연구진은 고정 생성 예산, 예시별 길이 목표, 그룹 상대 길이 보상이라는 세 가지 다른 방식으로 모델의 CoT에 길이 압력을 가하는 세 가지 방법을 사용하여 다양한 모델을 미세 조정했습니다. 연구는 효율적인 추론이 CoT 충실도(관련 입력에 대한 모델 결정 반영 정도)와 모니터 가능성(입력 개입이 출력에 영향을 미칠 때 CoT가 이를 드러내는지 여부)에 어떻게 영향을 미치는지 평가했습니다.

연구 결과, 효율적인 추론은 충실도와 모니터 가능성에 다르게 영향을 미치는 것으로 나타났습니다. 충실도는 대부분의 설정에서 낮게 나타났는데, 이는 훈련된 모델들이 덜 일관적이기 때문입니다. 반면, 모니터 가능성은 더 강력한 것으로 나타났는데, 모델들은 CoT가 훨씬 짧더라도 답변에 대한 영향력을 계속 인식하는 것으로 확인되었습니다.

세계 행동 모델은 미래 시각 역학을 로봇 행동 예측과 통합하지만, 행동이 주석 처리된 로봇 궤적의 필요성 때문에 확장성에 한계가 있습니다. 기존 접근 방식들은 상호작용 역학에 대한 풍부한 증거를 포함하는 관찰 전용 비디오를 시각 표현을 사전 학습하거나 로봇 명령에 기반하여 추론된 잠재 행동을 도출하는 데 사용했습니다.

이에 본 연구는 관찰 전용 비디오로부터 행동 정책을 직접 사전 학습하는 네이티브 행동 우선 학습을 도입한 NAVA-WAM을 제시합니다. 이는 간접적인 표현-제어 전달이나 별도의 잠재 행동 모델을 피하는 방법입니다. 학습 과정은 두 단계로 진행되는데, 첫째는 관찰 전용 비디오에서 미래 비디오 흐름 일치 감독을 전환 구조화된 공동 주의를 통해 전파하여 Action-DiT를 최적화하고 행동 관련 사전 지식을 학습합니다.

둘째는 행동 레이블된 시연을 사용하여 공동 비디오-행동 흐름 일치를 통해 Action-DiT를 후 학습하는 과정입니다. 이 과정에서 비대칭 주의를 사용하여 시각 분기와 반복적인 행동 노이즈 제거를 분리함으로써 효율적인 행동 전용 추론이 가능해집니다.

광범위한 실험 결과는 NAVA-WAM이 분포 내 및 분포 외 설정 모두에서 기존 접근 방식보다 일관되게 우수하며, 강력한 행동 레이블 효율성과 효과적인 실제 로봇 일반화를 입증했습니다. 이는 행동 레이블된 로봇 데이터의 한계를 넘어 관찰 전용 비디오로부터 행동 정책을 직접 사전 학습하는 효과적인 접근 방식으로 네이티브 행동 우선 학습을 확립합니다.

마스크 확산 언어 모델(dLMs)은 복잡한 추론을 위한 자기회귀 모델의 대안으로 유망하지만, 디노이징 과정 중 몇몇 약속(commitments)이 나머지 마스킹된 위치에 대한 불확실성을 크게 줄이고 응답의 많은 부분을 형성하기 때문에 신뢰도 할당에 어려움을 겪습니다. 기존의 학습 방법들은 이러한 응답을 형성하는 개별적인 약속을 선택하는 대신 최종 텍스트를 사용하거나 전체 디노이징 단계에 보상을 할당하는 방식으로 이 신호를 활용하지 못했습니다.

이에 본 논문은 이러한 고영향 약속(pivots)만을 감독하는 효율적인 오프라인 자기 증류 프레임워크인 Pivot-SD를 제안합니다. Pivot-SD는 나머지 마스킹된 위치에 대한 불확실성 감소를 측정하는 정보 이득 지표를 사용하여 피벗을 선택합니다. 성공적인 궤적에서 나온 피벗은 교차 엔트로피를 사용하여 학습하고, 실패한 궤적에서 나온 피벗은 목표 불확실성을 사용하여 학습하며 나머지 실패 궤적은 그대로 둡니다.

이 방법을 사용하여 200개의 질문과 각 4번의 롤아웃만을 사용하여 Pivot-SD는 수학 및 코드 벤치마크 전반에서 LLaDA-8B-Instruct를 전체 시퀀스 SFT 및 예산 일치 확산 강화 학습(RL) 기준선보다 개선했습니다. 이는 dLMs의 학습 효율성과 정확도를 높이는 데 기여합니다.