읽을 가치가 있는 기사만, 짧고 또렷하게.

경기도 갭이어 프로그램에서 만난 세 명이 모여 만든 프로젝트를 소개합니다. 이 프로젝트는 유명한 추리 게임인 '바다거북스프'를 기반으로 하며, AI와 질문을 주고받으며 추리를 진행하는 게임을 구현한 것입니다.

'바다거북스프'는 진행자가 짧고 이상한 이야기를 제시하면 참가자들이 '예/아니오'로만 답할 수 있는 질문을 계속 던지면서 숨겨진 사실을 알아내는 추리 게임입니다. 이 게임은 단순한 추리 요소를 넘어 AI와의 상호작용을 통해 복잡한 질문과 답변의 과정을 통해 숨겨진 정보를 탐색하는 데 중점을 둡니다.

개발자들이 관심을 가질 만한 부분은 이러한 추리 게임의 구조를 AI 기반의 질문-답변 시스템으로 구현하는 과정에 있습니다. 참가자들이 던지는 질문의 논리적 흐름과 진행자의 이야기 구성이 추리의 난이도와 재미를 결정하는 핵심 요소가 됩니다.

결론적으로 이 프로젝트는 추리 게임의 재미를 AI 기반의 상호작용 시스템으로 확장하여 새로운 형태의 스토리텔링 및 추리 경험을 제공하는 데 초점을 맞추고 있습니다.

CSS-Tricks는 현재 다시 침체기에 빠져 있으며 그 미래에 대한 소식이 전무한 상태입니다. 이 웹사이트는 2022년 디지털 오션(Digital Ocean)에 인수된 후 2023년 2월에 직원들이 해고되면서 1년간 활동을 멈추고 잠잠해져 있었습니다. 디지털 오션이 2024년 6월에 편집장 지프 그레이엄을 재고용하며 잠시 활동을 재개했지만, 현재는 여전히 비활성 상태이며 향후 계획에 대한 소통이 전혀 이루어지지 않고 있습니다.

디지털 오션은 이와 별개로 오픈 소스 생태계에 대한 기여를 이어가고 있습니다. 최근 디지털 오션은 데이비드 하인미어 한슨(David Heinemeier Hansson, DHH)이 이끄는 스크립트 및 구성 파일 모음인 오마키(Omarchy)에 300만 달러를 기부했습니다. 이는 디지털 오션이 GNOME 및 Flathub 인프라에 지급하던 월 50달러의 지원을 중단한 것과 함께, 자체 프로젝트나 기존 편집자들에게 기여하는 것보다 이러한 스크립트와 구성 파일에 기부하는 것을 더 시급한 문제로 여긴 것으로 보입니다.

이러한 상황은 웹 분야의 질 좋은 출판물과 오픈 소스 생태계가 겪는 어려움을 보여줍니다. CSS-Tricks와 같은 품질 좋은 웹 출판물이 사라지는 것은 웹 커뮤니티에 큰 손실이 될 수 있으며, 이는 단순히 노력이나 시간의 문제가 아니라 생태계에 대한 배려가 중요하다는 점을 시사합니다.

메타는 광고 머신러닝(ML) 인프라가 모델 개선을 통해 창출한 추가 매출을 추정하기 위해 관찰 데이터 기반 인과 추론을 적용했습니다. 이 과정에서 개별 모델 출시를 분석 단위로 삼아 인프라의 실제 가치를 정량화하는 데 중점을 두었습니다.

이러한 접근 방식은 여러 팀이 인프라를 공유하고 다른 팀의 작업을 통해 가치를 창출하는 환경에서 특히 중요합니다. 인프라는 여러 팀이 공유하기 때문에 전통적인 무작위 A/B 테스트를 수행하기가 어렵습니다.

따라서 인과 추론을 활용하면 복잡한 시스템 내에서 인프라 투자와 모델 개선 간의 실제 인과 관계를 파악하여 사업 투자에 대한 더 정확하고 정량적인 의사 결정을 내릴 수 있습니다. 이는 AI 인프라를 단순한 기술 자원이 아닌 정량화 가능한 사업 투자로 전환하는 방법을 제시합니다.

Pinterest는 수백억 개의 임베딩 규모에 대응하기 위해 자체 검색 플랫폼인 Manas를 개선하고 있습니다. 이 개선은 양자화, SSD 기반 서빙, 다중 임베딩 검색이라는 세 가지 축을 중심으로 이루어지고 있습니다.

특히 주요 제품에 적용한 양자화 기술을 통해 임베딩 인덱스 메모리를 50% 이상 줄이는 데 성공했습니다. 이러한 기술 적용은 서빙 인프라 비용을 20~30% 절감하는 효과를 가져왔습니다.

이는 대규모 임베딩 데이터를 효율적으로 관리하고 서비스하는 데 있어 메모리 사용량과 운영 비용을 획기적으로 줄이는 데 기여합니다. 개발자들은 이러한 최적화된 접근 방식이 대규모 검색 플랫폼의 인프라 효율성을 높이는 데 중요한 사례가 될 수 있습니다.

React와 Tailwind v4를 위한 네오브루탈리즘 스타일 UI 구성 요소 모음인 Neobrutalism.dev가 업데이트를 통해 Base UI 지원과 새로운 색상 테마를 추가했습니다. 이 프로젝트는 shadcn/ui와 Base UI를 기반으로 구축되어 있으며, 컴포넌트, 차트, 별 모양 등 총 64개의 UI 요소를 제공합니다.

Neobrutalism.dev는 개발자들이 네오브루탈리즘 디자인을 쉽게 적용할 수 있도록 다양한 스타일의 UI 구성 요소를 제공하는 것을 목표로 합니다. 이러한 구성 요소들은 shadcn/ui와 Base UI의 구조를 활용하여 개발 편의성을 높이고 있습니다.

이번 업데이트는 Base UI 지원을 공식적으로 추가하여 기존 사용자들의 통합 경험을 개선하는 데 중점을 두었습니다. 또한 새로운 색상 테마를 추가함으로써 사용자들이 디자인에 더 많은 선택권을 가질 수 있게 되었습니다.

초소형 전자책 리더 Xteink X3에서 발생한 회색조 이미지의 세로 줄무늬 결함을 해결하는 과정이 공개되었습니다. 개발자는 이 줄무늬를 추적하여 화면 구동 파형을 변경함으로써 눈에 보이던 시각적 결함을 제거하는 데 성공했습니다.

또한, 이 과정에서 CrossPoint와 freeink-sdk를 조사하면서 이미지 뷰어 관련 오류도 수정했습니다. 구체적으로 이미지 뷰어에서 회색조 처리가 누락되는 문제와 어두운 회색이 검정으로 표시되는 오류를 해결했습니다.

이는 하드웨어 디스플레이 결함 해결뿐만 아니라 관련 소프트웨어 및 SDK 레벨의 이미지 처리 오류까지 동시에 개선하는 기술적 접근을 보여줍니다. 개발자는 하드웨어와 소프트웨어 스택 전반에 걸친 디버깅을 통해 사용자 경험을 개선하는 방법을 제시했습니다.

PostgreSQL에서 S3나 로컬 파일에 저장된 외부 데이터를 직접 조회하거나 테이블로 가져올 수 있게 하는 ClickHouse 확장 도구가 개발되었습니다. 이 확장 기능은 PostgreSQL 환경에서 ClickHouse 기반 엔진인 chDB를 활용하여 외부 데이터를 효율적으로 처리할 수 있도록 지원합니다.

이 확장 도구는 외부 데이터를 PostgreSQL에서 직접 조회하거나 테이블 형태로 가져오는 기능을 제공합니다. 구체적으로 chDB의 함수인 `chdb_query()`를 사용하여 쿼리를 넘기면 그 결과를 PostgreSQL의 행과 열 형태로 반환합니다. 이는 PostgreSQL 사용자가 ClickHouse의 대용량 데이터 처리 능력을 활용하여 외부 데이터에 접근할 수 있게 해줍니다.

이 기능은 PostgreSQL과 ClickHouse 간의 데이터 연동을 용이하게 하여 데이터 분석 및 처리의 유연성을 높이는 데 기여합니다. 개발자는 이를 통해 복잡한 외부 데이터 소스를 PostgreSQL 환경 내에서 쉽게 통합하고 관리할 수 있습니다.

밸브가 2026년 하드웨어 라인업을 공개한 후 차세대 스팀 덱 핸드헬드에 얼마나 가까워졌는지에 대한 질문이 제기되고 있습니다. 스팀 컨트롤러, 스팀 머신, 그리고 스팀 프레임과 같은 새로운 하드웨어를 출시했음에도 불구하고, 밸브는 아직 스팀 덱 2에 대해 구체적인 계획이나 시점을 밝히지 않고 있습니다.

밸브 디자이너 피에르 루프 그리페(Pierre-Loup Griffais)는 이러한 차세대 기기를 '어떻게 그리고 언제 제공할 수 있을지'를 현재 구상하고 있다고 밝혔습니다. 밸브는 과거부터 스팀 덱 2가 실제로 출시될 것이라는 점은 분명히 하고 있지만, 이는 밸브가 적절한 칩을 찾는 시점에 달려 있다고 설명합니다.

원래 스팀 덱이 성공할 수 있었던 배경은 가격, 성능, 배터리 수명 사이의 적절한 조합을 제공했기 때문이며, 밸브는 효율성을 희생하지 않겠다는 입장을 유지하고 있습니다. 따라서 차세대 기기의 개발은 하드웨어 출시보다 핵심 부품과 시스템의 최적화에 중점을 두고 진행될 것으로 보입니다.

인공지능이 수학 분야에서 인간을 확실히 능가하는 수준에 도달하더라도 수학의 발전은 정체될 수 있다는 위험 시나리오가 제기되고 있습니다. 이는 AI가 논문과 정리 생산을 폭발적으로 늘릴 수 있는 상황에서, 이러한 산출물을 보상하는 기존의 제도적 시스템이 유지될 경우 발생할 수 있는 문제입니다.

현재 수학적 산출물은 급증하고 있지만, 이러한 결과물들이 수학적 발전으로 이어지기 위해서는 정확성, 흥미로움, 그리고 실질적인 검토라는 중요한 기준이 필요합니다. 만약 이러한 품질 관리와 검증 과정이 충분히 작동하지 않는다면, 양적인 생산 증가는 수학의 질적 발전으로 이어지지 못하고 정체될 수 있습니다.

이러한 상황은 AI의 능력 자체보다는 수학적 지식을 생산하고 평가하는 사회적, 제도적 구조의 변화에 초점을 맞추고 있습니다. 따라서 수학의 미래를 논할 때, AI의 능력과 기존의 학문적 보상 체계 간의 균형을 어떻게 맞출 것인지에 대한 논의가 필요합니다.

소프트웨어 설계부터 제품 완성, 경력과 개발자의 책임에 이르기까지 개발자의 사고방식에 가장 큰 영향을 준 블로그 글에 대해 질문하는 글입니다. 이 글은 독자들이 자신의 개발 경험과 사고방식에 영향을 미친 핵심 자료를 되돌아보게 하는 데 중점을 두고 있습니다.

질문자는 개인적으로 가장 큰 영향을 받은 글들로 'Parse, Don’t Validate'와 초기 'joelonsoftware' 글들을 꼽았습니다. 이는 단순히 기술적인 지식을 넘어 개발자로서 가져야 할 근본적인 태도와 접근 방식에 대한 논의가 중요함을 시사합니다.

이러한 글들은 소프트웨어 개발 과정에서 발생하는 설계의 중요성, 검증에 대한 접근 방식, 그리고 개발자가 짊어져야 할 책임감 등 개발자의 사고방식 형성에 필수적인 맥락을 제공합니다. 독자들은 이러한 영향력 있는 자료들을 통해 자신의 커리어와 프로젝트에 어떤 관점을 적용해야 할지 고민할 수 있습니다.

얼굴 이미지 품질 평가(FIQA)는 자동 얼굴 인식(FR)을 위한 얼굴 이미지의 적합성을 결정하는 중요한 능력입니다. 그러나 기존의 FR 통합 FIQA 방법들은 훈련 과정에서 특징 공간이 변화함에 따라 단일 에포크 품질 추정치가 변동하는 시간적 불안정성 문제를 겪고 있습니다. 이러한 불안정성은 신뢰할 수 있는 품질 예측을 저해하는 이동 목표를 만듭니다.

이에 본 연구는 FR 통합 FIQA를 위한 안정화 전략인 CARPM-FIQA를 제안합니다. 이 방법은 단일 에포크 추정치에 의존하는 대신, 훈련 궤적 전체에 걸쳐 상대 점진 마진 측정치(클래스 내 압축성과 클래스 간 분리의 비율)를 누적하여 평균화합니다. 이러한 누적 평균 접근 방식은 품질 추정치의 분산 감소, 평균 제곱 오차 개선, 그리고 훈련 진행에 따른 수렴 보장을 통한 순위 안정성 향상이라는 이론적 이점을 제공합니다.

SynFIQA 데이터셋에 대한 실험 결과, CARPM-FIQA는 누적 평균화를 통해 우수한 변별 능력을 달성했으며, 다양한 벤치마크에서 17개 방법 중 4위(CARPM-FIQA(L))와 6위(CARPM-FIQA(S))를 기록했습니다. 이는 FR 모델 전반에 걸쳐 성능을 정규화했을 때도 최고 방법의 정규화된 평균치에 몇 퍼센트 이내로 유지되어 훈련 불안정성을 해결하는 원칙적인 해결책을 제시합니다.

더 넓게는 본 연구는 목표 값이 특징 표현의 변화로 인해 본질적으로 변동하는 딥러닝 시스템에서 시간적 집계 전략이 훈련 목표를 안정화할 수 있음을 입증합니다. 이는 FR 통합 시스템에서 성능 이점을 유지하면서 훈련 불안정성을 해결하는 데 중요한 통찰을 제공합니다.

NanoForecast v0.5는 650만 개의 파라미터를 가진 예측 모델로, 아키텍처 변경 없이 훈련 파이프라인 수정만으로 2000만 개의 파라미터를 가진 TimesFM 모델과 경쟁할 수 있음을 보여줍니다. 이 모델은 손실 범위 처리, 텐서 형태 정렬, 광범위한 증강 적용을 통해 v0.3 아키텍처를 재훈련함으로써 동일한 프로토콜 하에서 전체 평균 절대 스케일 오차(MASE)를 43.8% 감소시켰습니다.

이러한 최적화 결과는 동일한 데이터와 컴퓨팅 예산 내에서 MASE를 3.030에서 1.704로 줄이는 데 기여했으며, 세 가지 ETT 데이터셋과 환율 비교에서 TimesFM을 능가했습니다. 구체적으로 NanoForecast v0.5는 세 ETT 데이터셋(MASE 0.676/1.110/0.287 대 0.705/1.360/0.545)과 환율 비교에서 TimesFM보다 우위를 점했지만, 고카디널리티 전력 및 교통 데이터 세트에서는 TimesFM이 여전히 명확한 리드를 유지합니다.

또한, NanoForecast v0.5는 1500만 개 이상의 파라미터를 가진 PatchTST 모델에 대해서도 세 ETT 세트 모두에서 승리했습니다. 모델 훈련은 단일 클라우드 GPU(NVIDIA T4)에서 약 12시간이 소요되지만, 추론 시에는 GPU가 필요하지 않아 Apple M4 CPU에서도 실행이 가능합니다.

연구팀은 모든 코드, 사전 훈련된 체크포인트, 평가 프레임워크를 Apache 2.0 라이선스로 공개하여 개발자들이 모델을 활용할 수 있도록 했습니다.

인공지능의 발전은 로보틱스 분야에 학습 기반 접근 방식을 가속화하고 있습니다. 데이터 기반 방법이 컴퓨터 비전이나 자연어 처리에서 뛰어난 성공을 거두었지만, 로보틱스는 제한된 데이터, 복잡한 현실 상호작용, 그리고 신뢰성 있는 작동의 필요성 때문에 여전히 제약을 받고 있습니다. 이러한 문제점들은 학습 알고리즘에 물리적 사전 지식(physics priors)을 내재화하는 물리 내재 학습(physics-embedded robot learning) 탐색을 촉발했습니다.

물리 사전 지식은 근본적인 물리 법칙과 제약을 인코딩함으로써, 제한된 데이터에 로보틱스 특화된 귀납적 편향(inductive biases)을 제공하여 데이터 기반 학습을 보완할 수 있습니다. 이는 일반화 능력, 해석 가능성, 그리고 샘플 효율성을 향상시키는 데 기여합니다. 따라서 물리 사전 지식은 데이터를 대체하기보다는 보완하여 더욱 일반화되고 데이터 효율적이며 신뢰할 수 있는 로봇 시스템을 구축하는 길을 열어줍니다.

하지만 물리 내재 학습에 대한 문헌은 용어, 방법론, 적용 분야에 걸쳐 파편화되어 있어 이 분야의 성장을 평가하기 어렵습니다. 본 설문조사는 단일 레이어 퍼셉트론부터 생성형 파운데이션 모델에 이르기까지 광범위한 물리 사전 지식, 로보틱스 응용 분야, 머신러닝 모델을 아우르는 물리 내재 학습을 검토합니다.

연구자들은 물리 가이드 입력, 데이터, 표현, 물리 인코딩 모델 아키텍처, 물리 정보 기반 훈련 손실 함수로 기존 접근 방식을 분류하는 통일된 분류 체계를 제시합니다. 이를 통해 로봇 동역학 학습, 궤적 계획, 예측, 제어 및 추정 방법과 관련 오픈 소스 소프트웨어 생태계를 검토하며 주요 미해결 과제와 향후 연구 방향을 제시합니다.

TAPe 기반의 TAPe+ML v3는 인식 전에 지각 요소 간의 관계를 인코딩하는 구조화된 표현을 활용하여 효율적인 멀티태스킹 컴퓨터 비전 시스템을 제시합니다. 이 시스템은 픽셀 텐서에 직접 작동하는 대신 공유된 TAPe 표현과 모듈식 인식 아키텍처를 사용하여 이미지 분류, 객체 탐지, 인스턴스 분할을 수행합니다.

TAPe+ML v3는 배경 및 윤곽선 처리, 지역 객체 위치 파악, 프로토타입 기반 분류, 그리고 특수 서브모델을 위한 코디네이터를 결합하여 작동합니다. 보고된 실험에서 이 시스템은 10만 개 미만의 파라미터만을 사용하며, 이는 모델링 부담을 네트워크 파라미터에서 구조화된 입력 표현으로 전환함으로써 데이터, 메모리, 컴퓨팅 요구 사항을 줄일 수 있음을 시사합니다.

COCO 객체 탐지 실험에서는 84.7 mAP50과 65.3 mAP50-95를 달성했으며, 인스턴스 분할에서는 80.7 mask mAP50과 58.4 mask mAP50-95를 기록했습니다. 또한 분류 실험에서는 원본 픽셀 기준선과 동일한 훈련 비교에서 Imagenette 상에서 92%의 검증 정확도를, ImageNet-Real에서는 89.9%의 Top-1 정확도를 달성했습니다.

이러한 결과는 TAPe+ML v3가 적은 자원으로도 고성능 멀티태스킹 비전 시스템을 구축할 수 있음을 보여줍니다. 연구진은 또한 산업 환경에서 영상 장면 탐지 및 분포 변화 적응 능력에 대한 컴팩트성을 평가했으며, 이는 실제 적용 가능성을 높입니다.

GUI 에이전트는 팝업, 지연 로딩, 위젯 이동 등으로 인해 계획이 무효화되는 동적인 그래픽 사용자 인터페이스에서 장기 작업을 수행합니다. 기존의 에이전트-스킬 프레임워크는 이러한 GUI 실행 역학을 고려하지 않고 스킬을 배포 전에 생성된 정적인 결과물로 취급하여, 실행 과정에서 개선되는 살아있는 절차적 지식으로 활용하지 못하는 한계를 가지고 있습니다.

이에 연구진은 추가적인 훈련 없이 실행 피드백을 통해 배포 시점에 스킬을 수정할 수 있는 프레임워크인 EvoSkill-GUI를 제안합니다. 이 프레임워크는 각 스킬을 검색 메타데이터, 실행 가능한 계획, 백업 위치 지정, 실패 복구 규칙, 접근성 유틸리티, 실패 사례 등을 포함하는 구조화된 다중 파일 패키지로 구성합니다.

EvoSkill-GUI는 \emph{reflect-revise-reuse} 루프를 통해 작동하는데, 실행자가 특정 스킬 파일을 제한된 도구 인터페이스를 통해 편집하고, 독립적인 비평가가 실패한 경로를 진단하며, 실행자가 이를 통해 스킬 파일을 수정하는 방식으로 작동합니다. 모바일 및 데스크톱 플랫폼을 포괄하는 MobileWorld, AndroidWorld, OSWorld 세 가지 주요 GUI 벤치마크에서 EvoSkill-GUI는 어떠한 훈련 없이도 여러 기본 모델을 지속적으로 개선했습니다.

이 결과, 최대 16.2%, 6.0%, 10.5%의 최대 성능 향상을 달성했으며, 진화된 스킬 라이브러리는 처음부터 다시 구축하는 대신 관련 작업에 지속적으로 이점을 제공합니다. 해당 코드는 https://github.com/ZJU-REAL/EvoSkill-GUI에서 확인할 수 있습니다.

새롭게 발표된 RiskChainBench는 난잡하게 위장된 플랫폼 메시지 복원과 증거 기반 웹 조사를 위한 새로운 벤치마크입니다. 이 벤치마크는 포르노, 사기, 도박 등 불법 거래와 관련된 서비스로 사용자를 유도하는 플랫폼 남용 캠페인이 이모지, 동음이의어, 문자 분해 등을 사용하여 리디렉션 지시를 숨기는 문제를 다룹니다. 기존 벤치마크들이 텍스트와 위험 웹페이지를 분리하여 평가함으로써 목표 복구가 다운스트림 증거 획득에 미치는 영향을 간과했던 한계를 보완합니다.

RiskChainBench는 600개의 소스 세션에서 얻은 3,600개의 합성 토큰-텍스트 복원 입력과 이에 상응하는 600개의 인간 레이블링된 로컬 웹 환경을 쌍으로 구성하여 평가합니다. 모델은 먼저 메시지, 운영 의도, 목적지를 복원한 다음, 동일한 모델을 VLM 기반 웹 에이전트로 활용하여 관련 웹사이트를 조사하고 메시지 측 의미나 도메인 평판 단서 없이 고정된 증거를 인용하는 위험 보고서를 생성합니다.

연구 결과, 10개의 모델에서 진입점 상위 1위(Entry Top-1)는 35.2%에서 95.2%까지, 웹 결정 정확도는 26.3%에서 62.8%까지 나타났습니다. 실행 실패는 웹 실행의 31.9%를 차지했으며, 결정 후 유형 오류는 0.9%에 불과하여 안정적인 탐색과 위험 판단이 주요 병목 현상임을 확인했습니다. 개발자들은 이 벤치마크, 프로토콜, 그리고 재설정 가능한 로컬 샌드박스를 공개하여 복잡한 플랫폼 증거 추적 작업에 대한 새로운 기준을 제시합니다.

걷는 로봇 손은 몸을 움직이고 무게를 지탱하며 환경과 상호작용하기 위해 동일한 손가락을 사용해야 합니다. 본 연구는 인체 형태의 손이 손가락 디자인과 위치 컨트롤러를 유지하면서 이러한 기술을 학습하는 방법을 제시합니다.

이 플랫폼은 온보드 전원과 연산을 통해 자체적으로 구동되며, 보상 학습 접근 방식은 손가락이 불균등하다는 점을 고려하여 하드웨어 측정으로 보정된 시뮬레이터에서 훈련되었습니다. 시뮬레이션 환경에서 이 연구팀의 보상 공식은 사족 보행 동물에 맞춰 조정된 보상보다 더 빠른 움직임을 달성했습니다.

실제 하드웨어 환경에서는 작업별 정책을 통해 무선 기어 이동, 조향, 낙상 복구 능력을 구현했습니다. 손은 자신의 무게를 지탱하는 동시에 시각 정보 없이 연속적인 키보드 명령을 실행하고, 머리 위 시각 피드백을 사용하여 목표물에 물체를 밀어내는 작업도 수행합니다.

이러한 결과는 별도의 이동 메커니즘 없이 손가락을 이동과 상호작용에 재사용하는 소형 이동 매니퓰레이터의 가능성을 입증합니다. 이는 복잡한 작업을 수행하는 데 있어 효율적이고 컴팩트한 로봇 시스템 설계에 중요한 기반을 제공합니다.

에이전트 세션이 백만 토큰에 달하고 여러 세션이 동시에 메모리에 상주할 때, 디코딩을 제한하는 트래픽은 KV 캐시, 이를 인덱싱하는 메모리 내 인덱스, 그리고 상위 k 키를 순위를 매기는 스캔이 됩니다. 이 논문은 각 쿼리가 각 키 채널의 몇 비를 읽을지 결정하는 키 스캔인 Fathom을 제안합니다.

Fathom은 4비트 K 캐시를 비트 평면으로 채널 우선(channel-major)으로 저장하며, 쿼리는 채널의 분산 가중치 중요도에 따라 역 워터필링을 통해 비트 예산을 사용하여 읽습니다. 이 방법은 Qwen3-8B 모델에서 백만 토큰 시 디코딩 단계가 Double Sparsity, Loki, SparQ r=32의 136비트 스캔보다 GPU 시간 기준으로 1.67배 빠릅니다.

또한, Fathom은 SparQ의 68비트 읽기(r=16)와 동일한 GPU 시간 내에서 18% 적은 바이트를 읽어내며, 여섯 가지 모델 및 컨텍스트 설정에서 낮은 어텐션 오류를 보였습니다. 특히 RULER 스타일 작업에서는 토큰당 스캔이 정확한 top-k 디코딩과 일치하며, 실제 코딩 에이전트 세션에서는 가장 정확한 136비트 스캔의 단계 일치 수준인 92비트에 도달했습니다.

이 방법은 이미 양자화된 서빙 스택에 저장된 4비트 K 복사본을 활용하며, 인덱스가 GPU 메모리에 상주할 때 더 빨라지는 것은 아닙니다. 따라서 Fathom은 메모리 상주 환경에서 효율적인 희소 디코딩을 위한 새로운 접근 방식을 제공합니다.

언어 모델의 신뢰할 수 있는 배포를 위해서는 출력의 정확도에 대한 보정된 추정치가 필수적입니다. 현재의 신뢰도 추정 방식은 추론 과정 자체를 분석하거나 토큰 확률을 평가하는 것에만 의존하지만, 이는 충분한 근거가 되지 못한다는 문제의식이 제기되었습니다.

이에 연구진은 모델의 축적된 경험을 함께 고려하는 XConf(eXperiential Confidence)라는 새로운 접근 방식을 제안합니다. XConf는 모델이 과거에 수행했던 에피소드들을 기록하여, 각 에피소드에 대한 결과, 모델의 반성, 명시된 자신감, 그리고 교훈을 저장합니다. 새로운 작업이 주어졌을 때 XConf는 유사한 과거 경험을 검색하고 성공률을 바탕으로 자신감을 재평가하는 과정을 거칩니다.

이러한 경험 기반 추정치는 실제 성능에서도 뛰어난 결과를 보였습니다. XConf는 추론 비용을 10분의 1로 줄이면서, 9가지 벤치마크에서 4개 모델을 대상으로 10-샘플 자기 일관성(AUROC)에서 23번의 비교에서 우위 또는 동등한 성능을 달성했으며 보정 오차(ECE)는 훨씬 낮았습니다.

특히 XConf를 선택적 예측에 활용하여 가장 자신감이 낮은 10%의 에피소드를 제외하면 에이전트 작업에서 성공률이 최대 8.7%까지 향상되는 것으로 나타났습니다. 이는 경험적 자신감 추정이 향후 범용적인 신뢰도 추정의 새로운 패러다임이 될 수 있음을 시사합니다.

플레이어블 월드를 위한 5B 자기회귀 세계 모델인 Zing-0.5가 발표되었습니다. 이 모델은 사용자가 생성된 세계를 탐색하고, 발생하는 이벤트를 영향을 미치며, 이에 대한 피드백을 키보드와 온라인 텍스트 제어를 통해 반응할 수 있도록 설계되었습니다. Zing-0.5는 세 가지 주요 기술 기여를 통해 이러한 목표를 달성했습니다.

첫째, 행동 및 텍스트 조건화의 통합으로, 크기 인식 키보드 입력과 시간적으로 정렬된 텍스트 지침, 그리고 공동 주석이 달린 비디오를 결합하여 동일한 시퀀스 내에서 내비게이션과 이벤트 제어를 학습했습니다. 둘째, 점진적 생성을 위한 이벤트 규모 감독을 위해, 연결된 멀티 프롬프트 비디오로 훈련된 세그먼트 수준의 교사를 사용하여 분포 일치 증류를 통해 블록 수준의 인과적 학생을 감독했습니다.

셋째, 저비용 실시간 상호작용을 구현했는데, 네 단계 생성과 컨텍스트 보존 스트리밍을 결합하여 스트림 분당 약 0.009달러의 서버 임대 비용으로 832 x 480 해상도에서 24 FPS 추론을 지원합니다. 이 모델은 158개의 WBench 내비게이션 사례에서 전체 점수 81.0과 일관성 점수 88.5를 달성했습니다.

또한, 지속적인 생성 없이 탐색 중에 텍스트 지향 이벤트 변경이 가능한 공동 제어 시연이 가능합니다. 연구팀은 향후 플레이어블 생성 세계에 대한 작업을 지원하기 위해 모델 가중치, 추론 코드, Zing-SGLang 서빙 구현을 공개했습니다.