학계는 Wikipedia 같은 개방형 지식 체계를 지킬 의무가 있음

생성형 인공지능의 즉답을 수용하고 원문 링크를 확인하지 않는 이용 행태는 개방형 지식 체계의 독자 감소로 이어질 수 있습니다. 이러한 현상은 Wikipedia와 같은 지식 플랫폼을 지탱하는 독자층 감소는 물론, 독자들로부터 충원되는 자원봉사 공동체의 존속까지 위협할 수 있습니다.

Wikipedia는 단순히 AI 학습 데이터 이상의 자치적 지식 공동체이며, 학계는 지식 생산 과정에 적극적으로 참여하고 있습니다. 따라서 AI의 즉답에 의존하는 방식은 이러한 자치적 지식 공동체의 구조와 학계의 지식 생산 과정에 미치는 영향을 고려해야 합니다.

결국, AI를 활용하는 과정에서 원본 출처 확인의 중요성을 인식하고 지식의 생산 및 공유 시스템을 보호하는 것이 필요합니다. 이는 개방형 지식 체계를 지키는 학계의 의무와도 연결되며, 지식의 질과 공동체의 지속 가능성을 확보하는 데 중요한 맥락을 제공합니다.

C# now beats Rust on WASM size

C#이 Rust보다 WebAssembly(Wasm) 크기 면에서 우위를 보인다는 연구 결과가 발표되었습니다. NetWasm은 C# 및 .NET CIL을 WASI 환경에서 독립적인 WebAssembly로 컴파일하는 독립적인 컴파일러, 런타임, SDK입니다. 이 프로젝트는 내장된 런타임과 정밀한 가비지 컬렉터(Precise GC)를 사용하여 컴파일된 결과물의 크기를 최소화하는 데 중점을 둡니다.

NetWasm 0.8.0 버전과 정밀한 가비지 컬렉터를 적용한 결과, 동일한 print-42 워크로드에서 Rust 1.95.0의 크기 기반 프로파일보다 더 작은 결과물을 산출했습니다. 구체적으로 NetWasm은 47,798바이트를 차지한 반면, Rust는 53,635바이트를 차지하여 Raw Wasm 크기에서 10.9% 더 작았습니다. 이는 NetWasm이 데스크톱 CLR이나 Mono 같은 불필요한 라이브러리를 포함하지 않고 C# 코드를 독립적인 Wasm으로 컴파일함으로써 크기를 줄이는 데 성공했음을 의미합니다.

이러한 결과는 C#과 .NET 환경에서 WebAssembly를 활용할 때 크기 효율성을 극대화할 수 있는 새로운 접근 방식을 제시합니다. 다만 이 비교는 특정 워크로드와 프로파일에 대한 측정 결과이며, 언어 전체의 크기 순위를 나타내는 것은 아닙니다. Kotlin/Wasm이나 TinyGo와 같은 다른 언어들의 결과는 더 넓은 환경을 보여주지만, NetWasm은 .NET 생태계의 특성을 고려한 측정치입니다.

2026년은 Rust 컴파일러에게도, 나에게도 흥미진진한 해

Rust 컴파일러에 대한 여러 장기 투자들이 동시에 결실을 맺기 시작했습니다. 차세대 트레이트 솔버와 새로운 빌림 검사기부터 빌드 성능 개선과 내부 구조 개편에 이르기까지 오랫동안 진행된 작업들이 마무리 단계에 접근하고 있습니다.

이러한 작업들은 Rust 타입 시스템의 건전성을 확보하고 컴파일러의 내부 구조를 개선하는 데 중점을 두고 진행되었습니다. 특히 차세대 트레이트 솔버는 타입 시스템의 상당 부분을 재구현하여 시스템의 안정성과 신뢰도를 높이는 데 기여할 것으로 기대됩니다.

개발자들은 이러한 컴파일러 개선이 빌드 성능 향상과 더불어 Rust 생태계 전반의 안정성에 긍정적인 영향을 미칠 것으로 보고 있습니다. 앞으로 공개될 업데이트들을 통해 Rust 컴파일러가 더욱 성숙하고 효율적인 상태로 발전할 전망입니다.

PHP warns it plans to release 2 emergency patches imminently

PHP 유지 관리자들이 12시간 이내에 두 가지 심각한 보안 취약점에 대한 패치를 배포할 계획이라고 경고했습니다. 이 취약점들은 10점 만점에 9.2점의 심각도를 가지며, 웹사이트와 웹 애플리케이션 전반에 사용되는 PHP에 영향을 미칩니다.

이러한 조치는 PHP2Shell과 관련된 것으로 추정되는 취약점에 대한 것으로, 이 취약점은 원격으로 PHP 사이트에서 코드를 실행할 수 있게 할 수 있다는 보고가 있습니다. 따라서 웹 관리자들은 즉시 패치가 배포될 때까지 시스템을 준비하고 업그레이드할 것을 권고하고 있습니다.

PHP 유지 관리자들은 해당 패치를 배포하기 전에 취약점 세부 정보가 공개되거나 실제 악용 증거가 발견될 경우 더 빨리 패치를 공개할 권리를 남겨두었습니다. 개발자들은 보안 위험을 최소화하기 위해 가능한 한 빨리 PHP 버전을 업데이트하여 잠재적인 공격으로부터 시스템을 보호해야 합니다.

The Future of CSS

웹 기술의 보편적인 지원을 개선하기 위해 주요 브라우저 벤더들이 협력하여 진행하는 Interop 프로젝트가 성공적으로 진행되고 있습니다. 이 프로젝트는 CSS Subgrid와 같은 기능이 Interop 2023을 거쳐 주요 브라우저에서 광범위하게 지원되도록 하는 데 기여했으며, 현재는 Interop 2027 계획을 준비하고 있습니다.

모질라 팀은 다음 해 Interop에 포함될 기능을 결정하기 위해 사용자 투표 기반의 순위 시스템을 구축하고 있으며, 개발자들이 가장 요청하는 기능들을 반영하여 CSS의 미래를 설계하고 있습니다. 이 과정에서 CSS 함수 추가, `corner-shape` 속성을 통한 모서리 모양 변경, 스크롤 가능한 의사 요소 등 다양한 혁신적인 기능들이 논의되고 있습니다.

최신 CSS 기능에 대한 지속적인 이해는 앞으로의 웹 경험을 구축하는 데 여전히 중요합니다. LLM의 발전에도 불구하고, 최신 웹 기능을 활용하여 최고의 사용자 경험을 제공하기 위해서는 개발자들이 이러한 기술적 변화를 파악하고 이를 에이전트에게 적용하도록 안내해야 합니다. 따라서 개발자들은 Interop의 진행 상황과 새로운 CSS 기능들을 주시하며 기술적 전문성을 유지할 필요가 있습니다.

Good type against all odds

타이포그래피에서 발생하는 시각적 현상과 디자인의 의도에 대한 글입니다. 화면이 한 번에 전체 픽셀을 변경하지 않고 줄 단위로 업데이트되는 방식 때문에 텍스트가 기울어 보이는 현상이 발생하며, 이는 사진의 롤링 셔터와 같은 효과를 낳습니다. 이러한 현상은 좌우 스크롤 방향이나 기울임의 방향에 따라 다르게 해석될 수 있으며, 이는 디자인에서 어떤 방향이 자연스럽고 적절한지에 대한 질문을 던집니다.

글쓴이는 이러한 현상이 의도적인 선택이었는지, 아니면 기본 설정이었는지에 대해 탐구하며, 이러한 세부 사항을 아는 것의 가치와 이를 소중히 여기는 문화를 만드는 것이 중요하다고 주장합니다. 종종 더 많은 기술적 숙련도가 더 많은 노력을 요구하지만, 올바른 선택을 하면 그 보상을 얻을 수 있습니다.

작성자는 타이포그래피에서 예상치 못한 즐거운 순간들을 예시로 제시하며, 이는 대부분 의도된 디자인의 결과라고 설명합니다. 예를 들어, 5x7 픽셀 폰트의 한계 속에서 이루어진 아이콘이나, 줄 높이를 제거하여 독특한 수직 연결을 만든 예시 등이 포함되어 있습니다.

이러한 사례들은 텍스트의 기울임이나 밑줄 처리 같은 세부적인 요소들이 단순한 결과물이 아니라 숙련된 제작 과정의 결과임을 보여줍니다. 이는 개발자와 디자이너가 단순히 기능을 구현하는 것을 넘어, 디자인의 섬세한 기술적 측면을 이해하고 적용해야 함을 시사합니다.

나의 친구 Bob Cringely

Paul Tyma는 Bob Cringely와 30년간 이어온 인연을 회상했습니다. 이들의 관계는 Java 책에 대한 칭찬 전화로 시작되었으며, 이후 소프트웨어 개발 의뢰, 창업 아이디어 교류, 방송 출연 기회 등으로 발전해 왔습니다.

두 사람은 오랜 기간 동안 소프트웨어 개발과 창업 아이디어를 교류하며 협력 관계를 유지해 왔습니다. 이러한 관계는 단순한 개인적인 친분을 넘어 실제 공동 작업으로 이어졌습니다.

그들의 첫 공동 작업은 Pronto라는 프로젝트였습니다. Pronto는 인터넷 연결의 유휴 시간에 잡지 PDF를 내려받아 집에서 자동으로 인쇄하는 기능을 수행했습니다.

Deepwater Horizon 사고 16년 후에도 심해 생물의 회복 징후는 미미함

멕시코만 심해 생물 개체군의 회복 징후는 16년이 지난 현재에도 거의 발견되지 않는 것으로 연구 결과가 나왔습니다. 멕시코만의 음향 조사와 수천 개의 그물 채집 표본을 분석한 연구에 따르면, 원유 유출 사고 이후 심해 생물 개체군의 회복 증거는 미미한 수준에 머물고 있습니다.

2010년 사고 직후 초기 몇 년 동안 해당 지역의 주요 어종들은 심각한 피해를 입었습니다. 문어, 오징어, 크릴, 새우, 샛비늘치와 같은 심해 생물 개체군은 유출로 인해 최소 60%까지 감소한 것으로 나타났습니다.

연구진은 이 데이터를 통해 원유 유출이 심해 생태계에 미친 장기적인 영향을 분석했습니다. 이는 환경 재앙이 해양 생물 개체군 회복에 얼마나 오랜 시간이 걸리는지 보여주는 중요한 사례이며, 환경 복원 노력이 장기적인 관점에서 얼마나 어려운지를 시사합니다.

OpenIntelligentUI - ChatGPT Intelligent UI의 오픈소스 대체 구현

ChatGPT와 같은 인공지능의 대화형 응답 방식을 자신의 애플리케이션에 구현할 수 있는 오픈소스 프로젝트가 공개되었습니다. 이 프로젝트는 사용자의 질문에 단순히 텍스트로 답하는 것을 넘어 차트, 지도, 계산기, 조작 가능한 설명 등 다양한 형식의 정보를 제공하는 사용자 인터페이스(UI)를 구현하는 것을 목표로 합니다.

핵심 기능은 질문의 내용에 따라 텍스트, 표, 차트, 다이어그램, 대화형 도구 중 가장 적절한 형식을 선택하여 대화 내에 표시하는 것입니다. 이는 텍스트 기반의 답변을 넘어 시각적이고 상호작용적인 정보를 통합하여 사용자 경험을 향상시키는 데 중점을 둡니다.

개발자는 이 프로젝트에서 제시하는 알고리즘을 단계별로 따라 구현함으로써, LLM의 답변을 다양한 형식으로 변환하고 시각화하는 기능을 자신의 앱에 통합할 수 있습니다. 이는 복잡한 데이터를 효과적으로 전달하고 사용자에게 직관적인 방식으로 정보를 제공하고자 하는 애플리케이션 개발에 중요한 참고 자료가 될 것입니다.

Microagi: Accelerating Embodied AGI

Microagi는 구체화된 인공지능, 즉 Embodied AGI를 가속화하는 데 초점을 맞춘 연구 분야를 다루고 있습니다. 이 논문은 물리적 세계와의 상호작용을 통해 학습하고 추론하는 시스템을 개발하는 데 중점을 두고 있습니다.

Embodied AGI는 단순히 소프트웨어 환경에서 작동하는 인공지능을 넘어, 실제 환경에서 감각을 경험하고 행동을 수행하는 물리적 실체로서의 지능을 의미합니다. 이러한 접근 방식은 AI가 현실 세계의 복잡한 물리적 제약과 상호작용을 이해하고 해결하는 능력을 키우는 것을 목표로 합니다.

Microagi는 이러한 Embodied AGI를 달성하기 위한 구체적인 방법론과 기술적 프레임워크를 제시하며, AI 시스템이 실제 환경에서 효과적으로 학습하고 적응하도록 하는 데 기여합니다. 개발자들은 이 논문을 통해 물리적 세계 기반의 지능 시스템을 구축하는 데 필요한 최신 연구 동향과 기술적 방향을 파악할 수 있습니다.

macOS에서 Touch ID로 SSH 키 설정하기

Mac 사용자는 Touch ID를 활용하여 SSH 키 인증을 강화하고 개인 키를 보호할 수 있습니다. 이 기능을 통해 개인 키를 Mac의 Secure Enclave에 안전하게 보관하여 추출이 불가능하게 만들 수 있으며, SSH 인증 시마다 Touch ID로 사용 승인을 요구하여 보안 수준을 높입니다.

이러한 설정은 기본 제공 도구를 사용하여 신원 생성, SSH 에이전트 등록, 공개 키 확인까지 총 세 개의 명령어로 쉽게 구성할 수 있습니다. 이는 복잡한 보안 설정을 직접 다루지 않아도 강력한 키 관리 시스템을 구축할 수 있게 해줍니다.

결과적으로 사용자는 SSH 키와 같은 민감한 정보를 Touch ID라는 생체 인식을 통해 보호함으로써, 시스템 접근에 대한 추가적인 인증 단계를 확보하게 됩니다. 이 방법은 GitHub를 포함한 다양한 서비스의 SSH 인증 과정에도 적용되어 보안을 향상시킵니다.

A complete bypass of eMudhra’s 1FA OTP login system

eMudhra의 1단계 인증(1FA) OTP 로그인 시스템을 완전히 우회하는 방법이 발견되었습니다. 이는 해당 보안 시스템의 인증 절차에 심각한 취약점이 있음을 시사합니다.

해당 기사는 eMudhra 시스템의 보안 메커니즘을 무력화하는 구체적인 방법을 다루고 있습니다. 개발자 및 보안 전문가들은 이 취약점이 실제 시스템에 적용될 경우 사용자 인증 및 보안에 미치는 영향을 분석해야 합니다.

이러한 발견은 OTP 기반 인증 시스템의 설계 및 구현 방식에 근본적인 문제가 있을 수 있음을 의미합니다. 따라서 시스템을 사용하는 모든 측은 이 취약점을 인지하고 즉각적인 보안 조치를 취해야 합니다.

eMudhra 중간 인증서 침해에 따른 Firefox 사용자 보호 조치

eMudhra 중간 인증서 8개에 연결된 개인 키가 침해되었다는 신고가 Mozilla에 접수되었습니다. 이로 인해 공격자는 자신이 통제하지 않는 웹사이트에 대해 위조된 HTTPS 인증서를 발급할 수 있는 심각한 보안 문제가 발생했습니다.

공격자는 이 침해된 개인 키를 이용하여 위조 인증서를 생성하고 이를 통해 웹사이트를 사칭할 수 있습니다. 이는 사용자 연결을 가로채고 트래픽을 감시하는 데 사용될 수 있는 위험을 초래합니다.

결과적으로 공격자는 위조 인증서를 활용하여 사용자를 속이고 트래픽을 가로채는 방식으로 보안을 위협합니다. 이러한 상황에 대응하여 Mozilla는 Firefox 사용자들을 보호하기 위한 조치를 취하고 있습니다.

YouTube might be testing hiding the dislike button

유튜브가 동영상에서 싫어요 버튼을 숨기는 테스트를 진행하고 있는 것으로 보입니다. 9to5Google의 보도에 따르면, X(구 트위터)에서 최소 두 사용자가 싫어요 버튼이 세로 점 메뉴 하위 메뉴로 이동한 스크린샷을 공유했으며, 레딧 사용자도 해당 버튼이 완전히 사라진 이미지를 공유했습니다.

현재 이 버튼은 좋아요 버튼 바로 옆에 위치하고 있지만, 이를 하위 메뉴로 이동시킬 경우 접근성이 크게 떨어져 사용률이 감소할 수 있다는 분석이 제기됩니다. 이는 유튜브가 사용자 인터페이스의 디자인과 기능 배치에 변화를 주고 있음을 시사합니다.

과거에도 유튜브는 싫어요 기능에 변화를 주어 사용자들이 불편을 겪은 바 있습니다. 예를 들어, 싫어요 카운터가 제거되었고 쇼츠에서는 버튼이 완전히 사라지는 등 여러 차례의 변경이 있었습니다. 이러한 변화는 유튜브 플랫폼의 사용자 경험과 기능 구현 방식에 어떤 영향을 미칠지 주목할 필요가 있습니다.

Learning from Automatic 3D Gaussian Splatting Edits for Online Bayesian Scene Change Detection

온라인 장면 변화 탐지는 새로운 관측값을 통합하여 기준 장면 대비 어떤 영역이 변경되었는지 판단해야 합니다. 이를 위해 일반화된 베이지안 증거 융합을 사용하여 새로운 이미지가 도착할 때마다 변화에 대한 믿음을 업데이트합니다. 하지만 변화에 대한 사전 확률이나 증거 모델은 사전에 알려져 있지 않으며, 수치 베이지안 추론은 비용이 많이 듭니다.

연구진은 이러한 문제를 해결하기 위해 기준 3D Gaussian Splatting(3DGS) 모델의 자동 편집으로부터 오프라인으로 학습을 진행합니다. 이 편집들은 수동 주석 없이 레이블이 지정된 학습 시점을 생성하며, 변경되지 않은 기준 관측값과 함께 장면별 증거 모델 및 효과적인 픽셀 사전 및 반응 통계를 학습하는 데 필요한 감독 정보를 제공합니다.

온라인 예측 단계에서는 현재 증거와 과거 지원을 결합하며, 학습된 반응 통계로 매개변수화된 폐쇄형 국소 베이즈 인자(local Bayes factors)를 사용하여 누적된 3D Gaussian 필드를 업데이트합니다. 최종적으로 객체 기반 정제(Object-guided refinement)를 통해 최종 변화 마스크를 생성합니다.

이 방법은 PASLCD와 CCS3D에서 각각 67.64%와 75.82%의 mIoU로 최고 수준의 정확도를 달성했습니다. 특히 PASLCD의 경우 전체 파이프라인이 완전한 질의 시퀀스에 걸쳐 17.2 FPS로 실행되어 평가된 온라인 방법 중 가장 빠른 속도를 보였습니다.

CausalAlign: Causal Alignment of Video Generation Models for Consistent Ego-Motion

확산 기반 비디오 생성 모델(VGM)은 시각적으로 그럴듯한 영상을 생성할 수 있지만, 카메라 에고 모션이 장거리에서 드리프트되는 문제가 있습니다. 카메라 에고 모션은 프레임 간 시점 변화를 결정하며 일관된 기하학 및 궤적을 유지하는 데 필수적입니다. 이 문제를 해결하기 위해 본 논문은 인과적 정렬 프레임워크인 CausalAlign을 제안합니다.

CausalAlign은 두 가지 구성 요소로 이루어져 있습니다. 첫째, 선형 프로브와 인과적 개입을 사용하여 VGMs 내에서 정밀한 에고 모션이 어떻게 표현되고 사용되며 유지되는지 진단하고, 디노이징 과정에서 상승 및 하강 패턴을 밝혀냅니다. 둘째, 델타 토큰 공간을 통해 표현을 3D 기반 모델과 정렬하여 VGM 내의 에고 모션 상태를 강화합니다. 이 공간은 연속된 프레임 간의 변화를 인코딩하여 정적인 장면 내용이 아닌 에고 모션 역학에 초점을 맞출 수 있게 합니다.

Wan2.2 모델을 DL3DV와 RealEstate10K로 미세 조정했을 때 CausalAlign은 시각적 품질을 유지하면서 모션 정확도, 기하학적 일관성, 시간적 부드러움을 크게 개선합니다. 예를 들어, 기하학적 일관성은 기본 모델 대비 20% 이상 향상되었습니다. 또한, 미세 조정된 VGM을 사용하면 RoboCasa365 벤치마크의 모바일 조작 작업에서 월드 액션 모델(WAM)의 성공률이 10% 포인트 향상됩니다.

결론적으로 CausalAlign은 확산 기반 VGM의 에고 모션 일관성을 개선하고 구체적인 임베디드 모델에서 눈에 띄는 성능 향상을 제공합니다.

Rethinking Video Storage for AI Training: Breaking Cross-Frame Dependencies for Efficient Random Access

대규모 AI 학습은 무작위 시간 샘플링 패턴을 가진 방대한 비디오 데이터셋에 크게 의존하고 있습니다. 하지만 기존의 비디오 저장 패러다임은 순차 재생에 최적화되어 있으며, 압축 효율을 극대화하기 위해 정교한 프레임 간 참조 구조를 사용합니다. 이러한 방식이 AI 학습의 무작위 샘플링 워크로드에 적용될 경우, 디코딩 효율성에서 상당한 병목 현상이 발생합니다.

연구진은 이러한 문제의 원인으로 관련 없는 프레임의 순차적 재구성 및 샘플링된 대상에 필요한 참조 체인의 재구성을 디코드 증폭의 두 가지 주요 원인으로 식별했습니다. 이를 해결하기 위해 디코딩 스케줄과 비디오 참조 구조를 공동 설계하는 방법을 제안합니다. 특히 의존성 인식 희소 디코딩(Dependency-aware sparse decoding)은 소스 비디오를 트랜스코딩하지 않고도 요청된 프레임과 필요한 참조만 재구성하여 관련 없는 재구성을 건너뜁니다.

추가적으로, 오프라인 의존성 분리 랜덤 액세스(DDRA) 인코딩을 선택적으로 적용하면 참조 재구성을 더욱 줄일 수 있습니다. DDRA는 각 내부 프레임을 두 개의 경계 내부 코딩된 앵커로 제한하여 참조 재구성을 줄입니다. 이 두 기술을 결합하면 프레임 간 예측을 유지하면서 요청된 대상당 최대 세 프레임으로 재구성을 제한할 수 있습니다.

대규모 로보틱스 코퍼스에 대한 실험 결과, 이 방법은 재구성 품질이 유사함에도 불구하고 LeRobot v3보다 1.45배 높은 로딩 처리량을 달성했으며 미디어 페이로드는 58.7% 감소했습니다. 이는 효율적인 비디오 저장 및 접근 방식을 통해 AI 학습에 필요한 데이터 처리 효율을 크게 개선할 수 있음을 보여줍니다.

Steering Black-Box Large Language Model Agents with Pitfall Anticipation World Model

블랙박스 대규모 언어 모델(LLM) 에이전트는 장기 추론과 정밀한 행동 생성에는 능숙하지만, 특정 에이전트 작업에서 환경이 어떻게 전개될지에 대한 내재적 지식은 부족합니다. 따라서 에이전트가 행동을 취할 때 환경이 어떻게 반응할지 예측하여 환경 특화 지식을 제공하는 월드 모델이 해결책을 제시합니다. 기존의 월드 모델은 각 단계의 다음 관측만을 예측하여 비용이 많이 들고 정보가 제한적이라는 한계가 있었는데, 이는 에이전트 작업에 필요한 예측의 범위와 호출 시점에 대한 근본적인 질문을 제기합니다.

연구진은 월드 모델 가이드가 유한한 다단계 미래 내의 잠재적 위험을 예측할 때 가장 유용하다고 제안하며, 이를 바탕으로 위험을 예측하고 에이전트가 이를 회피하지 못할 상황을 예측하는 피할 위험 예측 월드 모델(Pitfall Anticipation World Model, PAWM)을 도입했습니다. PAWM은 에이전트의 위험을 예측하여 개입하는 방식으로 작동하며, 이 모델은 두 단계로 훈련됩니다. 첫째는 에이전트의 위험에 레이블이 지정된 합성 데이터에 대한 지도 미세 조정(SFT)이며, 둘째는 목표 환경에서 최적화를 위해 블랙박스 LLM과의 GRPO 공동 훈련입니다.

이러한 PAWM은 블랙박스 LLM 에이전트의 성능을 효과적으로 향상시켰습니다. 구체적으로 Claude Sonnet 4.5의 성능을 ScienceWorld에서 24.3%, WebArena-Lite에서 7.7% 향상시켰으며, 이는 다른 기준 모델들을 능가하는 결과입니다. 이 연구 결과는 PAWM이 블랙박스 LLM 에이전트에게 효과적인 월드 모델 가이드 역할을 제공함을 입증합니다.

LLM2Cert: LLM Synthesis of Certificates with SMT/Lean Verification

리야푸노프 함수와 장벽 증명서는 안정성과 안전성에 대한 상태 공간 보장을 제공하지만, 특히 비선형적이고 고차원적인 시스템에 대해서는 이를 합성하고 검증하는 것이 여전히 해결해야 할 과제입니다. 기존의 검증 파이프라인은 수치 솔버(sum-of-squares 프로그램), 구간 방법, 또는 만족성-모듈로-정리(SMT) 솔버를 사용하여 후보를 검증하는데, 이는 종종 완화(relaxation)를 필요로 하거나 보수적이며 모델 차원과 비선형성에 따라 확장성이 떨어지는 한계를 가집니다. 이러한 한계는 표준 테스트 스위트가 공학적 응용 분야가 요구하는 것보다 솔버가 처리할 수 있는 저차원 다항식 시스템에 치우쳐 설계되는 방식으로 이어졌습니다.

이러한 문제에 대응하기 위해 연구진은 DynaCertBench라는 105개의 인스턴스로 구성된 벤치마크를 도입했습니다. 이 벤치마크는 안정성, 수렴 영역, 순방향 불변성, 안전성 작업을 포괄하며 고차원 및 제어 제약 변형 시스템을 포함합니다. 또한, LLM2Cert라는 LLM 기반 프레임워크를 제시했는데, 이는 후보 증명을 합성하고 증명 의무에 대해 검증하는 역할을 합니다. 이 프레임워크는 각 의무를 SMT 솔버나 Lean Proof-Repair 에이전트로 직접 라우팅합니다.

DynaCertBench에서 LLM2Cert는 105개 인스턴스 중 81개를 검증하는 데 성공했으며, 이는 피드백 없는 일회성 제안보다 17.1퍼센트 포인트 개선된 결과입니다. 또한, 고정된 증명에 대해 LLM2Cert는 All-SMT가 해결하지 못한 22개의 증명도 검증해냈습니다. 이 연구는 고차원 비선형 시스템의 안정성 보장을 위한 자동화된 증명 및 검증 방법론을 제시합니다.

Building Auditable AI Text Detectors with Sparse Autoencoders

AI 생성 텍스트 탐지기는 심사, 교육, 채용 등 개인에게 직접적인 영향을 미치는 중요한 영역에 점점 더 많이 사용되고 있습니다. 하지만 현재 가장 강력한 탐지기는 결정 과정이 불투명한 미세 조정된 신경 분류기(neural classifiers)이며, 투명한 대안들인 스타일로메트리나 언어적 특징 분류기는 그 성능에서 큰 차이를 보입니다.

본 논문은 미세 조정된 신경 탐지기를 인간이 이해할 수 있는 개념에 기반한 분류기로 변환하는 파이프라인을 제시합니다. 이를 위해 탐지기의 잔차 스트림(residual stream)에 직접 희소 자동 인코더(Sparse Autoencoders, SAEs)를 훈련하고, 각 SAE 특징에 자동 해석 레이블을 할당한 후, 전역 충실도 임계값을 통과하는 특징만 보존합니다.

연구 결과, 이러한 SAE는 AI 생성 텍스트의 매우 구체적이고 예측 가능한 언어적 '특징'에 해당하는 잠재 개념을 복구해냈습니다. 이 추출된 특징들을 기반으로 구축된 분류기는 높은 해석 가능성을 가지며, 신경 방식이나 스타일로메트리 방식보다 분포 외 텍스트(out-of-distribution texts)에서 더 강력한 성능을 보였습니다.