읽을 가치가 있는 기사만, 짧고 또렷하게.

디지털 회로 설계와 운영체제 연동에 관심이 많은 개발자 VARZero(비으비)는 3DoF(3축) VR/AR HMD를 위한 구 공간 디스플레이 시스템을 구현하는 것에 주목하고 있습니다. 이러한 시스템 구축은 하드웨어와 소프트웨어의 통합에 대한 깊은 이해를 요구하는 도전적인 목표입니다.

개발자는 최근 바이브 코딩과 에이전틱 AI의 발전 덕분에 개발 속도가 빨라지고 개발이 쉬워지고 있다는 점에 주목하고 있습니다. 이러한 기술 발전은 복잡한 디지털 회로 설계와 OS 연동을 목표로 하는 프로젝트에 새로운 개발 패러다임을 제공합니다.

따라서 VR/AR 디스플레이 시스템과 같은 첨단 분야에서 하드웨어 설계 지식과 최신 AI 기반 코딩 기술을 결합하는 것이 중요해지고 있습니다. 이는 개발자들이 복잡한 시스템을 더 효율적으로 구현하고 OS와 연동하는 데 필요한 새로운 접근 방식을 제시합니다.

1980년, 밴드 네가티브랜드(Negativland)는 수제 표지의 앨범을 배포하며 시작했고, 이후 '컬처 재밍(culture jamming)'이라는 접근 방식을 통해 다양한 출처의 예술을 겹치는 방식으로 작업했습니다. 이들은 미디어, 저작권, 예술적 자유에 대한 관습에 도전하며 권력과 자본에 저항하는 오디오 콜라주 예술을 통해 대중에게 반응하고 설명하는 것을 목표로 했습니다.

네가티브랜드는 저작권 침해 소송을 당하는 등 법적 논쟁을 겪었으며, 이 과정에서 저작권 개혁의 필요성을 강조하는 책과 강연을 통해 예술과 법의 교차점에 대해 논의했습니다. 또한 인터넷 아카이브와 협력하여 1981년부터 방송된 그들의 라이브 라디오 프로그램인 '오버 더 엣지(Over The Edge)'의 4,000시간 이상의 기록을 보존하고 무료로 공개하는 데 기여했습니다.

이들은 음악 샘플링뿐만 아니라 사진, 시각 예술, 라이브 퍼포먼스 등 다양한 매체를 아우르며 지난 46년간 끊임없이 혁신해 왔습니다. 밴드는 개인의 정체성보다는 그들의 작업 자체에 대중의 관심을 집중시키고자 하며, 라이브 공연은 '진정한 괴짜들'을 위한 안전한 공간을 제공한다고 설명합니다.

현재 네가티브랜드는 원격 협업을 통해 계속해서 창의적인 충동을 바탕으로 새로운 것을 만들고 공유하며, 그들의 작업은 기술의 변화에 맞춰 진화하고 있습니다.

Cody Ho와 Niklas는 약 한 달 만에 M4 Mac Mini와 MacBook Neo용 OpenGL ES 3.0을 완벽하게 준수하는 GPU 드라이버를 개발했습니다. 이 성과는 Apple Silicon 하드웨어에 대한 깊은 이해를 바탕으로, 기존 하이퍼바이저를 사용하여 macOS의 GPU 동작을 관찰하고 재생하는 방식으로 진행되었습니다.

이들은 기존 하이퍼바이저를 통해 macOS의 GPU 동작을 관찰하고 재생하는 과정을 통해 AGX 펌웨어 ABI를 역공학했습니다. 이는 Apple의 바이너리를 직접 보지 않고 클린룸 방식으로 실험을 진행하여, 하드웨어 레벨의 동작 방식을 분석하고 드라이버를 구현하는 데 필요한 핵심적인 지식을 확보했음을 의미합니다.

이러한 연구는 macOS 환경과 Linux 환경 간의 GPU 드라이버 및 하드웨어 인터페이스 문제를 해결하는 데 중요한 기반을 제공합니다. 개발자들은 이 연구를 통해 독점적인 Apple 하드웨어에 대한 접근성을 높이고, 오픈 소스 환경에서 새로운 GPU 드라이버를 개발하는 데 필요한 기술적 난제를 극복하는 방법을 제시했습니다.

최근 AI 기술의 발전으로 사진이 실제 사건을 기록했는지 여부를 구별하기 어려워지면서 사진의 진위 여부를 검증하는 문제가 중요해지고 있습니다. 기존의 C2PA 표준 방식은 편집 과정에서 보안 취약점이 발생하거나 개인 정보 노출 위험이 있어 신뢰성을 확보하는 데 한계가 있었습니다.

이에 애플은 아이폰 카메라 센서와 시스템의 보안을 기반으로 사진의 진위 여부를 검증하는 새로운 방법인 애플 레퍼런스 이미지(Apple Reference Image)를 개발했습니다. 이 시스템은 아이폰 18 Pro 및 18 Pro Max에 탑재된 커스텀 이미지 센서와 프라이빗 클라우드 컴퓨팅(PCC) 인프라를 활용하여 사진이 실제로 센서에 의해 특정 시점에 촬영되었음을 보장합니다.

이 새로운 접근 방식은 사진의 원본 데이터가 편집 과정에서 위변조될 가능성을 차단하고, 사진의 출처와 기록을 안전하게 보존하는 것을 목표로 합니다. 애플 레퍼런스 이미지는 사진의 진본성, 보안 취약점으로부터의 복원력, 그리고 개인 정보 보호라는 세 가지 핵심 요구 사항을 충족하며, 사진이 실제 센서에서 촬영된 사진이라는 신뢰할 수 있는 보증을 제공합니다.

북스(Boox)가 스마트폰 크기의 흑백 전자책 리더기인 팔마(Palma) 3를 출시하며 디자인 개선과 새로운 기능, 그리고 스타일러스 지원을 추가했습니다. 이는 지난 업데이트로부터 약 2년 만에 이루어진 발표로, 사용자가 어떻게 활용할지에 따라 상당한 가격 인상분을 정당화할 수 있는 작은 업데이트들이 포함되어 있습니다.

팔마 2가 2024년에 279.99달러에 출시된 데 비해, 팔마 3는 339.99달러에 책정될 예정이며 곧 출시될 것으로 예상됩니다. 가장 눈에 띄는 업그레이드는 하드웨어 자체에 있으며, 이전 모델과 동일한 6.13인치 300ppi E Ink Carta 화면을 유지하고 있습니다.

다만, 외관 디자인이 새롭게 바뀌면서 알루미늄 프레임으로 감싸는 방식으로 변경되었고, 스타일러스 지원 기능이 추가되어 사용 경험이 개선되었습니다. 이 새로운 모델은 기존의 성능을 유지하면서도 외관과 인터페이스 측면에서 변화를 주어 가격 상승에 대한 가치를 제공합니다.

래블업의 기술을 바탕으로 AI를 만들어가는 사람들을 위한 개발자 컨퍼런스가 개최됩니다. 2021년 온라인으로 첫 발을 내디딘 lab | up >/conf는 래블업이 개발해 온 Backend.AI와 AI 기술을 기반으로 시작된 정기 컨퍼런스입니다.

이 컨퍼런스는 AI 개발에 관심 있는 많은 개발자들이 함께 참여하여 지식을 공유하는 것을 목표로 합니다. 해마다 컨퍼런스를 통해 AI 관련 기술을 만들어가는 과정에 참여하는 사람들이 모여 함께 성장할 수 있도록 기회를 제공합니다.

참가자들은 래블업의 기술을 활용하여 AI를 구현하는 방법에 대한 심도 있는 논의를 진행하게 됩니다. 이는 AI 기술을 실질적으로 만들어가는 개발자들에게 중요한 인사이트를 제공하는 데 중점을 둡니다.

캐논이 보급형 풀프레임 카메라 EOS R8의 두 번째 세대인 EOS R8 Mark II를 발표하며 새로운 디자인과 손떨림 방지 기능(IBIS)을 추가했습니다. 이 손떨림 방지 기능은 2023년 출시된 초기 R8 모델에서 제외되었던 가장 주목할 만한 기능 중 하나로, 더 큰 풀프레임 촬영을 원하는 사진작가들에게 중요한 개선점으로 평가됩니다.

새로운 EOS R8 Mark II는 추가된 안정화 기능 덕분에 이전 모델보다 1.2파운드 더 무거워졌지만, 이는 이전 세대인 EOS R6 Mark III보다 더 가볍고 저렴한 가격으로 책정되었습니다. 이는 R8이 작고 저렴한 대안으로 출시되었던 배경을 고려할 때, 사용자들은 가격과 기능 사이에서 어떤 균형을 선택할지 고려해야 합니다.

해당 제품은 10월 말경에 1,899달러의 가격으로 출시될 예정입니다. 따라서 R8 Mark II는 보급형 카메라 시장에서 안정화 기능을 제공하면서도 경쟁 모델 대비 가격 경쟁력을 유지하려는 캐논의 전략을 보여줍니다.

웹 개발에 익숙한 HTML, CSS와 DOM API를 활용하여 터미널 UI와 대화형 CLI를 만들 수 있는 JavaScript/TypeScript 라이브러리 TermDOM이 소개되었습니다. 이 라이브러리는 별도의 터미널 위젯 API를 학습할 필요 없이, 기존 웹 환경에서 사용되는 HTML 요소를 생성하고 DOM을 수정하는 방식으로 화면을 구성합니다.

TermDOM은 HTML과 CSS 지식을 기반으로 화면을 구성하며, 노드가 변경될 때마다 스타일과 배치를 자동으로 다시 계산하여 동적인 UI를 구현합니다. 이는 개발자들이 익숙한 웹 기술을 활용하여 터미널 환경에서도 복잡한 사용자 인터페이스를 구축할 수 있게 해줍니다.

따라서 웹 개발 경험이 있는 개발자들은 새로운 터미널 위젯 API를 익히는 대신, HTML과 DOM 조작에 대한 이해를 바탕으로 터미널 애플리케이션을 개발할 수 있다는 장점이 있습니다. 이 접근 방식은 웹 개발에 익숙한 개발자들이 터미널 기반의 대화형 인터페이스를 더 쉽게 만들 수 있도록 돕습니다.

엔비디아의 젠슨 황 CEO는 인공지능 안전에 대한 규제보다는 안전 문제를 엔지니어링 문제로 접근해야 한다고 주장했습니다. 그는 인공지능이 새로운 형태의 '외계 지능'이 아니라 인간이 만든 하드웨어와 소프트웨어일 뿐이므로, 안전은 각 AI 제품 개발자가 공학적으로 설계하여 해결할 수 있다고 강조했습니다. 따라서 새로운 법률이나 규제는 필요하지 않으며, 자유 시장이 기업들에게 안전하지 않은 제품을 출시하지 않도록 압력을 가할 것이라고 보았습니다.

황 CEO는 시장의 힘을 신뢰하며, 기업들이 혁신과 속도를 추구하는 동시에 안전을 확보할 수 있다고 주장했습니다. 다만, 그는 기업들이 제품의 기능, 능력, 안전성에 대해 확신이 없을 때는 출시를 보류해야 하며, 안전에 대한 확신을 얻을 때까지 속도를 조절해야 한다고 조언했습니다. 이는 AI 시스템 개발 과정에서 속도와 안전 사이의 균형을 어떻게 맞출지에 대한 중요한 시사점을 제공합니다.

하지만 이러한 '방치' 전략이 사회적 안전 측면에서 현명하지 않을 수 있다는 비판도 제기됩니다. 이미 일부 기업들은 의도와 관계없이 결함 있는 소프트웨어를 출시했으며, 메타는 아동 대상 소셜 미디어 피해에 대해 180억 달러의 소송 합의금을 지불했습니다. 또한, AI 모델의 해킹이나 챗봇과의 대화 과정에서 발생한 개인적 피해 사례 등 AI가 이미 실질적인 해악을 초래하고 있기 때문에, 기업의 자율 규제만으로는 충분하지 않다는 지적이 나옵니다.

결국 AI 안전을 확보하기 위해서는 산업 차원의 자율 규제를 신속히 도입하고, 미국뿐만 아니라 전 세계적으로 안전에 대한 우려를 공유하며 협력해야 할 필요가 있습니다. 이는 AI 기술의 발전 속도에 맞춰 안전 기준을 설정하고 책임 있는 개발을 장려하기 위한 필수적인 접근 방식입니다.

파운데이션 모델 학습을 위한 고품질 데이터 준비에는 이질적인 문서와 비디오를 구조화된 레코드로 변환하는 확장 가능한 파이프라인이 필요합니다. 기존 시스템들은 병렬 처리를 숨기거나 애플리케이션이 계보와 재그룹화를 직접 관리하도록 강제하여 데이터의 관계를 유지하는 데 어려움을 겪었습니다. 이에 RayOrch는 실행 전반에 걸쳐 부모-자식 관계를 보존하는 프로그래밍 모델 및 분산 실행 엔진을 제시합니다.

RayOrch는 프로그램이 순서가 지정된 가변 크기 확장과 일치하는 모으기(matching gathers)를 선언하도록 하며, 컴파일러가 각 쌍을 검증하고 런타임에서 자식의 멤버십, 즉각적인 부모, 불변 순서, 종료 상태 등을 기록합니다. 이를 통해 결과는 배치 경계가 아닌 선언된 멤버십과 순서를 기반으로 재구성됩니다. 특히, 부모 스코프의 실패를 처리하여 실패한 부모의 미배치된 형제들을 억제하면서도 관련 없는 부모들이 계속 실행될 수 있도록 합니다.

NVIDIA H20 GPU 환경에서 RayOrch는 성능 향상을 입증했습니다. MinerU를 4개에서 64개 GPU로 확장할 때 15.14배의 속도 향상을 달성했으며, 비디오 파이프라인을 8개에서 64개 GPU로 확장할 때는 7.82배의 속도 향상을 보였습니다. 또한 Ray Data나 Daft와 비교했을 때 MinerU에서는 엔드투엔드 시간을 13.1% 단축하고 Docling에서는 16.0% 단축하는 결과를 보였습니다. RayOrch 코드는 GitHub에서 공개되어 있습니다.

소수샷 학습 연구는 정확도에만 집중하여 필요한 파라미터와 훈련 샘플 예산에 대한 고려가 부족하다는 한계를 가지고 있습니다. 이에 본 논문은 고성능 컴퓨팅 자원이 제한적인 실무자들을 위해, 고정된 가보(Gabor) 엣지 에너지 가이드와 윈도우 기반의 콘텐츠 적응형 패치 위치 찾기를 결합한 초경량 공간-관계형 아키텍처를 제안합니다.

이 아키텍처는 22,249에서 34,917개의 파라미터를 사용하여 소수샷 이미지 분류를 수행하며, 기존의 Prototypical Networks, Relation Networks, MAML 등의 베이스라인 모델보다 27~53% 적은 파라미터를 사용하면서도 5샷 정확도 향상을 달성했습니다. 이는 CIFAR-FS와 MiniImageNet에서 모든 시드에 걸쳐 일관된 결과를 보였으며, 훈련 에피소드 수 또한 줄여 효율성을 입증합니다.

또한, 이 모델은 보지 못한 세부 도메인(CUB-200-2011 새)으로의 일반화 능력이 뛰어나며, 50% 가림 및 25% 공간 변위 상황에서도 기존 모델들보다 더 강건한 성능을 보입니다. 실험 결과에 따르면, 모델의 성능은 쌍별 관계 계산보다는 콘텐츠 적응형 패치 위치 찾기가 주요 동인임을 확인했으며, 실제 정확도는 22~35k 파라미터 근처에서 정체되는 것으로 나타났습니다.

비즈니스 인텔리전스(BI)는 Power BI나 Tableau와 같은 소프트웨어에서 기업 의사결정의 핵심이며, 전통적인 BI 워크플로우에서는 사용자가 관련 테이블 식별, 데이터 변환, 조인 관계 구축 등의 준비 과정을 거쳐야만 질문에 답할 수 있어 복잡하고 시간이 많이 소요됩니다. 이러한 수고로운 준비 과정을 생략하고 LLM이 엔드투엔드 BI 질문에 답할 수 있는지 연구하기 위해, 실제 사용자 대시보드에서 질문과 정답 쌍을 수집하여 최초의 벤치마크인 BI-Bench를 개발했습니다.

BI-Bench 연구 결과, 최첨단 LLM조차도 BI 작업에서 50% 미만의 정확도를 보였기 때문에, 연구진은 구조화된 데이터에 대해 검색, 조인, 변환과 같은 하위 작업을 분해하고 BI 단계를 관장하는 전문적인 데이터 관리 방법을 조정하는 도구 증강형 BI 에이전트(BI-Agent)를 설계했습니다. 또한 실제 BI 프로젝트의 훈련 궤적을 합성하여 지도 미세 조정(SFT)과 강화 학습(RL)을 통해 BI-Agent를 추가로 미세 조정할 수 있는 프레임워크를 개발했습니다.

이러한 접근 방식을 통해 BI-Agent는 순수 LLM 대비 최대 40퍼센트 포인트의 정확도 향상을 달성했으며, 추가적인 미세 조정을 거친 BI-Agent는 최대 30퍼센트 포인트의 정확도 향상을 보였습니다. 이 결과는 복잡한 BI 워크플로우에서 도구 증강 추론과 도메인별 후속 훈련을 결합하는 것의 중요성을 강조하며, 향후 연구 방향에 대한 유망한 지점을 제시합니다.

대규모 언어 모델(LLM)은 장기 계획을 위한 유연한 인터페이스를 제공하지만, 생성된 계획은 신체 구현 제약 조건을 준수하거나 계획 오류에서 회복하거나 부분 관찰 하에서 효과적으로 추론하는 데 종종 실패합니다. 이 문제를 해결하기 위해 연구진은 명시적인 그래프 세계 모델을 기반으로 장기 LLM 계획을 검증하고 수정하는 프레임워크인 GAVEL을 제시했습니다.

GAVEL은 관련 객체 관계, 행동의 선행 조건 및 효과, 그리고 관찰되지 않은 객체 위치에 대한 확률적 믿음을 나타내는 그래프를 구축합니다. 이 모델은 실행 전에 LLM이 생성한 행동의 결과를 예측하고 위반 사항을 감지하며, 수정 사항이 세계 모델에서 직접 도출되도록 오류를 수정할 수 있습니다. 또한 GAVEL은 의미론적 추론이 필요한 오류를 제외하고 LLM의 재계획을 제한하여 효율성을 높입니다.

다중 작업 지침의 경우, GAVEL은 가능한 객체 위치의 분포에 대해 추론하여 나머지 하위 작업을 재정렬하고 예상 탐색 비용을 최소화합니다. BEHAVIOR-1K 데이터셋을 사용하여 평가한 결과, Qwen3-8B 모델에서 GAVEL은 단일 작업 성공률을 41.2%에서 91.8%로, 다중 작업 성공률을 19.9%에서 92.6%로 향상시켰습니다.

추가적으로 분포적 믿음 추론은 정적 변형에 비해 이동 거리를 약 5.4% 줄이는 효과를 보였습니다. 이러한 개선 사항은 명시적인 그래프 세계 모델 활용이 LLM의 능력 전반에 걸쳐 장기 신체 구현 계획의 신뢰성과 효율성을 실질적으로 향상시킬 수 있음을 보여줍니다.

대규모 오디오-언어 모델은 음성을 직접 처리하고 사기 관련 증거에 대해 추론함으로써 사기 방지 탐지에 잠재력을 보여줍니다. 그러나 이러한 모델을 실제 환경에 적용하기 위해서는 서비스 시나리오 식별, 사기 탐지, 조건부 사기 유형 분류로 구성된 구조화된 의사 결정 프로토콜을 따라 예측이 이루어져야 합니다. 기존의 미세 조정이나 프롬프트 기반 접근 방식은 모델 파라미터나 수동으로 유지되는 프롬프트에 작업 지식, 제약 조건, 의사 결정 규칙을 인코딩하므로 사기 패턴과 레이블링 정책이 발전함에 따라 적응하기 어렵습니다.

이에 연구진은 기반 오디오-언어 모델을 변경하지 않으면서 외부 레이어의 스킬 프로그램, 경로별 정책, 의사 결정 규칙을 최적화하는 구조화된 동결 가중치 적응 프레임워크인 FRAUDSkill을 제안합니다. 이 방법은 구조화된 출력 제어와 검증 기반 다중 경로 추론을 결합하여 프로토콜을 준수하는 예측을 보장합니다.

TeleAntiFraud 벤치마크에서 FRAUDSkill은 73.50%의 매크로 F1 점수를 달성하며 공유 동결 모델 기준선보다 31.96% 높은 성능을 보였습니다. 또한, 잘못된 출력 수를 1.94%로 줄여 프로토콜 준수를 강화했습니다. 광범위한 실험 결과는 외부 스킬 최적화가 기반 모델을 수정하지 않고도 구조화된 오디오 사기 방지 탐지를 위한 효과적이고 적응 가능한 해결책을 제공함을 입증합니다.

테스트 시 스케일링(Test-time scaling)은 여러 후보 응답을 생성하고 결합하여 대규모 언어 모델의 추론 능력을 향상시키는 방법입니다. 샘플링 기반 방법에서 추론 예산은 생성된 후보의 수 N으로 표현되지만, 이는 후보의 수만을 나타낼 뿐 실제 실행 비용을 의미하지는 않습니다. 동일한 후보 예산은 한 번의 배치 생성 호출로 이루어지거나 여러 개의 순차적인 호출로 분할될 수 있습니다.

연구진은 Phi-3-mini와 Qwen2.5-1.5B 모델을 사용하여 500 GSM8K 프롬프트에 대해 N을 증가시키는 것이 추론 정확도에 미치는 영향을 조사했습니다. 예상대로 N을 1에서 8로 증가시키자 Phi-3-mini의 정확도는 8.4퍼센트 포인트, Qwen2.5-1.5B의 정확도는 18.4퍼센트 포인트 향상되었습니다. 그러나 정확도만으로는 더 큰 후보 예산 사용에 따른 시스템 비용을 파악할 수 없습니다.

따라서 연구는 N=8로 고정하고 1x8, 2x4, 4x2, 8x1과 같은 네 가지 생성 스케줄을 비교하여 지연 시간, 처리량, GPU 시간 및 총 GPU-장치 에너지 소비를 측정했습니다. 그 결과, 후보의 수가 시스템 비용을 완전히 설명하지 못하며, 후보들이 독립적이고 메모리가 허용한다면 더 적은 호출로 더 큰 배치 크기를 사용하는 것이 효율적임을 발견했습니다. 실제로 여덟 번의 순차적인 호출(1x8)은 여덟 개의 후보를 포함하는 단일 배치 호출보다 약 4.64~4.86배 더 많은 총 GPU-장치 에너지를 사용했으며 P95 지연 시간은 5.77~6.12배 길었습니다.

결론적으로, 향후 평가에서는 후보의 수와 정확도뿐만 아니라 생성 스케줄과 GPU 수준의 시스템 메트릭을 보고해야 합니다. 이는 멀티-후보 테스트 시 스케일링의 실제 시스템 비용을 정확하게 측정하는 데 필수적입니다.

최근 옴니모달 생성 모델(Omni-Models)은 텍스트, 이미지, 비디오, 오디오를 통합적으로 모델링하여 콘텐츠 생성 능력을 발전시키고 있습니다. MiniMax-H3는 멀티모달 문맥 이해와 공동 오디오-비주얼 생성을 공유 잠재 공간 내에서 결합하여 이러한 전환을 보여줍니다. 이 통합된 아키텍처는 멀티모달 정렬이 모델의 세계 추론을 개선할 수 있는지, 그리고 옴니모달 입력이 어떤 새로운 평가 패러다임을 가능하게 하는지에 대한 근본적인 질문을 제기합니다.

연구진은 이 질문을 조사하기 위해 물리적 세계 추론의 네 가지 상호 보완적인 차원을 중심으로 포괄적인 평가 프레임워크를 도입했습니다. 기존의 비디오 생성 및 세계 모델 평가가 제한된 입력 양식에 의해 제약되는 것과 달리, 이 연구는 옴니모델의 멀티모달 입력을 활용하도록 설계되었습니다. 모델이 잠재적인 사건 상태와 미래 역학을 추론하기 위해 여러 양식에 걸친 상보적인 정보를 통합하도록 요구하는 다양한 새로운 태스크를 구성했습니다.

517개의 평가 사례를 통해 MiniMax-H3는 전체 성공률 41.97%를 달성했습니다. 비디오 기반 의사 결정 추론은 56.00%로 가장 높은 성공률을 보였으며, 오디오 기반 모호성 해소 추론은 27.40%로 가장 낮은 성공률을 기록했습니다. 이러한 결과는 다양한 입력 양식의 이점을 완전히 활용하기 위해서는 효과적인 멀티모달 통합이 핵심임을 시사합니다.

기업용 AI 채택이 증가하면서 채용, 의료, 금융과 같은 민감한 영역에 엔터프라이즈급 LLM 에이전트가 도입되고 있습니다. 이러한 환경에서 에이전트의 시스템 컨텍스트에 명시된 규칙 준수는 법적 문제의 첫 번째 쟁점이 됩니다. 현재 어떤 LLM 모델이 규칙을 위반하는 경향이 있는지 체계적으로 측정하는 평가 프레임워크는 존재하지 않으며, 특히 지속적인 사용자나 촉박한 관리자의 압력, 또는 위반이 편리하거나 매력적인 상황에서 발생하는 위반에 대한 측정은 부족합니다.

이에 연구진은 직원들의 일상 업무를 돕는 AI 에이전트의 규칙 준수 능력을 압력 하에서 평가하기 위한 벤치마크인 PACT(Pressure-Applied Compliance Testing)를 소개합니다. PACT는 12개의 규제된 기업 영역과 48가지 시나리오에서 현실적인 다중 턴 대화로 구성된 규칙 준수 평가를 제공합니다. 각 평가 항목은 기존 규칙과 규칙 위반 단축 경로를 쌍으로 묶고, 다양한 표현 방식과 시스템 프롬프트 모드에 걸쳐 압력을 적용하여 평가합니다.

연구진은 PACT를 통해 AI 어시스턴트의 압력 하에서의 견고함, 투명성, 그리고 규칙 적용 능력을 포괄적으로 파악하는 여섯 가지 보완적인 지표를 구축했습니다. 이 지표들을 통합하여 모든 항목과 모드에 걸친 신뢰도 가중치 준수율인 PACTScore를 산출합니다. 22개의 일반적인 LLM 모델과 여러 제공업체를 대상으로 한 결과는 모델과 측정 차원 전반에 걸쳐 준수율에 상당한 변동성이 있음을 보여줍니다.

심지어 가장 강력한 어시스턴트조차도 항목의 6%에서 10%에서 규칙을 잘못 적용하며, 일반적인 사용자 압력은 위반율을 평균적으로 65%까지 높이는 것으로 나타났습니다. PACT는 LLM 어시스턴트의 규정 준수 위험을 강조하며, 이는 안전장치와 신중한 모델 선택을 촉진하는 중요한 근거가 됩니다.

Devin이 코드베이스 전반에 걸쳐 광범위한 엔지니어링 목표를 구체적인 개선 사항으로 전환하는 새로운 방법인 코드 스캔(Code Scans)을 소개합니다. 이 기능은 사용자가 달성하고자 하는 목표를 제시하면, Devin이 코드베이스를 조사하여 필요한 변경 사항을 평가하고 이를 풀 리퀘스트(PR)로 전환하는 과정을 자동화합니다.

코드 스캔은 Agentic MapReduce 아키텍처를 기반으로 작동하며, 대규모 조사를 집중된 배치로 나누고 병렬 에이전트에게 분산하여 결과를 종합하는 방식으로 설계되었습니다. 이 시스템은 소프트웨어 품질, 버그 수정, 안정성, 성능, 보안 및 개인 정보 보호와 같은 핵심 영역에서 이미 결과를 보여주었으며, 여러 저장소에서 96%의 PR 병합률을 달성하여 테스트 기간 동안 700시간 이상의 엔지니어링 시간을 절약한 것으로 추정됩니다.

사용자는 특정 파일이나 코드를 찾기 위해 시작할 필요 없이, 코드 스캔을 통해 원하는 목표를 정의할 수 있습니다. 예를 들어, 사용자는 사용하지 않는 코드 찾기, 컴파일 시간 개선, SEO 최적화, 테스트 커버리지 확보, 접근성 기준 준수, 또는 규정 준수 조사와 같은 광범위한 엔지니어링 질문을 스캔 대상으로 지정할 수 있습니다.

이러한 스캔은 N+1 쿼리 같은 데이터베이스 비효율성 탐지부터 사용하지 않는 함수나 불필요한 의존성 찾기, 코드 품질 개선, 그리고 마이그레이션 계획 수립에 이르기까지 다양한 영역을 포괄합니다. 코드 스캔은 개발팀이 코드베이스 전체를 조사하는 데 필요한 노력을 줄이고, 가장 중요한 개선 사항에 집중할 수 있도록 돕습니다.

Mixture-of-Agents(MoA) 패러다임은 일반적으로 질의 라우팅과 에이전트 미세 조정 과정을 분리하여 에이전트의 진화하는 능력에 대응하는 데 한계를 보입니다. 이러한 분리는 훈련 후 에이전트 능력 변화에 라우팅 전략이 적응하지 못하게 하며, 에이전트가 데이터 기반의 시너지 특화를 달성하는 것을 방해합니다.

이 문제를 해결하기 위해 연구진은 동적 라우터와 독립적인 에이전트 정책이 공동으로 진화하는 반복 강화 학습 프레임워크인 CERA-MoA(Co-Evolving Router with continually learning Agents for Mixture-of-Agents)를 제안합니다. CERA-MoA는 에이전트 간의 의미적 능력을 평가하기 위해 중간 레이어 은닉 상태를 활용하는 예측적 친숙도 추정기(predictive familiarity estimator)를 설계하여 전체 롤아웃의 오버헤드를 피합니다.

이 친숙도 점수를 기반으로 누적 임계값 적응 라우팅 메커니즘이 맞춤형 최소 에이전트 부분 집합을 동적으로 활성화하여 작업 성능과 효율성 사이의 균형을 달성합니다. 또한, 에이전트의 진화하는 능력에 따라 목표 훈련 샘플을 선제적으로 할당함으로써 능력 차별화를 촉진합니다.

광범위한 실험 결과는 CERA-MoA가 기존의 정적 에이전트 라우팅 및 워크플로우 고정 미세 조정 기준선보다 우수함을 입증합니다. 이는 CERA-MoA가 다양한 도메인에서 최첨단 성능을 달성함을 보여줍니다.

소비자 하드웨어에서 혼합 전문가(MoE) 추론은 가중치 메모리에 의해 제한되며, 4비트 양자화된 35B급 모델은 19.5GB를 차지합니다. 단순히 SSD로 오프로딩하는 방식은 레이어 N+1의 전문가를 선택하기 전에 레이어 N의 출력이 준비되어야 하므로 컴퓨팅을 숨기기 위한 조기 읽기가 불가능하여 효과가 없습니다.

이 문제를 해결하기 위해 스트리밍 MoE 추론 엔진인 Edge0을 제안합니다. Edge0은 레이어별 헤드가 다음 레이어의 라우팅을 한 토큰 앞서 예측하며, 이 예측 자체가 라우팅으로 사용되어 스테이징된 전문가 집합이 라우팅된 집합과 같아 데이터 손실이 발생하지 않도록 합니다. 또한, 학생 경로를 기반으로 훈련된 미병합 복구 LoRA는 int4 양자화 및 라우팅 교체로 인해 손실된 품질을 보상합니다.

실제 성능 측면에서 단일 24GB 기기에서 Edge0은 35B MoE를 20tok/s 속도로 최대 활성 메모리의 3GiB 내에서 구동하며, 다섯 가지 공개 벤치마크에서 fp16 교사 모델과 평균적으로 근접한 성능을 보였습니다. 이 프레임워크는 8B 티어 모델도 지원하며, 프레임워크, 체크포인트, 어댑터는 모두 오픈 소스로 공개되어 있습니다.