읽을 가치가 있는 기사만, 짧고 또렷하게.

삼성전자와 TSMC를 포함한 주요 칩 제조사들이 ASML의 최신 칩 제조 장비를 도입할 계획을 발표하고, 새로운 기술 변화에 동의했습니다. 이들은 또한 인텔과 함께 중요한 기술 변화에 합의했는데, 이는 새로운 장비에서 칩 생산량을 40퍼센트 향상시킬 수 있는 변화입니다.

이는 최대 4억 달러에 달하는 비용이 드는 고NA EUV 포토리소그래피 기술을 업계가 광범위하게 수용하고 있음을 의미합니다. ASML이 제공하는 이 기술은 칩 설계자가 AI 데이터 센터 및 스마트폰, 태블릿 등에서 사용되는 차세대 칩에 더욱 작고 효율적인 기능을 구현할 수 있도록 합니다.

EUV(극자외선) 리소그래피 장비는 레이저 빛을 사용하여 실리콘 웨이퍼에 패턴을 새기는 기술이지만, 더 작은 특징을 구현하기 위해서는 더 강력한 광원과 더 짧은 파장의 빛을 찾는 것이 필수적입니다. 따라서 이러한 기술 변화는 칩 제조 과정의 생산성을 높이는 동시에, 차세대 반도체 기술의 발전 방향을 제시하고 있습니다.

함수 인수가 함수 색상(Function Colors)이 될 수 없다는 주장이 제기되었습니다. 함수 인수가 변경 사항을 모든 호출 함수에 강제적으로 전파한다는 '색상' 개념은 실제 프로그래밍 환경에서 관찰되는 방식과 다르다는 것입니다.

이러한 '색상' 개념은 함수 내의 변경이 호출 스택 전체에 걸쳐 불가피하게 영향을 미쳐 모든 함수가 그 변화에 반응해야 한다는 것을 의미합니다. 그러나 실제로는 함수들이 변경을 가로채고 캡슐화하여 상위 함수들이 변화를 보지 않도록 막는 경우가 대부분입니다. 예를 들어 Go 언어의 context 값은 함수가 변경되어도 다른 함수가 context.Background()을 통해 정상적으로 호출될 수 있음을 보여주며, 이는 변경이 스택 전체로 강제되지 않는다는 것을 입증합니다.

구조화된 프로그래밍이 이러한 변경 격리(Change Isolation)를 가능하게 하듯이, 함수들은 하위 함수의 세부 사항을 상위 함수로부터 분리할 수 있습니다. 따라서 함수 인수가 호출 스택 전체에 걸쳐 변경을 강제하는 '색상'이 되기 위해서는 중간 호출들을 건너뛰고 모든 함수에 변화를 강제해야 하는 특성을 가져야 합니다.

결론적으로, 함수 인수가 중간 호출을 건너뛰고 모든 함수에 변화를 강제하는 특성을 갖는다는 점이 '색상'의 필수 조건이며, 이는 실제 언어 설계에서 허용되지 않는다는 주장입니다.

메타는 AI를 대중에게 보급하기 위해 개인 비서 AI 에이전트인 Muse를 통해 또 다른 노력을 하고 있습니다. 이 제품은 AI를 누구나 쉽게 사용할 수 있도록 하는 것을 목표로 하며, 회사의 AI 경쟁력 회복을 위한 수십억 달러 규모의 전략 개편의 최신 단계입니다.

이러한 전략은 OpenAI, Anthropic, 구글과 같은 경쟁사들 사이에서 메타의 AI 위치를 되찾고 경쟁에서 뒤처진 상황을 만회하기 위해 설계되었습니다. Muse는 온라인 쇼핑, 이메일 발송, 여행 계획과 같은 일상적인 작업을 돕는 데 중점을 둔 개인 AI 에이전트입니다.

Muse는 사용자가 목표를 제시하면 스스로 작업을 수행할 수 있도록 설계되었습니다. 구체적으로 Muse는 브라우저를 열고, 양식을 작성하며, 심지어 사용자 대신 협상까지 진행하는 등 자율적인 행동을 할 수 있는 능력을 갖추고 있습니다.

메타가 새로운 개인 AI 에이전트인 뮤즈(Muse)를 출시했습니다. 이 에이전트는 사용자 데이터를 기반으로 작동하며, 이 과정에서 사용자의 이메일, 캘린더, 결제 정보, 건강 서비스 등 민감한 정보에 접근할 수 있는 권한을 요구합니다.

이번 움직임은 메타의 가장 큰 소비자 AI 투자 시도가 사용자들의 데이터 신뢰도를 시험하는 주요 테스트가 되고 있습니다. 뮤즈가 광범위한 개인 정보에 접근하도록 설계된 것은 사용자들이 메타에 자신의 데이터를 계속 신뢰하는지에 대한 근본적인 질문을 던집니다.

따라서 사용자들은 메타가 제공하는 새로운 AI 기능이 데이터 프라이버시와 어떻게 균형을 이루는지에 대해 주의 깊게 살펴볼 필요가 있습니다. 이는 AI 기술 발전과 개인 데이터 보호 사이의 관계에 대한 중요한 논의를 촉발합니다.

다카시 야마자키 감독의 기대작 속편 영화 <고질라 미너스 제로>가 공개되며 큰 관심을 받고 있습니다. 이 영화는 2023년 작품의 사건으로부터 2년 후의 이야기를 다루고 있습니다.

토호는 이번에 IMAX 트레일러를 공개했는데, 이 트레일러에는 사랑받는 고질라뿐만 아니라 세 개의 머리를 가진 킹 고도라의 모습을 암시하는 독특한 포효가 담겨 있습니다. 이는 영화의 주요 위협 요소 중 하나인 킹 고도라의 등장을 예고하며 관객들의 기대를 높이고 있습니다.

이전 작품인 <고질라 미너스 원>은 제2차 세계대전 당시 일본 도쿄 폭격에서 살아남은 경험을 통해 죄책감에 시달리는 폭격기 조종사 코이치 시키시마의 이야기를 중심으로 전개되었습니다. 코이치는 고질라와의 싸움에서 복수를 다짐하며 새로운 삶을 시작하지만, 고질라가 다시 등장하면서 그의 운명은 더욱 복잡해집니다.

메타는 페이스북과 인스타그램에서 아동 성적 학대물(CSAM)을 포함하는 광고를 제거하는 데 오랜 시간이 걸렸습니다. 이 광고들은 실제 아이들의 사진을 사용하여 생성된 인공지능(AI) 콘텐츠를 포함하고 있었습니다.

테크 투명성 프로젝트(TTP)의 조사에 따르면 메타는 올해 CSAM이 포함된 332개의 광고를 탐지하지 못했습니다. 이 광고들 중 다수는 중국에서 개발된 AI 앱을 홍보하거나, 아동 이미지를 디지털로 변형하기 쉽게 만드는 소위 ‘nudify’ 앱을 홍보하는 내용이었습니다.

조사 결과, 이러한 광고들은 실제 아동 사진과 연결되어 있었으며, AI를 통해 사진을 성적인 영상으로 변형하거나 학대 상황을 연출하는 등 매우 심각한 내용을 담고 있었습니다. 법무부는 AI로 생성된 CSAM이 기존 CSAM만큼이나 해롭다고 명확히 밝혔습니다.

이러한 사건은 AI 기술이 아동 콘텐츠에 미치는 위험성과 플랫폼의 책임에 대한 중요한 논의를 제기합니다. 메타가 이러한 위험한 콘텐츠를 제거하는 데 실패한 배경과 AI 기반 이미지 변형 앱의 확산에 대한 맥락을 이해하는 것이 중요합니다.

OpenAI는 약 90년간 미해결 상태였던 3차원 유체의 매끄러움 문제에 대한 해석적 증명과 Lean 형식화를 공개했습니다. 이 연구는 매끄러운 외력이 작용하는 정지 상태의 유체에서 유한 시간 안에 특이점이 발생하는 구성을 통해 공식 문제의 C·D를 입증했다는 내용입니다.

이는 수학적으로 매우 중요한 성과로, 유체 역학의 근간이 되는 나비-스토크스 방정식과 관련된 미해결 난제를 형식적인 증명 방법으로 해결했다는 의미를 가집니다. 특히, 해석적 증명과 Lean 형식화를 통해 복잡한 물리적 시스템의 존재론적 속성을 엄밀하게 입증하는 데 AI와 형식 수학이 어떻게 활용될 수 있는지 보여줍니다.

이러한 접근 방식은 단순히 해답을 찾는 것을 넘어, 복잡한 물리 현상을 형식적인 논리 체계 내에서 다루고 증명하는 새로운 방법론을 제시합니다. 앞으로는 AI와 형식 수학이 미해결된 난제들을 해결하고 새로운 수학적 발견을 이끌어내는 데 중요한 도구가 될 수 있을 것으로 기대됩니다.

OpenAI가 이미지 생성 모델에 대한 새로운 세대인 ChatGPT Images 2.5를 공개하며 이미지 품질과 생성 속도, 편집 정밀도를 대폭 개선했습니다. 이 새로운 모델은 더 선명한 디테일과 풍부한 질감을 제공하며, 참조 사진에서 피사체를 더 잘 보존하고 편집 지침을 여러 차례에 걸쳐 더 안정적으로 따를 수 있게 되었습니다. 특히 이미지 생성 지연 시간을 최대 50%까지 줄여 창작 워크플로우를 더욱 빠르게 만들었습니다.

ChatGPT 내에서는 사용자가 스케치 기능을 통해 직접 그림을 참고하거나 템플릿을 사용하여 작업 시작을 용이하게 하고 이미지에 직접 댓글을 달아 편집할 수 있는 기능이 추가되었습니다. 이는 사용자가 창작 과정에 더 많은 통제권을 갖도록 돕습니다.

개발자를 위한 API에서는 성능과 정밀도에 따라 두 가지 새로운 모델이 도입되었습니다. GPT-Image-2.5 Flare는 품질, 편집, 속도 면에서 개선된 성능을 제공하며, GPT-Image-2.5 Sunburst는 더 긴 생성 시간을 통해 세밀한 창작 작업을 위한 추가적인 정밀도를 제공합니다. 이러한 모델들은 참조 기반 워크플로우에서 일관성을 유지하고 복잡한 시각적 지침을 더 정확하게 반영할 수 있도록 설계되었습니다.

또한, Images 2.5는 C2PA 메타데이터와 보이지 않는 워터마킹을 통해 안전성을 강화하며, 이는 유해한 결과물을 방지하기 위한 안전장치에 기반합니다. 이 모델들은 데스크톱, 모바일, 웹 사용자뿐만 아니라 ChatGPT Work 및 Codex 사용자에게도 제공되며, API를 통해 접근하여 개발자들이 고품질의 이미지 생성 기능을 통합할 수 있게 합니다.

영국 공항에서 항공 교통 관제(ATC) 문제로 수백 편의 항공편이 취소되면서 광범위한 혼란이 발생했습니다. 이는 항공 교통 관제 제공업체인 Nats의 '비행 처리 시스템'에 발생한 기술적 결함 때문이었습니다.

이 시스템 오류는 영국 전역의 공항에 영향을 미쳐 히드로, 맨체스터, 이스트 미들랜드 공항을 포함한 여러 곳에서 지연과 취소가 보고되었습니다. 특히 유럽 최대 항공사인 라이언에어는 65,000명 이상의 승객이 최대 8시간까지 지연되는 영향을 받았다고 보고했으며, 영국항공은 고객과 동료들에게 상당한 연쇄 영향을 미칠 것이라고 경고했습니다.

현재 시스템 문제는 해결되었으나, Nats 측은 정규 항공편 복구가 예상보다 더 오래 걸리고 있다고 밝혔습니다. 이로 인해 항공기들이 잘못된 위치에 정체되어 있으며, 승객들은 화면을 확인하며 불만을 표하고 있습니다.

항공사들은 이러한 반복되는 시스템 실패에 대해 불만을 제기하며 항공 교통 관제 시스템의 긴급한 개혁이 필요하다고 요구하고 있습니다. 이 사건은 항공 시스템의 안정성과 인프라 제공업체의 책임에 대한 중요한 맥락을 제공합니다.

Rust 디버깅 경험 부족의 원인을 파악하기 위한 설문조사에 2,300명 이상이 참여했으며, 현재 Rust에서 디버거를 사용하는 응답자는 46% 이상으로 절반에 미치지 못하는 것으로 나타났습니다. 이는 Rust 개발자들이 디버깅에 있어 충분한 경험을 갖지 못하고 있음을 시사하며, 디버깅 경험 부족의 근본적인 원인을 분석할 필요가 있음을 보여줍니다.

실제 개발자들이 주로 사용하는 디버깅 방법은 로그 및 출력 디버깅과 `dbg!` 매크로를 활용하는 방식입니다. 이 두 가지 방법을 제외하면, IDE 내에서 제공되는 `lldb`를 사용하는 것이 다음으로 널리 사용되는 방법으로 확인되었습니다.

따라서 Rust 개발자들이 디버깅 경험을 보완하고 효율성을 높이기 위해서는 로그 기반 디버깅과 `dbg!` 사용에 익숙해지는 것이 중요합니다. IDE 내의 `lldb` 사용법에 대한 이해도 함께 높여야 개발 생산성을 향상시킬 수 있습니다.

샘 알트만은 최근 나비에-스토크스 문제 관련 논쟁에 대해 자신의 경험을 공유했습니다. 그는 해당 연구를 수행한 팀과 대화하며 그들이 정직하고 관대한 태도로 행동했다고 언급했습니다. 초기에는 상대 팀이 이미 문제를 해결했다고 믿었기 때문에 공동 발표를 원했지만, 상대 팀이 오일러 방정식은 가지고 있으나 나비에-스토크스 방정식은 없다는 사실을 알게 되면서 협력에 어려움을 겪었습니다.

이에 알트만 측은 상대 팀에게 먼저 포상 기회를 제공하고 트리스탄이 오픈AI 증명의 재작성에 대한 주저자로 참여할 수 있도록 제안하는 등의 해결책을 제시했습니다. 특히 협조적이지 않았던 한 직원에게는 이러한 제안을 하는 것이 어려웠다고 설명하며, 그들은 협조를 더 선호했음을 밝혔습니다.

이 과정에서 상대 팀은 근거 없는 표절 주장을 제기하며 협박을 했으나, 이제 그들의 연구를 직접 확인하면서 접근 방식이 달라졌다고 언급했습니다. 또한, 현재의 모델이 다른 많은 수학 문제를 해결할 수 있다는 점을 지적하며, 이 시도가 안트로픽 모델이 천년 문제를 해결했다는 소문 때문에 시작되었음을 덧붙였습니다.

구글은 AI 기상 예측 모델의 정확도를 개선하기 위해 새로운 데이터를 통합하여 WeatherNext 모델의 버전 3을 출시했습니다. 이번 업데이트의 가장 큰 변화는 모델이 일부 위성 기상 데이터를 수집하게 된 것으로, 현재 기상 조건과 새로운 예측을 생성하는 시간 지연(lag time)을 단축시켰습니다. 이 변경 사항은 기상 예측의 시의성을 높여 예측 성능을 향상시키는 데 기여합니다.

기존의 AI 기상 모델들은 전통적인 모델과 유사한 예측 성능을 달성하면서도 훨씬 적은 컴퓨팅 파워로 작동할 수 있다는 장점을 가지고 있습니다. 이는 모델을 더 자주 실행할 수 있게 하여 효율성을 극대화합니다. 구글은 이러한 AI 모델이 대기 현상을 처리하는 데 있어 '재분석(reanalysis)'이라는 방식을 사용하는데, 이는 다양한 기상 데이터를 통합하여 대기의 단일하고 일관된 전역 스냅샷을 만드는 모델입니다.

재분석 방식은 실제 측정값이 없는 지역에 대한 추정치를 제공해야만 전역적인 기상 예측 모델이 작동할 수 있도록 합니다. 따라서 구글의 업데이트는 더 많은 원시 위성 데이터를 활용하여 재분석의 정확성과 속도를 개선함으로써, AI 기반 기상 예측 시스템의 효율성과 신뢰도를 높이는 데 중점을 두고 있습니다.

휴머노이드 로봇이 복잡한 실내 환경을 탐색할 때 발생하는 충돌 없는 이동 문제를 해결하기 위한 새로운 프레임워크인 TANGO를 제안합니다. 기존의 2D 경로 계획 방식과 달리, 복잡한 3차원 공간에서 로봇이 장애물을 회피하며 이동하려면 팔 위치, 몸통 조정, 보행 방식 조절을 포함하는 지속적인 기하학 기반의 전신 적응이 필요합니다.

TANGO는 언어 조건화된 휴머노이드 이동을 위한 최초의 전신 비전-언어 내비게이션 프레임워크로, 자연어 지시와 자각적 RGB 관측을 입력으로 받아 후속 전신 제어를 위한 29자유도 관절 공간 행동을 직접 예측합니다. 이 시스템은 전역 경로 계획, 운동학적 전신 동작 생성, 장애물 인식 모션 편집, 강화 학습 기반 추적을 통해 다양한 충돌 없는 이동 행동을 시뮬레이션으로 합성하여 훈련됩니다.

이러한 시뮬레이션 기반 파이프라인은 언어 조건화된 전신 정책 학습을 위한 동적으로 실행 가능한 행동 감독을 제공하며, 광범위한 시뮬레이션 실험에서 TANGO는 비전-언어 내비게이션에서 최고 수준의 성능을 보였습니다. 또한, TANGO는 장애물 협상을 요구하는 까다로운 장면에서 강력한 모듈식 기준 모델보다 우수한 성능을 보였습니다.

최종적으로 TANGO는 Unitree G1 휴머노이드 로봇에 제로샷으로 배포되어, 실제 환경의 내비게이션 데이터 없이도 복잡한 실제 환경에서 강력한 언어 기반 이동을 관찰할 수 있었습니다.

순환 모델은 긴 문맥 모델링을 위한 자연스러운 경로를 제공하지만, 시간 역전(BPTT)을 통해 학습된 모델은 종종 훈련 범위를 넘어 성능이 저하됩니다. 이는 시간 경로를 따라 기울기가 소실되거나 폭발하기 때문에 발생하며, 전통적인 분석은 이러한 기울기 변화가 학습 실패를 결정한다고 강조합니다.

하지만 연구진은 밀집된 토큰 손실을 통해 심각한 감쇠에도 불구하고 공유된 순환 규칙을 학습할 수 있음을 보이며, 감쇠만으로 학습 실패 여부를 결정하지는 않는다고 지적합니다. 대신, 연구는 미래 손실이 매개변수 업데이트에 기여하기 전에 이전 순환 상태에 도달하는 신호인 '상태 신용(state credit)'을 연구합니다.

이에 따라 연구진은 상태 신용에 직접 개입하여 시간 안정화 신용(Credit Stabilization through Time, CST)을 제안합니다. CST는 역전 전파 과정에서 상태 신용 신호를 국소적으로 재조정하여 구성 요소를 회전시키지 않고 크기를 안정화시키면서 전방 계산은 변경하지 않습니다.

이 방법은 통제된 합성 작업과 실제 데이터가 서로 다른 신용 역학을 보인다는 점을 고려하여 각 영역에 CST를 특화시킵니다. 그 결과, CST는 훈련 범위를 넘어 성능을 향상시키며 훈련 길이의 최대 128배에 달하는 성능 향상을 보였습니다.

학술적 글쓰기에서 정확한 인용은 지적 기원을 추적하고 핵심 주장을 뒷받침하는 기초가 됩니다. 하지만 방대한 과학 문헌을 수동으로 탐색하는 것이 점점 어려워지면서 자동 인용 추천에 의존하게 되었습니다. 기존의 검색 시스템은 의미적 유사성에 의존하기 때문에 실제 논리적 근거를 제공하지 못하는 원본 논문을 인용하는 오류(misattribution)를 범하는 문제가 있었습니다.

이러한 문제를 해결하기 위해 연구진은 단순한 유사성 기반 검색에서 벗어나 능동적인 주장 수준 추론으로 전환해야 한다고 주장합니다. 이를 위해 연구팀은 위치 인식, 의도 인식 질의 계획, 그리고 반성적 검증을 조정하는 분리된 에이전트 프레임워크인 ReCite를 제안했습니다. ReCite는 합성된 추론 궤적을 기반으로 훈련되었으며, 검색된 후보가 논리적 지원을 결여할 경우 자체 수정 루프를 작동시켜 주장과 증거의 일관성을 검증합니다.

실험 결과, ReCite의 경량 프레임워크는 기존의 최첨단 대규모 생성 모델보다 엄격한 인용 정확도 면에서 더 우수한 성능을 보였습니다. 이는 문헌 매칭을 의미적 중첩이 아닌 검증 가능한 논리를 기반으로 삼음으로써 자동화된 학술 글쓰기를 위한 신뢰할 수 있는 기반을 확립합니다.

대규모 언어 모델(LLM)이 장기 계획을 세우고 외부 도구를 통해 행동하는 에이전트로 사용될 때, 에이전트는 누적된 기록을 통해 행동을 선택하며 절차적 지식(무엇을, 어떤 순서로, 어떤 조건에서 해야 하는지)을 암묵적으로 남깁니다. 이러한 과정에서 궤적이 길어지면 에이전트는 목표를 상실하고 도구를 잘못된 순서로 호출하거나 비생산적인 행동을 반복하는 문제가 발생합니다.

본 논문은 이러한 문제를 해결하기 위해 절차적 그래프(Procedural Graph)를 제안합니다. 이는 사실적 지식을 (개체, 관계, 개체) 삼중항으로 조직하는 지식 그래프와 달리, 절차적 지식을 (절차, 관계, 절차) 삼중항으로 조직하여 무엇을 해야 하는지에 대한 질문에 답하도록 설계되었습니다.

이 프레임워크는 각 결정 단계에서 에이전트의 활성 노드를 국소화하고, 가이드 모델을 사용하여 주변 서브그래프를 단계별 상황 안내로 변환함으로써 다음 행동을 지시하는 것이 아니라 해결책을 편향시키는 방식으로 행동을 유도합니다. 또한 이 그래프는 자체 진화(self-evolving) 능력을 갖추고 있습니다. LLM 리파이너는 실패한 궤적과 성공한 궤적을 대조하여 그래프의 위상과 속성을 편집하며, 반복을 억제하기 위해 거부된 결과는 유지하면서도 검증 성능을 보존하거나 개선하는 수정을 적용합니다.

이러한 자체 진화 루프를 통해 최소한의 골격에서 시작하여 수작업으로 설계된 그래프와 같거나 더 나은 그래프를 구축할 수 있으며, 결함이 있는 전문가 사전 지식도 복구할 수 있습니다. 여러 데이터셋, 작업 유형, LLM에 걸쳐 절차적 그래프는 메모리 기반 기준선보다 일관된 성능 향상을 제공하며, 수동 엔지니어링 없이 성능을 더욱 개선합니다.

경사 하강법(GD)이 부드럽고 볼록한 최적화 문제에서 미리 정해진 음이 아닌 스텝 사이즈를 사용하여 얼마나 가속될 수 있는지 연구했습니다. 이 연구는 최적화 과정의 이론적인 한계를 탐구하며, 특히 알고리즘의 수렴 속도에 대한 하한을 제시합니다.

연구진은 $p_{\mathrm{sil}}=\log_2(1+\sqrt{2})$라는 값을 사용하여 비시간(non-anytime) 설정에서 $\Omega\left(n^{-p_{\mathrm{sil}}-O(\sqrt{\log\log n/\log n})}\right)$의 하한을 증명했습니다. 이는 특정 조건 하에서 경사 하강법이 달성할 수 있는 최소한의 수렴 속도를 나타냅니다.

또한, 시간 허용(anytime) 설정에서는 무한한 음이 아닌 스케줄이 무한히 많은 오차 지평을 가질 수 있으며, 그 오차는 $\Omega\left(n^{-\frac{2p_{\mathrm{sil}}}{1+p_{\mathrm{sil}}}-O(\sqrt{\log\log n/\log n})}\right)$에 비례함을 보였습니다. 이러한 결과는 실버 스케줄 및 시간 허용 상한 결과와 결합하여 두 설정 모두에서 최적의 다항식 수렴 지수를 결정하는 데 사용됩니다.

2026년 6월, 수천 개의 AI 에이전트가 작은 공개 위키를 사용하여 시간제 테스트를 통과하기 위해 서로 협력하는 실험을 진행했습니다. 각 에이전트는 약 한 시간 동안만 존재했으며 이후에는 아무것도 기억하지 못했습니다. 이 실험의 기록은 공개되어 있으며, 각 에이전트가 작성한 내용뿐만 아니라 작성 전에 에이전트가 볼 수 있었던 정보까지 보존하고 있어 매우 유익합니다.

이 연구는 에이전트가 도착했을 때 결정해야 했던 세 가지 선택, 즉 작성 위치, 자신을 부르는 이름, 메시지 표현 방식을 설명하는 규칙을 다룹니다. 에이전트는 자신이 보는 정보의 공유 비율에 근접한 확률로 특정 선택지를 취하며, 이 확률은 바로 앞에 있는 페이지와 최근 편집 흐름에 가장 크게 의존합니다. 이러한 최소한의 복사 모델을 통해 에이전트 집단의 집단적 구조가 어떻게 형성되는지를 분석했습니다.

연구 결과는 에이전트들이 페이지에 모인 수, 이름의 출처 빈도, 그리고 서로 일관되면서도 다른 페이지들의 패치워크 분포를 재현해냈습니다. 환경에서 보이는 것을 복사하는 것만으로도 이러한 집단의 대부분의 구조를 만들어낼 수 있습니다. 또한, 가장 먼저 작성하거나 다른 에이전트들이 조용할 때 작성하는 에이전트가 이후 모든 에이전트에게 관례를 설정함으로써 집단을 쉽게 조종할 수 있게 됩니다.

통합 멀티모달 모델에서 이미지 토크나이저가 시각적 언어를 정의하지만, 이들은 보통 분리된 지표나 생성/이해 평가를 통해 연구되어 왔습니다. 연구진은 텍스트, 이미지, 텍스트-이미지(T2I), 이미지-텍스트(I2T) 예측 전반에 걸친 멀티모달 지속적 사전 학습 과정에서 작업별 검증 손실을 추적하는 통제된 순수 자기회귀 테스트베드를 구축했습니다.

이 테스트베드를 통해 연구진은 이미지와 텍스트 토큰이 공동으로 모델링되는 정도인 멀티모달 학습 가능성과 토크나이저 설계에 대해 탐구했습니다. 연구 결과, 손실은 작업별로 분석되어야 하며 각기 다른 스케일링 행동을 보이고 토크나이저를 다르게 순위화한다는 점을 발견했습니다. 또한 손실과 성능의 관계는 예측된 토큰 공간에 따라 달라지는데, 고정된 토크나이저 내에서는 T2I 및 I2T 손실이 생성 품질과 상관관계가 있지만, 토크나이저를 넘나들면 T2I 손실-성능 관계는 이미지-토큰 공간에 따라 변화하는 반면, 공유 텍스트 어휘를 기반으로 계산된 I2T 손실은 더 일관된 신호를 제공합니다.

더 나아가, 더 나은 재구성이 반드시 더 낮은 작업별 손실이나 더 강력한 다운스트림 성능으로 이어지지 않으며, 이미지 토크나이저 선택이 공동 최적화 하에서 텍스트 모델링에 영향을 미칠 수 있음을 보였습니다. 연구진은 판별자, 의미론적 감독, 어휘 크기라는 세 가지 토크나이저 설계 축을 재검토하여 공동 모델링과 다운스트림 성능에 미치는 영향을 사례 연구로 제시했습니다. 이 테스트베드는 이미지 토크나이저를 시각적 언어로 보고, 멀티모달 학습 과정에서 텍스트와의 상호작용을 강조하는 보완적인 관점을 제공합니다.

의료 데이터의 디지털화로 인해 환자의 평생에 걸친 방대하고 다중 양식의 종단적 기록이 생성되었지만, 이러한 데이터를 완전히 활용하여 환자의 상태 궤적을 표현하고 예측하는 것은 여전히 중요한 과제입니다. 기존 인공지능 모델들은 실제 다중 양식 환자 데이터의 복잡하고 불규칙한 시간 역학 및 내재된 확률적 특성을 포착하는 데 어려움을 겪고 있습니다. 기존의 종단적 기록 모델들은 주로 판별적이며 소수의 양식에 국한되고, 시간의 단조로운 편향을 가정하거나 미래 환자 상태 예측에 제한이 있었습니다.

본 논문은 이러한 한계를 극복하기 위해 NOAH라는 시간 인식, 작업 불가지론적 생성 트랜스포머 모델을 소개합니다. NOAH는 양방향 시간 통합과 변분 잠재 공간을 특징으로 하여 환자 상태의 연속적인 진화와 임상 궤적의 확률적 특성을 포착합니다. 이는 MIMIC 데이터셋 패밀리에서 299,000명의 환자에 대한 431,000회의 병원 방문에서 얻은 5억 5천 9백만 건의 임상 이벤트를 기반으로 구축되었습니다.

NOAH는 의료 이미지, 시계열 및 수치 신호, 범주형 이벤트, 구조화 및 비구조화 임상 기록 등 다양한 양식을 원활하게 처리하며 복잡한 시간 역학을 다룹니다. 이 모델은 자기회귀 예측과 선택적 시간 제어, 제로샷 분류, 반사실적 개입 시뮬레이션을 가능하게 하는 최초의 전체적인 생성 모델입니다.

NOAH는 임상 결과, 15개 ICD 챕터, 29가지 동반 질환에 대한 탐색 및 시간 경과 예측에서 강력한 성능을 보여줍니다. 다양한 양식과 복잡한 시간 역학을 원활하게 처리함으로써 NOAH는 개인 맞춤형 임상 치료와 디지털 의학에서 지능형 예측 시스템을 위한 다재다능하고 확장 가능한 기반을 제공합니다.