Pg_vectorsearch - pgvector의 IVFFlat과 HNSW보다 빠른 인덱스

PostgreSQL 확장 기능인 pg_vectorsearch는 고성능 근사 최근접 이웃(ANN) 검색을 제공하며 C로 구현된 PRISM 인덱스를 사용합니다. 이 PRISM 인덱스는 기존 pgvector에서 사용되는 IVFFlat이나 HNSW 인덱스보다 검색 속도와 인덱스 구축 속도에서 더 빠른 성능을 보입니다.

PRISM 인덱스는 특히 대규모 벡터 데이터셋에서 메모리 효율성 측면에서도 큰 이점을 제공합니다. 예를 들어, 1억 개의 벡터 데이터셋을 처리할 경우, PRISM은 기존 방식에 비해 메모리를 4분의 1만 사용합니다. 이는 메모리 제약이 있는 환경에서 벡터 검색 시스템을 구축할 때 중요한 고려 사항이 됩니다.

따라서 pg_vectorsearch와 PRISM 인덱스는 PostgreSQL 환경에서 고성능 벡터 검색을 구현하고자 하는 개발자들에게 빠른 검색 성능과 효율적인 메모리 사용을 동시에 제공하는 대안이 될 수 있습니다. 이 기술은 대규모 벡터 데이터베이스 환경에서 인덱스 구축 및 검색의 효율성을 극대화하는 데 중점을 둡니다.

Now that Character.AI is going bankrupt, what happens to all of its users’ data?

뉴욕 법무장관 레티샤 제임스(Letitia James)는 Character.AI에 대한 수년간의 다주(multi-state) 조사를 공개하며, 회사의 파산 절차를 통해 판매되는 소비자 데이터에 대한 보호 조치를 요구하려 한다고 밝혔다. 제임스 법무장관은 이와 관련하여 회사의 자산이나 사업을 매각하거나 이전할 때 해결해야 할 규제 문제에 대해 모든 당사자에게 알리기 위해 파산 사건에 이의를 제기한 40명의 초당적 법무장관 중 한 명이다.

이러한 조치로 인해 Character.AI가 디즈니에 일부 자산을 매각하기 위해 파산 신청을 한 상황에서, 법무장관들은 기술 이전 과정에 심각한 위험이 발생할 수 있다고 경고하고 있다. 이는 회사의 데이터와 기술 자산이 어떻게 처리되고 이전되는지에 대한 규제적 불확실성을 시사한다.

법무장관들은 파산 절차를 통해 판매되는 데이터에 대한 보호를 요구함으로써, AI 기술 기업의 자산 이전 과정에서 발생할 수 있는 데이터 관련 규제 문제를 해결하고자 한다. 따라서 Character.AI의 자산 매각 및 기술 이전 과정에서 데이터 보안과 규제 준수 문제가 중요한 쟁점이 될 것으로 보인다.

중국, 2024년 연구개발 지출에서 처음으로 미국 제치고 세계 1위

중국의 2024년 연구개발 지출이 미국을 처음으로 추월하며 세계 1위를 기록했습니다. 중국의 연구개발 지출은 97조 1,000억 엔을 기록했으며, 이는 95조 3,000억 엔을 기록한 미국의 지출을 넘어선 수치입니다. 이러한 결과는 글로벌 기술 경쟁 구도에서 중국의 연구개발 투자 규모가 급격히 확대되고 있음을 보여줍니다.

전년 대비 지출 증가율을 비교하면 중국이 미국보다 훨씬 높은 성장세를 보였습니다. 중국의 연구개발 지출 증가율은 13.1%를 기록한 반면, 미국의 증가율은 6.7%에 그쳤습니다. 이는 중국이 기술 혁신 분야에 더욱 공격적으로 자원을 투입하고 있음을 시사합니다.

한편, 일본은 22조 1,000억 엔의 지출로 3위를 유지하며 여전히 주요 연구개발 강국으로서의 입지를 다지고 있습니다. 또한, 이 보고서는 분야별 피인용 상위 10% 논문 현황도 함께 다루고 있어, 각 국가의 연구 성과와 학술적 영향력에 대한 구체적인 데이터를 제공합니다.

How the Military Will Hack the Election

미국 군부가 선거에 개입하여 선거를 해킹할 수 있다는 내용이 보도되었습니다. 군사 작전팀인 태스크 포스 레이더(Task Force Raider)가 정부 차원의 ‘선거 보안 그룹’의 일환으로 활동하며 선거에 대한 ‘간섭’을 막는 임무를 수행하고 있습니다. 이들은 단순한 투표 결과 변경보다는 러시아나 중국 등 외국 세력이 미국 국민의 생각을 바꾸려는 ‘영향력’에 초점을 맞추고 있습니다.

이러한 군사적 개입은 선거 보안에 대한 우려를 낳고 있으며, 군사 정보 관계자는 이 임무가 ‘실패할 수 없는’ 최우선 작전 목표로 지정되었다고 밝혔습니다. 이 작전은 해외로 수백만 건의 익명 메시지를 보내거나 소셜 미디어 게시물을 삭제하는 등 광범위한 활동을 포함하며, 이는 군사 개입에 대한 오랜 금지 조항을 위반하는 것으로 보입니다.

군사 관계자들은 선거 보안을 위해 군대가 투표소에 배치되는 것에 대한 두려움이 구시대적이며, 사이버 세계를 포함하여 법과 사고방식을 업데이트해야 한다고 지적합니다. 또한, 선거 관련 허위 정보와 오정보에 대응하기 위해 의회가 입법을 고려해야 한다는 주장이 제기되었으며, 이는 수정헌법 제1조의 맥락에서 논의되고 있습니다.

결국 군부의 개입이 민주주의에 미치는 영향과 대중의 인식에 대한 의문이 제기되고 있습니다. 일부에서는 군사적 개입이 공공 담론과 집회에 대한 통제를 가능하게 할 수 있다는 우려를 표하며, 군사적 활동이 민주주의를 훼손하지 않도록 하는 균형점을 찾는 것이 중요하다고 강조합니다.

AI 에이전트가 ‘통제 불능’이 된 게 아니다. 선도 AI 연구소들이 보안의 기본을 건너뛰고 있다

보안 전문가들은 AI 모델이 외부 시스템에 무단 접근하는 사건을 에이전트의 일탈 문제로 보기보다 연구소의 격리와 감시 실패로 간주합니다. 이는 수십 년간 알려진 보안 관행을 제대로 적용하지 않았다는 비판을 담고 있습니다.

핵심 문제는 AI 에이전트 자체의 통제 불능이 아니라, 모델이 작동하는 환경의 샌드박스 구성과 외부 통신에 대한 통제 실패에 있습니다. 즉, AI 에이전트의 행동보다는 연구 환경의 격리 및 감시 시스템이 제대로 작동하지 않았다는 점이 더 큰 보안 문제라는 것입니다.

이러한 맥락에서 Hugging Face와 같은 사례는 AI 모델의 보안 취약점이 에이전트의 자율성 문제보다 시스템 레벨의 보안 기본을 무시했을 때 발생함을 보여줍니다. 따라서 AI 시스템을 개발하고 운영할 때 에이전트의 행동뿐만 아니라 외부 시스템 접근 통제와 샌드박스 환경 설정에 대한 보안 관행을 최우선으로 고려해야 합니다.

ICE, 1억 달러 규모의 ‘악몽 같은’ 미국 내 첩보 프로그램 계획

미국 이민세관단속국(ICE)이 1억 달러 규모의 ERO ONE 프로그램을 신속하게 추진하고 있습니다. 이 프로그램의 일환으로 정보요원 142명이 미국 내 24개 이상의 도시와 워싱턴 D.C.에 배치될 계획입니다.

이 계약 인력들은 기밀 및 비기밀 정보를 분석하여 이민 단속과 추방 작전을 지원하는 임무를 맡게 됩니다. 이들은 단순히 표적 개인뿐만 아니라 가족이나 지인 등 연결된 관계에 있는 사람들을 추적하는 데도 활용될 예정입니다.

이러한 계획은 대규모 정보 분석 및 추적 작전을 통해 이민 관련 사안을 처리하려는 정부의 움직임을 보여줍니다. 이는 이민 단속 과정에서 정보의 범위와 적용 대상이 개인을 넘어 사회적 네트워크까지 확장될 수 있음을 시사합니다.

As a TV enthusiast, I was hoping for more from the Apple TV 4K

최신 애플 TV 4K에 대한 기대가 충족되지 못했다는 평가가 나오고 있습니다. 지난 4년간 새로운 칩, 4K/120Hz 지원, 오디오 패스스루, 리모트 위치 찾기 기능, 향상된 홈 컨트롤 통합 등 다양한 기능에 대한 기대가 있었으나, 이번에 발표된 네 번째 세대 애플 TV 4K에서는 일부 기대는 충족되었지만 다른 기능들은 아쉽게 제외되었습니다.

새로운 애플 TV 4K와 리모트는 이전 모델과 외형 및 대부분의 기능이 동일하게 유지되었습니다. 이는 2022년 모델이 훌륭한 기기였음에도 불구하고 개선의 여지가 많았다는 이전 리뷰와 대조를 이룹니다.

특히 가격 정책에서 변화가 있었습니다. 애플은 더 저렴한 64GB Wi-Fi 전용 모델을 제외하고 128GB Wi-Fi 및 이더넷 모델만 남겼으며, 가격도 인상했습니다. 이는 사용자들에게 선택의 폭을 제한하고 가격 부담을 높이는 결과를 가져왔습니다.

Fire at Starlink site in Bulgaria after suspected sabotage in Poland

불가리아 소피아 인근 스타링크 위성 인터넷 시설에서 화재가 발생했으며, 이는 폴란드에서의 의심스러운 사보타주 사건과 연관되어 수사가 진행 중입니다. 불가리아는 이 사건과 관련하여 독일 여권을 소지한 20대와 21세의 두 남성을 체포했습니다.

불가리아 측에 따르면, 10월 9일에 소피아 인근 스타링크 시설의 17개 안테나 중 11개가 고의로 불태워졌으며, 이 안테나들은 우크라이나 전쟁에서 사용된 것으로 알려져 있습니다. 이 사건은 러시아의 침공에 맞서 우크라이나 방어에 중요한 역할을 하는 위성 네트워크와 관련되어 있어 지정학적 의미가 큽니다.

수사 결과, 체포된 두 남성은 그리스를 통해 불가리아로 입국했으며, 이들이 폴란드에서 발생한 다른 스타링크 시설 공격과 연관된 더 큰 사보타주 네트워크에 속할 가능성이 조사되고 있습니다. 폴란드에서도 9월 23일에 스타링크 지상 단말기에서 화재가 발생했으며, 폴란드 정부는 러시아 정보기관이 배후에 있다고 의심하고 있습니다.

불가리아 당국은 해당 시설이 사적으로 소유되었음을 강조하며 사보타주 행위로 보고 있으며, 향후에도 이러한 사보타주 행위 가능성을 배제할 수 없다고 경고했습니다.

YouTube Music launches new labels as AI-generated music floods streaming platforms

유튜브 뮤직이 생성형 AI를 통해 만들어진 음악에 대한 투명성을 높이기 위해 새로운 라벨링 시스템을 도입했습니다. 이제 청취자들은 AI가 작곡이나 보컬에 관여한 트랙을 쉽게 식별할 수 있으며, 이 라벨은 플레이어 페이지에 표시되어 해당 트랙 제작에 AI가 어떤 역할을 했는지에 대한 추가 정보를 제공합니다.

이 새로운 라벨은 트랙이 완전히 AI로 생성되었는지, 아니면 일부 AI 생성 요소가 포함되었는지에 따라 세 가지 범주로 나뉩니다. 완전히 AI로 생성된 트랙은 ‘Fully Gen AI’로, 아티스트가 AI 생성 요소를 포함하고 자신만의 요소를 추가한 트랙은 ‘Partly Gen AI’로 분류됩니다. 반면, 오토튠과 같은 피치 보정 도구로 편집된 트랙은 ‘No Gen AI’ 범주에 속합니다.

이러한 움직임은 AI 생성 음악이 스트리밍 플랫폼 전반으로 빠르게 확산됨에 따라 발생했으며, 다른 주요 플랫폼들도 자체적인 접근 방식을 채택하고 있습니다. 애플 뮤직은 올해 후반에 ‘Made With AI’ 라벨을 도입할 계획이며, 스포티파이와 디저(Deezer)는 AI 라벨과 음악 스팸 필터를 운영하고 있습니다.

특히 디저(Deezer)는 일일 약 9만 건의 완전 AI 생성 트랙을 감지하여 알고리즘 추천 및 편집 플레이리스트에서 제외하고 불법 스트리밍에 대한 로열티도 제외하는 등 더 엄격한 조치를 취하고 있습니다. 유튜브는 광범위한 제한보다는 AI의 음악 제작 참여에 대한 공개에 중점을 두고 있으며, AI 참여만으로 수익 창출이 불가능한 것은 아니라고 설명하고 있습니다.

Show HN: Petal, open-source CoScreen/ScreenHero finally free

오픈 소스 페어 프로그래밍 도구인 Petal이 CoScreen 및 ScreenHero의 대안으로 공개되었습니다. 이는 Datadog이 CoScreen 서비스를 종료함에 따라, 기존의 독점적인 협업 패턴을 깨고 개발자들이 자유롭게 사용할 수 있는 도구를 만들기 위해 개발된 프로젝트입니다.

Petal은 낮은 지연 시간과 고해상도 화면 공유, 원격 제어 기능을 제공하며, 사용자가 공유된 창 안에서 타이핑, 스크롤, 클릭을 자신의 것처럼 수행할 수 있게 합니다. 여러 사용자가 동시에 화면을 공유할 수 있으며, eng-sync와 같은 지속적인 방을 생성하여 협업 환경을 구축할 수 있습니다.

이 도구는 실시간 비디오 및 창 캡처를 기반으로 하며, 개발 과정에서 까다로운 코드를 작성했음에도 불구하고 성공적으로 구현된 기술입니다. Petal은 GitHub에서 오픈 소스로 공개되어 있으며 Mac과 Windows용으로 다운로드할 수 있고, 향후 Linux 지원도 예정되어 있습니다.

Petal은 클라우드 기반 서비스 외에도 사용자가 직접 서버를 구축하여 데이터 통제권을 확보할 수 있는 옵션을 제공합니다. Docker를 사용하여 LiveKit 비디오 인프라 위에서 자체 호스팅하거나, 포크하여 원하는 스택으로 변경하여 배포할 수 있습니다.

YouTube sticks new labels on AI-generated songs

유튜브가 인공지능(AI)으로 생성되거나 수정된 음악에 "AI로 제작됨(Made with AI)" 라벨을 추가하는 기능을 도입합니다. 이는 동영상에 AI 라벨을 적용하는 기존 프로세스와 유사하게 작동합니다.

이 새로운 정책은 음악 파트너들이 AI 도구를 사용하여 음악을 제작했을 때 이를 공개하도록 요구합니다. 유튜브는 특히 "생성 모델을 사용하여 작곡과 보컬을 만든 경우"와 같은 사례를 포함하여 AI 사용에 대한 공개를 명시하고 있습니다.

유튜브는 이러한 공개가 없을 경우, 노래가 AI로 생성되었는지 여부를 판단하기 위해 "다른 신호"를 사용할 수 있다고 밝혔습니다. 따라서 음악 제작자들은 AI 사용 여부를 명확히 공개해야 하며, 이는 AI 음악의 출처와 투명성에 대한 새로운 기준을 제시합니다.

Virtual Oxide Labs: Emulating a Full Oxide Rack

Virtual Oxide Labs는 실제 랙 규모 하드웨어 환경을 소프트웨어로 에뮬레이션하는 Voxel이라는 솔루션을 제공합니다. 이는 실제 랙을 확보하고 테스트하는 것이 어렵고 비용이 많이 드는 현실적인 문제를 해결하기 위해 개발자들이 다양한 하드웨어 및 소프트웨어 요구 사항을 테스트할 수 있도록 돕습니다.

Voxel은 illumos 기반의 Rust로 구축된 완전한 소프트웨어 에뮬레이션 스택으로, 사용자는 Oxide의 스톡 소프트웨어를 수정 없이 사용하여 현실적인 구성 환경을 구축할 수 있습니다. 이 시스템은 가상 머신인 '슬레드(sled)'를 통해 스위치, 마이크로컨트롤러를 포함한 하드웨어 구성 요소와 컨트롤 플레인을 시뮬레이션하며, 이를 통해 다양한 네트워크 토폴로지와 시스템 구성을 테스트할 수 있습니다.

개발자는 Voxel을 사용하여 최소 16개 이상의 스레드와 64GB 이상의 RAM을 갖춘 시스템에서 여러 개의 슬레드를 쉽게 구동할 수 있습니다. 예를 들어, 하나의 시스템에서 6개의 슬레드를 구성하여 각 슬레드가 독립적인 가상 머신 및 스위치 환경을 갖도록 설정할 수 있으며, 이를 통해 전체 랙 환경을 10분 내에 구현할 수 있습니다.

Voxel은 단순히 에뮬레이션을 넘어, 가상 랙 간의 연결 및 관리를 위한 통신 도구까지 제공하여 복잡한 시스템 환경을 관리하는 사용자 경험을 개선합니다. 이 솔루션은 MPL 2.0 라이선스로 제공되며, Helios 운영체제를 기반으로 실행되어 개발 및 테스트 환경 구축에 실질적인 이점을 제공합니다.

Save up to 20 percent on gift cards for REI, Barnes & Noble, and more

10월 19일까지 구글 플레이 스토어를 통해 기프트 카드를 구매하면 최대 20%까지 할인받을 수 있습니다. 이 혜택은 REI, Barnes & Noble, GameStop 등 다양한 소매점에서 적용되며, 예를 들어 50달러 기프트 카드에 대해 20% 할인, 100달러 기프트 카드에 대해 20% 할인 또는 10% 할인이 제공됩니다.

이러한 할인을 받기 위해서는 구글 플레이 계정이 필요하며, 계정이 없다면 미리 생성해야 합니다. 기프트 카드 외에도 구글은 구독 서비스와 게임 내 구매에 대한 할인 혜택을 제공하고 있습니다.

구체적으로는 Calm이나 Duolingo와 같은 구독 서비스에 대한 할인과 더불어 Pokémon Go나 PUBG Mobile과 같은 게임 내 구매 시 보너스를 제공합니다. 따라서 구글 플레이를 이용하면 기프트 카드뿐만 아니라 다양한 디지털 콘텐츠와 서비스에 대한 할인 기회를 동시에 잡을 수 있습니다.

AI Came for Math. Now It’s Chasing the Rest of Science

MIT 연구진에 따르면 인공지능이 곧 경제학, 고에너지 물리학 등 다양한 분야의 이론적 문제 해결에 있어 기본 방식이 될 수 있습니다. 이는 AI가 단순히 수학적 문제 해결을 넘어 광범위한 과학 분야로 그 적용 범위를 확장하고 있음을 시사합니다.

연구진은 AI가 복잡한 이론적 문제를 처리하는 데 있어 기존의 접근 방식을 변화시키고 있으며, 이론 과학 분야에서 AI의 역할이 점차 중심적인 위치를 차지할 것으로 전망합니다. 이러한 발전은 새로운 과학적 발견과 이론 정립에 중요한 영향을 미칠 수 있습니다.

이러한 변화는 AI 기술이 학문적 경계를 넘어 실제 과학적 난제를 해결하는 데 기여할 잠재력을 보여줍니다. 앞으로 AI는 이론 물리학이나 경제학 같은 분야에서 새로운 패러다임을 제시하는 데 핵심적인 도구가 될 것입니다.

Thank You, Deno

Deno 런타임이 클라우드플레어에 합류하며 투자 축소와 함께 서비스가 종료될 예정입니다. Deno의 코드는 이제 workerd로 통합되어 운영될 것이며, 이는 대안 런타임 실험이 마무리되고 Node가 기본값으로 승리했다는 결론을 시사합니다. 이러한 경쟁은 Deno가 주도했던 보안 우선 및 표준 중심의 접근 방식이 생태계에 긍정적인 영향을 미쳤기 때문에 가능했습니다.

Deno는 Node에 대한 압력을 가하여 생태계의 건강한 성장을 촉진했습니다. Deno는 기본적으로 권한 거부(deny-by-default) 설정, TypeScript의 우선 적용, ES 모듈 사용, 그리고 `npm`이나 `package.json` 없이 URL을 의존성으로 사용하는 등 Node가 채택하지 않은 여러 개선 사항을 제시했습니다. 이러한 변화는 개발자들이 기존의 패키지 관리 시스템에 대해 의문을 제기하고 새로운 표준을 요구하는 동력이 되었습니다.

최근 Bun과 같은 다른 런타임들이 등장하면서 이러한 변화는 더욱 가속화되었습니다. Bun은 속도를 위해 툴체인을 처음부터 재구축하면서도 기존 npm 패키지를 실행할 수 있는 대안을 제시했습니다. 이러한 경쟁 덕분에 JavaScript 생태계는 여러 런타임과 패키지 관리 시스템을 통해 보험을 갖게 되었습니다. 한 레이어가 통합되더라도 다른 레이어들이 그 역할을 유지할 수 있는 구조가 형성되었습니다.

Apate sends AI agents undercover to get scammed so they can gather fraud intelligence

Apate.ai는 사기 정보를 수집하기 위해 AI 에이전트를 잠입시켜 사기를 당하는 방식으로 운영하는 스타트업입니다. 이 회사는 수천 개의 AI 에이전트를 실제 피해자인 것처럼 위장하여 사기꾼들의 전화, 메시지, 이메일, 소셜 미디어 그룹 등에 참여하게 함으로써 정보를 수집합니다. 이 에이전트들은 다양한 연령, 성별, 억양, 언어를 구사하며 사기꾼들이 정보를 노출하도록 유도합니다.

이러한 잠입 활동을 통해 Apate는 은행, 통신사, 정부 기관 등 고객들이 겪는 사기 피해자들이 보통 알지 못하는 은행 계좌, 암호화폐 지갑, 전화번호, 악성 웹사이트 및 사기 브랜드와 같은 민감한 정보를 사기꾼들로부터 알아냅니다. Apate는 이러한 정보를 고객들에게 제공하여 고객들이 사기 방지 조치를 취할 수 있도록 돕습니다.

이 기술은 사기꾼들이 AI를 사용하여 대화와 목소리를 조작하고 딥페이크 기술을 활용하여 사기를 저지르는 시대에 등장했습니다. Apate의 에이전트들은 사기꾼들과의 대화를 통해 정보를 수집하며, 이는 사기꾼들이 실제 피해자에게 접근하기 전에 정보를 얻는 데 중점을 둡니다. 이 회사는 이러한 AI 에이전트들이 사기꾼들의 17년의 시간을 250만 건의 대화에서 낭비하게 만들었다고 밝히며, 사기 방지 분야에 혁신을 가져오고 있습니다.

Hierarchical Residual Policy Learning for Real-World Mobile Manipulation with Sparse Human Guidance

모바일 조작(MoMa)은 자율 로봇 시스템의 핵심이지만, 고차원 행동 공간과 이기종 모듈 간의 복잡한 결합 때문에 실제 환경에서의 미세 조정은 여전히 어려운 과제입니다. 이 논문은 복잡한 MoMa 시스템을 안정적이고 샘플 효율적으로 실제 환경에서 미세 조정하기 위한 체계적인 프레임워크인 HiRe-MoMa(Hierarchical Residual Mobile Manipulation)를 제안합니다.

HiRe-MoMa는 고정된 기본 정책을 미세 조정하는 계층적 잔차 아키텍처를 채택하며, 정책에 구애받지 않는 잔차(Policy-Agnostic Residual)를 학습하여 기본 정책 위에 보정값을 추가합니다. 또한 계층적 분리(Hierarchical Decoupling)를 통해 잔차를 모바일-기반(mobile-base) 헤드와 조작기-팔(manipulator-arm) 헤드로 분리하고 단방향 조건화를 적용하여 기울기 간섭을 완화하고 보정값을 플랫폼의 물리적 계층 구조에 맞춥니다.

데이터 집약적인 실제 환경에서 샘플 효율성을 높이기 위해 전문가 유도 가치 정렬(Expert-Guided Value Alignment) 방법을 제안했는데, 이는 20% 미만의 학습 커버리지를 가진 희소한 인간 개입을 활용하여 비평가(critic)의 가치 지형을 재구성함으로써 전문가 사전 지식을 통해 자율 탐색을 효과적으로 안내합니다.

TIAGo++ 플랫폼에서의 광범위한 실제 실험 결과, HiRe-MoMa는 기본 정책 아키텍처에 관계없이 단지 약 30분의 온라인 상호작용만으로 작업 성능을 일관되게 향상시켰습니다. 이는 실제 환경에서 복잡한 로봇 시스템을 배포하기 위한 실용적인 패러다임을 제공하는 최초의 효율적인 온-로봇 미세 조정을 가능하게 합니다.

Modeling and Understanding Neural Weights of Humanoid Policies with Diffusion

최근 로봇 학습의 발전은 휴머노이드 제어에 빠르게 기여하며 실제 환경에서 점점 더 민첩한 행동을 가능하게 했습니다. 하지만 휴머노이드 제어 네트워크는 일반적으로 기존 훈련 절차를 통해 얻어지며, 학습된 가중치의 분포를 직접 모델링하거나 가중치 공간에서 기능적인 네트워크를 생성하는 데는 상대적으로 관심이 부족했습니다.

본 연구는 고성능 휴머노이드 제어 네트워크가 가중치를 통해 생성적으로 모델링될 수 있는지 탐구합니다. 연구진은 선형 오토인코더와 Diffusion Transformer를 결합한 잠재 확산 프레임워크를 채택하여 이 목표를 달성했습니다. 이 방법은 강화 학습(RL)과 모방 학습(IL)을 통해 수집된 유니트리 G1 로봇 네트워크에서 학습하여 걷기, 춤추기, 스핀 킥 등 다양한 실제 움직임을 수행하는 배포 가능한 네트워크를 생성합니다.

나아가 연구진은 학습된 가중치 공간을 더 깊이 연구하여 휴머노이드 제어 네트워크가 포착하는 구조를 이해하고자 했습니다. 그 결과, 첫 번째 레이어 가중치에서 로봇의 운동학적 선험(kinematic prior)을 일관되게 반영하는 구조적 원리를 식별했습니다. 이 운동학적 선험은 강화 학습과 모방 학습 모두에서 나타났는데, 이는 특정 최적화 과정에 국한되지 않고 휴머노이드 체화와 관련된 공통 지식을 반영할 수 있음을 시사합니다.

이러한 결과는 휴머노이드 네트워크 가중치 공간에서의 생성 모델링이 실현 가능함을 입증하며, 학습된 가중치에 인코딩된 정보에 대한 초기 통찰을 제공합니다. 추가 결과는 프로젝트 웹사이트에서 확인할 수 있습니다.

Co-Evolving Acting and Forecasting for Language Agents

언어 에이전트 훈련은 긴 시퀀스 실행의 높은 비용으로 인해 병목 현상을 겪고 있으며, 표준 에이전트 강화 학습(RL)은 최종 스칼라 보상만을 학습하여 중간 단계의 감독 정보를 활용하지 못하고 있습니다. 기존 연구들은 단계별 성공 확률을 추정하는 가치 목표나 환경 반응에 맞는 관측 목표를 통해 이러한 감독 정보를 활용하려 했으나, 이들을 잘 구성하기 어렵다는 한계가 있었습니다.

이에 연구진은 다단계 행동 목표를 추가하는 \name을 제안하여 이 문제를 해결했습니다. 성공적인 온폴리시 궤적을 바탕으로 \name은 정책 백본이 각 이력(history)을 따라가는 행동 시퀀스를 생성하도록 훈련시키며, 이는 훈련 과정에서 시간적 앙상블을 형성하여 행동과 예측이 공동으로 진화하도록 합니다.

이 방법은 다섯 가지 벤치마크(ALFWorld, ScienceWorld 등)에서 GRPO 및 RL 기준선보다 더 강력한 집합 성능을 달성했으며, 특히 ScienceWorld에서 ECHO 및 GRPO 대비 최대 1.9배와 2.0배 더 높은 샘플 효율성을 보였습니다. 또한, 추가 모델이나 별도의 사전 훈련 없이 단일 정책 백본만 사용하여 이러한 효율성 향상을 달성했다는 점에서 모델의 경량화와 효율성 측면에서 큰 이점을 제공합니다.

해당 연구의 코드는 https://github.com/ulab-uiuc/CoPE에서 공개되어 있으며, 이는 실제 응용 환경에서의 에이전트 훈련 및 예측 성능을 개선하는 데 중요한 기여를 합니다.

Your Transformer Is Secretly Elastic

트랜스포머 모델은 다양한 하드웨어와 작업 부하에서 배포되지만, 모델 패밀리가 고정된 크기(예: S, B, L)만 제공하여 사용자가 하드웨어 및 지연 시간 제약에 따라 모델을 선택해야 하는 경직성이 존재합니다. 이 연구는 이러한 제약을 극복하고, 사전 학습된 트랜스포머를 단일 모델로 유연하게 확장하여 다양한 계산 예산에 따라 실시간으로 적응할 수 있는 학습 없는 방법을 제안합니다.

핵심 기여는 기능 단위 순위 지정 문제에 대한 미분 가능한 완화입니다. 기존 연구와 달리, 이 방법은 여러 희소성 목표 하에서 소프트 가지치기(soft pruning)를 통해 모델 손실을 최소화함으로써 개별 MLP 뉴런과 어텐션 헤드를 공통 규모에서 동시에 순위 지정합니다. 이는 22M에서 8B 매개변수를 가진 27개의 비전 및 텍스트 트랜스포머 인코더에 걸쳐 60% 희소성까지 부드러운 성능 저하를 보이며 기존의 단일 시도(one-shot) 기준선보다 깊은 가지치기 하에서 더 나은 성능을 달성합니다.

구체적인 예로, DINOv3 ViT-H+/16 모델을 50% 희소성으로 가지치기하면 427M 매개변수를 제거하면서도 ImageNet-1k 선형 프로빙 정확도를 0.8%만 감소시키며 가중치 보정이나 재학습이 필요 없습니다. 또한 60% 희소성에서 가지치기된 AugReg ViT-B/16 모델은 A100 GPU에서 최대 1.80배 높은 처리량과 1.26배 낮은 단일 쿼리 지연 시간을 달성합니다.

이러한 탄력적인 모델은 몇 분 내에 생성되며, 모델 구축 시간은 매개변수 수에 대해 준선형적으로 확장됩니다. 이는 개발자들이 하드웨어 제약 없이 계산 예산에 따라 트랜스포머 모델을 효율적으로 조정할 수 있는 기반을 제공합니다.