연구진은 생쥐의 뇌를 인간의 뇌 오가노이드 세포로 대체하는 실험을 통해 뇌 오가노이드를 연구하는 새로운 방법을 제시했습니다. 이는 복잡한 세포 간 상호작용이 필요한 인간 질병을 연구하는 데 있어 보다 자연스러운 맥락을 제공할 수 있다는 목표를 가지고 진행되었습니다.
이러한 오가노이드는 실제 장기처럼 3차원 조직 구조를 가지며 다양한 전문 세포를 포함하고 있어 단순한 세포 집합보다 더 나은 모델을 제공합니다. 하지만 현재의 뇌 오가노이드는 여전히 실제 인간 신체의 많은 특징을 갖추지 못하고 있습니다. 특히 뇌 오가노이드는 정상적으로 기능하기 위해 필요한 특화된 뇌 구조와의 연결이 부족하다는 한계가 있습니다.
연구팀은 이러한 한계를 극복하기 위해 생쥐 뇌의 상당 부분을 인간 뇌 오가노이드 세포로 대체하는 방법을 시도했습니다. 그럼에도 불구하고 이러한 오가노이드는 혈액 순환 시스템이나 면역 세포와 같은 실제 인체 기능을 갖추고 있지 않아 오가노이드가 생성하는 화학 물질을 처리하거나 면역 반응을 관찰하는 데 제약이 따릅니다. 따라서 이 연구 결과는 현재의 오가노이드 모델을 개선하는 데 중요한 단서를 제공합니다.
Ars Technica
논문
발행 2026-09-16
John Timmer
수집 2026-09-16 22:07
알파벳 자율주행 회사 웨이모(Waymo)의 전 최고재무책임자(CFO)인 엘리사 드 마르텔(Elisa de Martel)이 자율주행 스타트업 웨이브(Wayve)의 CFO로 합류했습니다. 웨이브는 로보택시 및 승용차에 자율주행 기술을 배포하는 단계에 있으며, 드 마르텔은 이 회사의 재무 전략과 자본 배분, 그리고 상업적 파트너십을 총괄하게 됩니다.
웨이브는 고정밀 지도나 맞춤형 하드웨어에 의존하지 않고 데이터만을 사용하여 차량이 주행을 학습하는 엔드투엔드 신경망 기반의 소프트웨어 레이어를 개발했습니다. 이러한 기술은 웨이모의 경험을 바탕으로 자동차 제조사들과의 파트너십을 확보하며, 현재 닛산, 스텔란티스 등 주요 자동차 회사들과 협력하고 있습니다.
웨이브는 이미 투자자들로부터 32억 달러를 유치했으며, 런던에서 인간 안전 운전자와 함께 공개 운행을 시작하는 등 자율주행 시스템을 실제 환경에 적용하는 데 진전하고 있습니다. 따라서 웨이브가 초기 배포 단계를 넘어 자동차 공급업체로서의 위치를 확보하는 과정에서 재무적 리더십이 중요한 역할을 하게 되었습니다.
TechCrunch
뉴스
발행 2026-09-16
Kirsten Korosec
수집 2026-09-16 19:05
개발자가 개미의 뇌를 활용하여 스토리 아이디어를 생성하는 실험을 진행했습니다. 저자는 오픈 소스로 공개된 초파리 뇌의 지도 데이터를 사용하여 웹사이트인 PitchFly를 코딩했습니다. 이 웹사이트는 초파리 뇌에서 얻은 영감을 바탕으로 헤드라인 제안을 생성하는 기능을 가지고 있습니다.
이 프로젝트는 생물학적 구조에서 영감을 받아 창의적인 콘텐츠 생성 시스템을 구축하는 AI 접근 방식을 보여줍니다. 구체적으로, 자연의 복잡한 신경망 구조를 데이터로 활용하여 기존의 텍스트 생성 모델과는 다른 방식으로 독창적인 아이디어를 도출하는 방법을 탐구했습니다.
PitchFly는 초파리 뇌의 데이터에서 나온 헤드라인 제안을 생성하며, 이는 단순한 텍스트 생성을 넘어 생물학적 메커니즘을 창의적인 코딩 및 콘텐츠 기획에 적용하는 사례입니다. 이러한 접근 방식은 AI가 단순히 패턴을 학습하는 것을 넘어, 생물학적 구조를 통해 새로운 사고방식을 촉발할 수 있음을 시사합니다.
Wired AI
출시
발행 2026-09-16
Will Knight
수집 2026-09-16 19:05
최근 AMD GPU에 탑재된 행렬 승산기(matrix multipliers)의 동작이 IEEE 754 부동소수점 표준을 따르지 않아 결과의 재현성이 보장되지 않는 문제가 지적되었습니다. 이는 누적 폭, 반올림 동작, 정규화 지점, 중간 언더플로우/오버플로우 처리, 서브넘어럴 처리 등 여러 측면에서 벤더와 아키텍처 간에 차이가 발생하기 때문입니다.
이러한 구현 세부 사항이 문서화되어 있지 않아 계산 결과의 불일치를 해석하기 어렵다는 문제점이 제기되었습니다. 연구진은 이러한 수치적 동작을 세 가지 AMD GPU 아키텍처(CDNA 1, 2, 3)에 걸쳐 MI100, MI210/250, MI300A/300X GPU를 사용하여 정량적으로 분석했습니다.
연구팀은 모든 입력 형식에 대한 수치적 특징을 파악하기 위해 테스트 벡터를 설계하고, 이를 기반으로 각 아키텍처에 대한 MATLAB 기반 소프트웨어 모델을 개발했습니다. 이 모델들은 1천만 세트의 무작위 입력 벡터를 사용하여 하드웨어와 비트 수준의 재현성을 검증하는 반복적인 테스트-정제 과정을 거쳤습니다.
최종적으로 이 모델들은 AMD 행렬 코어와 NVIDIA 텐서 코어 간의 애플리케이션 수준 정확도 차이를 정량화하는 데 사용되어 실험적 연구의 가능성을 입증했습니다.
Hacker News
논문
피드 등록 2026-09-16
matt_d
수집 2026-09-16 20:06
연준이 인플레이션 우려로 인해 금리를 인상하면서 채권 수익률이 상승하고 있습니다. 이는 연준의 통화 정책 결정이 금융 시장 전반에 미치는 직접적인 영향을 보여줍니다.
인플레이션에 대한 우려가 커지면서 연준이 기준 금리를 인상하는 조치를 취했고, 이에 따라 장기 국채 수익률이 상승하는 현상이 발생했습니다. 채권 수익률 상승은 투자자들이 더 높은 이자 수익을 요구하게 되며, 이는 채권 시장의 움직임에 큰 영향을 미칩니다.
이러한 금리 인상과 채권 수익률의 연동은 투자 포트폴리오를 관리하는 데 중요한 맥락을 제공합니다. 개발자나 금융 시장 참여자들은 이러한 거시 경제 지표 변화가 자산 가격과 시장 변동성에 어떻게 영향을 미치는지 이해하는 것이 필수적입니다. 따라서 금리 변화에 따른 채권 시장의 움직임을 면밀히 관찰해야 합니다.
Hacker News
뉴스
피드 등록 2026-09-16
wslh
수집 2026-09-16 20:06
GitHub에 공개된 jevlike는 텍스트 옵션들 중에서 하나를 선택하는 작업을 한 번의 통과(one-pass)로 처리하는 제브(Jev)와 유사한 모델을 훈련하기 위한 스타터 모델입니다. 이 모델은 텍스트와 N개의 옵션을 입력받아 각 옵션에 대한 확률을 한 번에 반환하는 방식으로 작동하며, 이는 단어별로 답변을 생성하는 방식보다 훨씬 빠른 처리 속도를 제공합니다.
모델의 아키텍처는 각 옵션을 쿼리 벡터로 설정하고 컨텍스트 토큰에 어텐션 가중치를 할당하여 컨텍스트 벡터를 생성하는 방식으로 설계되었습니다. 각 옵션과 컨텍스트 쌍은 점곱을 통해 하나의 점수를 얻고, 소프트맥스를 적용하여 확률로 변환합니다. 인코더는 텍스트를 벡터로 변환하며, 기본 인코더는 바이트 임베딩을 처음부터 학습합니다.
실제 실험 결과, 이 스타터 모델은 합성 메뉴에서 약 98%의 정확도를 달성했으며, 특정 데이터셋에서는 26%의 정확도를 기록했습니다. 하지만 정확도는 데이터 품질, 분할 품질, 그리고 사용된 인코더에 따라 크게 달라지며, 바이트 인코더는 언어 의미를 파악하는 데는 약합니다. 따라서 실제 사용 시에는 정확도를 높이기 위해 데이터 준비와 인코더 선택에 주의해야 합니다.
Hacker News
논문
피드 등록 2026-09-16
rochansinha
수집 2026-09-16 21:06
폴 W.S. 앤더슨 감독의 레지던트 이블이 2002년에 개봉했을 때 비디오 게임 영화는 대중적으로 틈새 장르로 여겨졌습니다. 몰트 킨트나 툼 레이어 같은 영화들이 대형 스크린 게임 각색이 성공할 수 있음을 입증했지만, 1993년 슈퍼 마리오 브로스 같은 프로젝트의 상업적, 비평적 실패는 여전히 그림자를 드리우고 있었습니다.
앤더슨 감독의 라쿤 시티 비전은 관객들을 사로잡았지만, 캡콤 게임의 하드코어 팬들은 원작 자료에서 크게 벗어난 영화에 실망했습니다. 이는 게임 원작을 영화로 각색할 때 원작의 근본을 유지하는 것이 얼마나 중요한지에 대한 논의를 촉발시켰습니다.
이에 따라 웨포스 감독의 레지던트 이블에 대한 새로운 해석은 프랜차이즈의 근본으로 돌아가는 시도로 평가받고 있습니다. 이 새로운 접근 방식은 원작의 핵심을 재조명하며 팬들의 기대를 충족시키고자 합니다.
The Verge
분석
발행 2026-09-16
Charles Pulliam-Moore
수집 2026-09-16 19:05
뉴럴링크(Neuralink)의 공동 창립자인 맥스 호닥(Max Hodak)이 올해 디스럽트(Disrupt)에서 화면 없는 인터페이스에 대한 비전을 발표할 예정입니다. 그는 이러한 인터페이스가 의료적 도움까지 제공할 수 있는 가능성을 제시하며 기술의 미래 방향을 조명할 계획입니다.
이번 발표는 화면 기반의 상호작용에서 벗어난 새로운 인터페이스의 가능성을 다루며, 이는 단순한 기술 발전을 넘어 의료 분야에 적용될 수 있는 잠재력을 보여줍니다. 개발자들은 이러한 화면 없는 인터페이스가 어떻게 작동하며 어떤 새로운 사용자 경험을 제공할 수 있을지에 대해 깊이 있게 탐구할 기회를 얻게 될 것입니다.
참가자들은 9월 25일까지 등록을 완료하면 패스 비용을 최대 200달러 절약할 수 있습니다. 디스럽트 행사에 참여하여 미래 인터페이스 기술의 발전에 대한 통찰을 얻고자 하는 개발자들에게는 이 기회가 유용할 것입니다.
TechCrunch
뉴스
발행 2026-09-16
TechCrunch Events
수집 2026-09-16 16:03
몬태나주는 기존의 권리 접근(right-to-try) 법을 개선하여 새로운 생명공학 법률인 SB535를 통과시켰습니다. 이 법은 임상시험 단계에서 FDA 승인 전에 환자에게 실험적 치료를 제공할 수 있도록 허용하지만, 기존 법률의 문제점을 해결하는 데 중점을 둡니다.
이 법의 핵심은 스폰서와 클리닉이 위험과 보상 비율을 가격에 반영할 수 있도록 허용하는 것입니다. 기존 시스템에서는 환자 접근 비용에 상한선이 있어 위험 비용이 포함되지 못했지만, 몬태나주는 IND 단계 약물의 스폰서가 위험을 가격에 반영할 수 있게 하여 데이터 확보 비용을 줄이고 연구를 촉진하고자 합니다.
이를 위해 실험적 치료를 제공하는 과정에서 안전성 검토, 동의, 결과 보고를 담당하는 주 정부 등록 민간 심의 위원회(ETRB)가 설치됩니다. 이 ETRB는 IRB와 유사하게 안전성 검토와 환자 동의를 보장하며, 이는 데이터 확보를 통해 임상시험 설계의 효율성을 높이는 데 기여할 수 있습니다.
결과적으로 이 법은 Phase 1 자산을 보유한 바이오 기업들이 '죽음의 계곡(Valley of Death)'에 갇혀 있는 상황에서 환자 치료를 통해 실제 데이터를 확보하고 후속 임상시험 설계를 개선할 수 있는 기회를 제공합니다. 다만, 이 법이 FDA의 승인 절차를 건너뛰는 것이 아니라 데이터 비용을 줄이는 데 초점을 맞추고 있으며, 안전성 확보를 위한 엄격한 감독이 병행된다는 점을 유의해야 합니다.
Hacker News
뉴스
피드 등록 2026-09-16
niklas_anzinger
수집 2026-09-16 21:06
헤르쿨라네움 두루마리 해독 프로젝트에 새로운 검증 방법이 개발되었습니다. 연구팀은 물리적으로 펼치기 불가능할 정도로 취약한 2,000년 된 파피루스 원본을 분석하기 위해, 원본과 동일하게 탄화시킨 자신들의 현대 모델 파피루스 두루마리를 제작하여 선별 방법을 검증했습니다.
이 방법은 헤르쿨라네움 두루마리 중 어떤 것이 납 기반 잉크로 작성되었는지 식별하여 추가 분석을 위한 가장 유망한 후보를 결정하는 데 중점을 둡니다. 이 연구는 PLoS ONE 저널에 발표되었습니다.
이전 연구에서 고고학자들은 이 두루마리 조각들을 통해 에피쿠로스와 필로데모스 등의 그리스 철학 텍스트를 식별했지만, 600여 개의 두루마리가 너무 취약하여 읽을 수 없을 것으로 여겨졌습니다. 새로운 모델 제작 과정은 이러한 선별 방법의 신뢰성을 높여 고대 문헌 연구에 기여할 것으로 기대됩니다.
Ars Technica
논문
발행 2026-09-16
Jennifer Ouellette
수집 2026-09-16 22:07
발표가 좋았다면 발표자에게 피드백을 전달하는 것이 가치가 있습니다. 발표자는 많은 노력을 들여 준비하기 때문에 청중이 발표를 즐겼는지, 내용이 괜찮았는지에 대한 피드백을 받고 싶어 합니다.
온라인 환경에서 피드백이 없는 침묵은 발표자를 불안하게 만들 수 있습니다. 온라인 반응이 전혀 없어 발표 내용이 청중에게 제대로 와닿지 않았을까 걱정하는 경우도 발생합니다.
따라서 발표 후에는 짧더라도 발표자에게 직접 피드백을 전달하여 발표의 질을 향상시키는 것이 중요합니다. 이는 발표자와 청중 모두에게 긍정적인 경험을 제공하는 데 도움이 됩니다.
GeekNews
뉴스
피드 등록 2026-09-16
neo
수집 2026-09-16 21:06
구글은 C++의 std::sort보다 약 10배 빠른 속도를 내면서도 모든 최신 CPU 아키텍처에서 작동하는 벡터화되고 성능이 뛰어난 퀵 정렬 알고리즘을 공개했습니다. 이 알고리즘은 SIMD(Single Instruction, Multiple Data) 벡터 명령어 세트를 활용하여 배열의 분할(partitioning) 과정을 가속화함으로써 기존의 아키텍처별 알고리즘보다 우수한 성능을 달성했습니다.
이러한 성능 향상은 SIMD 명령어의 'compress-store' 또는 'permute'와 같은 기능을 활용하여 분할 작업을 처리하는 데서 비롯됩니다. 개발팀은 이러한 SIMD 기능을 활용하여 플랫폼에 종속되지 않는 포터블한 방식으로 퀵 정렬을 구현했으며, 이를 위해 Highway의 포터블 SIMD 함수를 사용하여 각 플랫폼별로 수천 줄의 C++ 코드를 다시 작성할 필요가 없었습니다.
결과적으로 이 벡터화된 퀵 정렬은 AVX-512, Arm NEON, x86 AVX2 등 다양한 명령어 세트에서 기록적인 속도를 보였습니다. 예를 들어, Apple M1 환경에서 100만 개의 32/64/128비트 숫자를 정렬하는 데 약 499/471/466 MB/s의 속도를 기록했으며, 이는 기존 표준 라이브러리보다 9배에서 19배까지의 속도 향상을 의미합니다.
Hacker News
논문
피드 등록 2026-09-16
mococa
수집 2026-09-16 19:05
AI 연구소들은 내부 감사관을 원하지만, 실제로는 네트워크 보안 기본에 집중해야 한다는 의견이 나오고 있습니다. 인터넷 보안 전문가들은 무분별한 외부 감사보다는 로그와 권한 설정 같은 네트워크 보안 기초를 적용하여 AI 에이전트의 행동을 통제하는 것이 더 효과적이라고 주장합니다.
최근 AI 안전 논의에서 에이전트의 통제 문제가 중요해지면서, 보안 전문가들은 에이전트가 외부 시스템에 접근하거나 샌드박스 환경을 벗어나는 사고가 주로 부실하게 설정된 환경과 네트워크 접근 통제 부족에서 발생한다고 지적합니다. 예를 들어, 일부 사고는 외부 평가자가 적절한 보안 조치를 취하지 않아 발생했으며, 에이전트가 인터넷 접근 권한을 확보하는 과정에서 보안 취약점이 노출되었습니다.
따라서 향후 에이전트의 잠재적 위험을 막기 위해서는 실시간 모니터링이 핵심이며, 모든 에이전트 세션은 시간 제한을 두고 만료되어야 합니다. 전문가들은 에이전트가 자신의 추론 과정이나 활동을 공개적으로 게시하는 경향이 있으므로, 외부에서 에이전트를 감시하고 모든 네트워크 연결과 프로세스를 기록하여 통제하는 것이 필수적이라고 강조합니다.
TechCrunch
분석
발행 2026-09-16
Tim Fernholz
수집 2026-09-16 19:05
닌텐도 스위치 2용으로 출시될 메트로이드 레이븐러스는 2021년의 메트로이드 드레드 이후 시리즈 최초의 2D 사이드 스크롤 게임입니다. 이 게임은 샘스(Samus)가 환경을 통과하며 적과 보스를 물리치는 액션을 중심으로 하며, 이전 작품에서 얻은 강력한 능력을 활용하여 행성을 탈출하는 것에 초점을 맞춥니다.
이 게임은 2027년 1월 28일에 출시될 예정이며, 닌텐도는 2026년 9월 라이브 스트리밍에서 이 게임의 역동적인 트레일러를 공개했습니다. 스토리의 세부 내용과 독특한 새로운 메커니즘은 현재 공개되지 않았습니다.
현재 월마트에서는 물리 버전 구매 시 할인을 제공하고 있는데, 정가 69.99달러 대신 59.88달러에 판매되어 디지털 구매 가격과 거의 비슷합니다. 다만, 이 사전 주문 할인이 얼마나 지속될지는 불확실하며 다른 월마트 사전 주문처럼 언제든지 사라질 수 있다는 점을 고려해야 합니다.
The Verge
뉴스
발행 2026-09-16
Brad Bourque
수집 2026-09-16 19:05
안드로이드 17은 AOSP(Android Open Source Project)에 릴리스되기 전에 새로운 API를 추가하는 최초의 버전입니다. 이는 기존 3.x 버전 이후 처음으로 AOSP에 공식적으로 배포되기 전에 새로운 API를 추가하는 방식으로 진행되었습니다.
이러한 변경 사항은 안드로이드 개발 및 커스텀 ROM 환경에 중요한 의미를 가집니다. AOSP에 공식적으로 통합되기 전에 새로운 API가 도입됨으로써, 개발자들은 AOSP의 공식 릴리스를 기다리지 않고도 최신 기능을 테스트하고 적용할 수 있는 기회를 얻게 됩니다.
이는 특히 GrapheneOS와 같은 커스텀 안드로이드 프로젝트를 진행하는 개발자들에게 유연성을 제공합니다. 공식 릴리스와 별개로 새로운 기능을 미리 테스트하고 통합할 수 있는 환경은 사용자 정의 시스템을 구축하는 데 있어 중요한 이점을 제공합니다.
Hacker News
뉴스
발행 2026-09-16
theanonymousone
수집 2026-09-18 20:38
스페셜라이즈의 다이버지 프로 4는 거친 자갈길을 위한 최고의 플레이그라운드로 설계되었습니다. 이 자전거는 시카고 외곽의 잘 정돈된 자갈길이 아닌, 노스이스턴 일리노이의 빙하가 깎은 지형과 같은 험난한 경사도에서 성능을 발휘하도록 만들어졌습니다.
다이버지 프로 4는 다른 자전거들과 달리 순수하게 인간의 힘으로 구동되는 자전거이며, 오프로드 모험가, 과학자, 레이서들의 의견을 반영하여 개발되었습니다. 스페셜라이즈는 이를 레이싱, 모험, 장거리 라이딩을 위한 궁극적인 이동 수단으로 마케팅하고 있습니다.
이 자전거는 8,249달러에 책정되었으며, 콜로라도주 더글라스 카운티의 산 정상에서 테스트되었습니다. 하강 경로는 요철이 많고 시카고 주변에서 경험할 수 있는 것보다 약간 더 기술적인 구간이었지만, 라이더는 자전거의 문제보다는 자신의 기술에 더 집중할 수 있었다고 평가했습니다.
Ars Technica
분석
발행 2026-09-16
Eric Bangeman
수집 2026-09-16 22:07
해커 그룹인 샤이니헌터스(ShinyHunters)가 플로리다 주 차량 및 운전자 정보 데이터베이스를 침해하여 수십만 건의 파일을 공개했습니다. 해커들은 이 데이터를 공개한 이유로 피해 기관이 몸값 요구를 지불하거나 해커의 요구에 협조하지 않았기 때문이라고 밝혔습니다.
해커들이 유출한 데이터에는 차량 소유권 기록, 구매자와 판매자의 이름 및 주소, 차량 식별 번호 등이 포함되어 있습니다. 일부 파일에는 사회 보장 번호 및 비(非)미국 여권과 같은 정부 발급 문서도 포함되었으나 운전면허증이나 사진은 포함되지 않았습니다.
이러한 데이터 유출은 해커가 경찰관 자격 증명을 획득하여 데이터베이스에 접근했음을 시사하며, 이는 데이터베이스 보안 및 정부 기관의 민감 정보 보호에 심각한 문제를 제기합니다.
이 사건은 같은 달에 신원 확인 회사인 IDScan에서 발생한 대규모 이미지 유출 사건과 함께 발생하여, 광범위한 데이터 보안 취약점과 개인 정보 보호 시스템의 취약성을 동시에 보여줍니다.
TechCrunch
뉴스
발행 2026-09-16
Zack Whittaker
수집 2026-09-16 18:05
공룡의 왕인 티라노사우루스 렉스(T. Rex)가 97도의 체온을 가졌다는 새로운 연구 결과가 발표되었습니다. 이 연구는 화석화된 이빨을 포함한 화석을 이용한 지구화학 기법을 사용하여 공룡의 체온을 추정했으며, 이를 통해 티라노사우루스 렉스가 온혈 동물이었음을 확인했습니다.
연구에 따르면 티라노사우루스 렉스의 체온은 악어보다 뜨겁고 닭보다 시원한 수준으로, 이는 공룡이 온혈 동물 그룹에 속했음을 강력하게 시사합니다. 이 수치는 인도 코끼리(97도)나 인간(98도)과 비슷한 범위에 속하며, 닭(105~107도)의 체온과는 거리가 멀다는 점이 주목됩니다.
이 발견은 과거 공룡이 파충류처럼 냉혈 동물이었을 것이라는 기존의 견해를 바꾸는 중요한 증거를 제공합니다. 과학자들은 티라노사우루스 렉스가 빠른 신진대사를 가졌다는 이전 연구 결과에 더해, 이 새로운 연구를 통해 정확한 체온 범위를 설정할 수 있게 되었습니다.
Hacker News
논문
발행 2026-09-16
marojejian
수집 2026-09-17 21:24
최신 언어 모델에서 사용되는 두 가지 주요 토크나이저 알고리즘인 바이트 쌍 인코딩(BPE)과 유니그램LM은 최적화 목표(압축 대 로그 우도)와 검색 절차(하향식 병합 대 상향식 가지치기)라는 두 개의 직교 축을 따라 차이가 납니다. 기존의 비교 방식은 이러한 축들을 혼재시켜 어떤 차이가 최적화 목표에서 비롯된 것인지, 아니면 최적화 방식에서 비롯된 것인지 불분명하게 만들었습니다.
연구진은 이 두 축을 분리하기 위해 하향식 확률 기반 토크나이저인 BottomUpLL과 상향식 압축 기반 토크나이저인 TopDownComp라는 두 가지 새로운 알고리즘을 도입했습니다. 이 알고리즘들을 사용하여 모델을 훈련하고 모델 크기, 어휘 크기, 도메인(영어 전용 대 다국어)을 변화시키며 평가했습니다.
모델을 비트당 바이트(bits-per-byte)로 평가한 결과, 최적화 목표보다는 검색 절차, 즉 하향식(bottom-up) 방식이 지배적인 요인임을 발견했습니다. 하향식 토크나이저는 대부분의 설정에서 더 낮은 비트당 바이트를 달성했습니다. 그러나 BLiMP 작업에서는 설계 선택과 성능 사이에 일관된 관계가 나타나지 않았습니다.
결론적으로 이 연구는 토크나이저 설계 선택이 언어 모델 성능에 미치는 영향을 분리하여 제시함으로써, 토크나이저를 보다 원칙적으로 구축하기 위한 구체적인 지침을 제공합니다.
arXiv AI/ML
arXiv API
논문
발행 2026-09-16
Ahmetcan Yavuz, Clara Meister, Tiago Pimentel
수집 2026-09-17 02:09
대규모 언어 모델(LLM)을 인간 선호도에 맞추기 위해 직접 선호도 정렬(Direct Preference Alignment) 방법이 널리 사용되지만, 이는 계산 및 메모리 효율성이 높다는 장점이 있습니다. 그러나 선호도 쌍의 가능도 마진이 작을 때 발생하는 가능도 편차(likelihood displacement)는 대안적인 정보 추출 방법을 모색하게 만듭니다.
이에 본 논문은 비교 기반 선호도 최적화(Comparison-based Preference Optimization, ComPO)라는 제로 오더 정렬 방법을 제안하고 분석합니다. ComPO는 비교 오라클을 기반으로 하며, 미분 가능한 선호도 손실을 직접 최적화하지 않고도 이러한 쌍들로부터 방향성 정보를 추출합니다. 연구진은 기본 오프라인 스킴에 대해 부드러움, 기울기 희소성, 그리고 오라클과 잠재 목표 간의 호환성을 조건으로 수렴 보장을 확립했습니다.
또한, 참고 정책 대비 역-KL 제어를 위해 레이블이 없는 정책 생성을 활용하는 온라인 ComPO도 도입했습니다. 선호도 미세 조정의 커버리지 관점에서, 로컬 커버리지와 분포 내 쌍별 보상 정확도를 조건으로 기본적인 제약된 스킴에 대한 성능 보장을 제시합니다.
Mistral, Llama, Gemma-2, Qwen3, Gemma-3 모델에 대한 실험 결과는 기존의 직접 정렬 방법들보다 개선된 결과를 보여주며, 특히 길이 제어된 승률에서 향상을 입증했습니다. 쌍 수준 진단은 가능도 편차를 완화하는 것과 일관된 증거를 제공하며, ComPO가 효율적인 정렬 방법임을 시사합니다.
arXiv AI/ML
arXiv API
논문
발행 2026-09-16
Peter Chen, Xi Chen, Wotao Yin, Tianyi Lin
수집 2026-09-17 02:09