퓨샷 인컨텍스트 학습(ICL)은 모델이 프롬프트에 제공된 예시로부터 추상적인 패턴을 추론하고 새로운 입력에 적용하는 능력으로, 대규모 언어 모델에서 광범위하게 연구되어 왔습니다. 최근에는 자기회귀적 유전체 모델에서도 퓨샷 ICL이 입증되었으며, 이는 ICL이 다양한 도메인에서 나타나는지, 그리고 공통된 구조가 있는지에 대한 질문을 제기합니다.
연구진은 이러한 질문에 답하기 위해 여러 양식에서 동일한 작업 세트를 구현하는 통제된 교차 양식 프레임워크를 개발하여 '수렴적 출현 가설(Convergent Emergence Hypothesis)'을 테스트했습니다. 이 가설은 퓨샷 ICL이 나타날 때 공통된 교차 양식 난이도 프로필을 공유한다는 아이디어이며, 즉 한 양식에서 ICL이 이점을 얻으면 다른 양식에서도 이점을 얻는다는 것입니다.
연구 결과, 쌍별 매핑 ICL은 여섯 가지 양식(언어, 유전체, 정수 시퀀스, 시계열, 이미지, 단백질) 전반에서 출현했으며, 통제된 기준선보다 우수한 성능을 보였습니다. 또한 이 결과는 다섯 가지 양식에 걸쳐 작업별 효과가 상관관계를 보임을 나타냅니다.
이러한 결과는 일부 양식에서 수렴적 출현 가설을 지지하지만, 모든 양식에서 ICL이 보편적으로 나타난다는 것을 의미하지는 않습니다. 이는 ICL의 일반화 가능성과 도메인 간의 패턴 공유에 대한 중요한 통찰을 제공합니다.
Hugging Face Daily Papers
HF Papers API
논문
발행 2026-09-12
Nathan Breslow, Seungwook Han, Daniel Hyunsoo Lee, Aayush Mishra, Anqi Liu, Daniel Khashabi
수집 2026-09-16 11:00
StepAudio 3 Realtime은 실시간 음성 상호작용을 위해 설계된 오디오-언어 기반 파운데이션 모델로, 연속적인 듣기-대화-생각-행동 루프를 기반으로 합니다. 이 모델은 사용자의 의도를 해석하는 딥 퍼셉션과 오디오 스트림을 동기화하여 일시 정지나 중단을 자연스럽게 처리하는 심리스 듀플렉스 기술을 통합했습니다.
특히, 깊은 숙고와 지연 시간 사이의 긴장 관계를 해결하기 위해 생각하면서 말하기(Think-While-Speaking) 방식을 도입하여, 발화와 병렬로 사적인 추론을 실행함으로써 실시간으로 대화 및 추론 성능을 제공합니다. 이를 통해 StepAudio 3 Realtime은 전용 추론 모델과 유사한 대화 및 추론 성능을 실시간으로 달성할 수 있습니다.
또한, 통합된 음성 에이전트(Voice Agent)는 대화 흐름을 방해하지 않으면서 비동기적인 도구 실행을 처리할 수 있습니다. 이 모델은 MMSU 벤치마크에서 90.6점, 인공 분석 풀-듀플렉스 벤치에서 98.9점, 그리고 τ-Voice에서 56.0%의 태스크 성공률을 달성하며 주요 차원에서 최고 수준의 성능을 입증했습니다.
Hugging Face Daily Papers
HF Papers API
논문
발행 2026-09-12
Bin Lin, Bo Zhao, Boyang Zhang, Boyong Wu, Chao Yan, Chen Geng, Chen Wu, Cheng Yi, Chengli Feng, Chenglin Zhu, Chengting Feng, Chengyuan Yao, Daijiao Liu, DanNi Wan, Daxin Jiang, Dongjian Li, Dongqing Pang, Fei Tian, Feng Tian, Future Li, Gang Yu, Guanglong Yang, Haoyang Zhang, Hongyuan Wang, Jia Peng, Jiahao Song, Jialong Xue, Jiamin Fan, Jiangjie Zhen, Jianzheng Gao, Jincheng Wen, Jinghua Liang, Jinglan Gong, Jun Chen, Li Xie, Liang Zhao, Lifang Zhang, Lingli Ji, Lun Cai, Min Xu, Peilin Li, Peng Yang, Pengfei Tan, Qingjian Lin, Qinxin Du, Ruijie Xiong, Runze Li, Shenghua Hu, Shengqian Qin, Shi Qiu, Siqi Tu, Siyi Zhou, Tianjiao Deng, Wanying Lu, Weiming Niu, Wen Sun, WenWen Qu, Xiangyu Zhang, Xianwei Zhang, Xiaosu Su, Xing Chen, Xinyu Liu, Xuerui Yang, Yan Wu, Yang Li, Yang Yang, Yechang Huang, Yibo Zhu, Yifan Zhang, Yinuo Yan, Youjun Chen, Yu Fu, Yu Luo, Yu Zhou, Yujie Chen, Yumang Wang, Yunzhou Ju, Yuxiang Yang, Yuxin Li, Yuxin Zhang, Zekai Liu, Zengwei Yao, Zhaoxin Yuan, Zhenwei Mou, Zhiquan Zhang, Zhiyue Wu, Zichao Li, Zichao Zhou, Ziqi Ren, Zixuan Wang
수집 2026-09-16 06:57
실시간 상호작용 시스템인 Realtime-Venus는 비동기 위임을 갖춘 풀-듀플렉스 상호작용 시스템입니다. 이 시스템은 오디오-시각 상호작용을 위한 Realtime-Venus-Omni와 음성 상호작용을 위한 Realtime-Venus-Audio라는 두 개의 별도로 훈련된 9B 모델로 구성됩니다. 각 모델은 지속적인 인식, 대화 제어, 네이티브 음성 생성을 통합하며 사용자 입력, 모델 출력, 위임 이벤트에 대한 공유 인과 시간(causal timeline)을 통해 작동합니다.
Realtime-Venus는 라이브 상호작용과 배경 추론 및 도구 실행을 조정하는 듀얼 루프 런타임을 사용하며, 포그라운드 상호작용이 지속되는 동안 Realtime-Venus-Harness가 작업을 비동기적으로 실행하고 결과를 대화에 통합합니다. 두 모델은 오프라인 이해, 선제적 풀-듀플렉스 궤적, 위임 워크플로우를 결합한 공통의 후훈련 레시피를 따릅니다.
평가 결과, Realtime-Venus-Audio는 MMAU(78.0%), MMAU-Pro(63.2%), Llama Questions(83.8%), Speech CMMLU(67.8%) 등 여덟 가지 오디오 이해 및 음성 질의응답 벤치마크에서 비교 모델들을 선도했으며, VoiceBench AlpacaEval에서는 4.81점을 달성했습니다. 또한 Full-Duplex-Bench v1.5에서 Realtime-Venus-Audio는 사용자 중단에 75% 응답하고 배경 채널 하에서 97%, 88%, 86%의 연속률을 달성하여 Gemini 3.1 Live 및 GPT-4o를 능가했습니다.
Hugging Face Daily Papers
HF Papers API
논문
발행 2026-09-12
Ruixiang Zhao, Hualei Wang, Renhe Sun, Enzhi Zhou, Jincenzi Wu, Xujie Song, Kexin Shi, Zihang Liu, Pengcheng Zhu, Jiayi Zhou, Baoyue Zhang, Changhao Zhang, Zitong Wang, Jinhong Wang, Tong Niu, Jingjing Liu, Junan Lin, Haolin He, Hengshuo Chu, Yuhui Chen, Jian Liu, Yuge Huang, Junliang Xing, Yuntao Wang, Weiqiang Wang, Chun Yu, Yuanchun Shi
수집 2026-09-15 05:37