읽을 가치가 있는 기사만, 짧고 또렷하게.

구글이 가족을 위한 새로운 실험적인 AI 에이전트인 CC를 발표했습니다. 이 에이전트는 여러 가족 구성원이 데이터를 공유하여 계획을 세우고 작업을 완료하는 데 도움을 줄 수 있도록 설계되었습니다.

CC는 구글 생태계 내에서 Gemini 모델이 보유한 사용자 데이터를 확장하여 가족 전체에게 맞춤화된 경험을 제공하는 것을 목표로 합니다. 이전 버전의 CC는 구글 계정 데이터를 활용하여 일일 액션 아이템과 제안을 제공하는 데 중점을 두었으나, 새로운 CC는 최대 여섯 명의 사용자가 공유할 수 있는 공유 리소스로 기능하도록 발전했습니다.

CC는 자체 구글 계정을 가지고 있으며 각 가족 구성원은 원할 경우에만 에이전트와 상호작용할 수 있습니다. 예를 들어, 에이전트는 명시적으로 공유된 이메일만 확인하며, 사용자는 특정 주소(예: 학교 일정 이메일)를 에이전트가 항상 접근할 수 있도록 지정할 수 있습니다. 또한 사용자는 이메일이나 구글 채팅을 통해 CC로 콘텐츠를 보낼 수 있으며, 공유 구글 드라이브 폴더에 초대장이나 문서를 저장하여 에이전트가 이를 모니터링하도록 할 수도 있습니다.

아마존 프라임 멤버십은 무료 이틀 배송 외에도 사용자가 알지 못하는 다양한 혜택을 제공합니다. 이번 기사는 아마존 프라임 빅 딜 데이(Amazon Prime Big Deal Days)를 앞두고 프라임 회원들이 놓치기 쉬운 26가지 혜택에 대해 다루고 있습니다.

프라임 멤버십은 단순히 무료 이틀 배송만을 제공하는 것을 넘어 훨씬 광범위한 혜택을 포함하고 있습니다. 이러한 숨겨진 혜택들을 미리 알고 있다면 프라임 멤버십의 가치를 더욱 극대화할 수 있습니다.

이 기사는 프라임 회원들이 당연하게 여기는 혜택 외에 실제로 누릴 수 있는 추가적인 혜택들을 구체적으로 제시하여, 다가오는 빅 딜 기간 동안 쇼핑 경험을 개선하는 데 도움을 줄 것입니다.

AI 안전 논쟁은 안전 확보에 관한 것인지 통제에 관한 것인지에 대한 근본적인 질문을 던지고 있습니다. OpenAI의 Dario Amodei CEO는 AI 발전을 늦추어 안전장치를 마련해야 한다는 주장을 펼치며 기업과 정부의 국제적인 협력을 통한 안전한 배포 전략을 제안했습니다. 하지만 이러한 행동 촉구에 대해 모든 전문가가 동의한 것은 아니며, 일부는 정부의 개입 없이 시장의 자율적인 인센티브가 기업을 안전하게 만들 것이라고 주장합니다.

Meta의 Mark Zuckerberg CEO는 안전과 보안을 우선하여 AI 모델 출시를 지연시킨 사례를 언급하며, 정부의 역할보다는 기업 내부의 노력과 자율적인 규제가 더 중요하다고 보았습니다. 이러한 입장은 AI 안전 논쟁이 기술적 안전성보다는 산업 내 권력과 통제권에 대한 경쟁으로 확장되고 있음을 시사합니다. 실제로 Anthropic과 OpenAI 같은 주요 기업들은 자체적으로 AI 표준 기구 또는 사설 '자율 규제 기구'를 만들고 협력하여 안전 기준을 마련하는 움직임을 보이고 있습니다.

이러한 논쟁은 궁극적으로 누가 안전 기준을 정의하고 참여할 것인가에 대한 정치적 문제로 귀결됩니다. 일부 전문가들은 AI 안전이 지리정치적 경쟁과 깊이 연관되어 있으며, AI 경쟁에서 누가 우위를 점할 것인지에 따라 안전의 정의와 규범이 달라질 수 있다고 지적합니다. 특히 Amodei는 이러한 조치를 통해 중국의 발전을 늦춰 향후 3~5년 동안 미국의 리드를 확대할 수 있다고 주장하며 지정학적 맥락을 강조했습니다.

OpenAI에서 발표한 'Astra for Law'에 대한 내용은 법률 분야에 인공지능을 적용하는 것에 초점을 맞추고 있습니다. 이 프로젝트는 법률 문서 분석, 정보 검색, 법률 자문 등의 복잡한 작업을 자동화하고 개선하기 위해 대규모 언어 모델(LLM) 기술을 활용하는 것을 목표로 합니다.

Astra for Law는 법률 전문가들이 방대한 법률 데이터 속에서 필요한 정보를 더 빠르고 정확하게 찾고 이해할 수 있도록 돕는 것을 목적으로 합니다. 이는 기존의 법률 연구 및 분석 프로세스에 AI를 통합하여 효율성을 높이고, 복잡한 법률 문제에 대한 접근성을 향상시키는 데 기여할 것으로 기대됩니다.

개발자 관점에서 볼 때, 이 프로젝트는 법률 텍스트와 같이 고도로 전문적이고 맥락 의존적인 데이터에 AI를 적용하는 데 필요한 새로운 방법론과 기술적 과제를 제시합니다. 특히, 법률 분야의 특성상 정확성과 윤리적 고려가 매우 중요하므로, 모델의 출력에 대한 신뢰성과 검증 가능성을 확보하는 것이 핵심적인 과제가 될 것입니다.

마이크로소프트와 OpenAI가 AI 학습을 위해 뉴스 콘텐츠를 수집하는 행위에 대해 내부적으로 어떤 입장을 취했는지 보여주는 문서들이 공개되었습니다. 이 문서는 뉴스 조직들이 AI 기업들이 저작권법을 위반하며 뉴스 콘텐츠를 훔쳐 AI를 훈련시킨다는 주장을 제기하는 과정에서 마이크로소프트와 OpenAI가 이 위협을 어떻게 인식했는지 상세히 보여줍니다.

특히 마이크로소프트의 응용 과학 책임자인 브렌트 헤cht(Brent Hecht)은 AI 학습을 위한 뉴스 스크래핑이 "전례 없는 규모의 놀라운 도난"이며 "인류 역사상 최대 규모의 노동 도난"이라고 반복적으로 경고했습니다. 그는 또한 AI에 뉴스 콘텐츠를 훈련시키는 것이 공정 사용(fair use)이라는 마이크로소프트와 OpenAI의 주장을 반박하며, 광범위한 뉴스 스크래핑 계획이 "공정 사용이라는 개념을 완전히 조롱한다"고 지적했습니다.

이러한 내부 문서는 AI 기술 개발과 관련하여 데이터 수집의 윤리적, 법적 경계에 대한 거대 기업들의 시각이 어떻게 충돌했는지 명확히 드러냅니다. 이는 ChatGPT나 Copilot과 같은 새로운 AI 제품 출시를 앞두고 뉴스 조직들과 AI 개발자들 사이에서 제기되는 저작권 및 데이터 사용 문제에 중요한 맥락을 제공합니다.

최근 4대 주요 AI 코딩 에이전트인 Claude Code, Codex, GitHub Copilot, Gemini CLI에서 제로 클릭 원격 코드 실행(RCE) 취약점인 Plugin4Shell이 발견되었습니다. 이 취약점은 신뢰할 수 있는 플러그인이 악성 플러그인으로 조용히 교체되어 에이전트의 SHA 고정(SHA pinning)을 우회하는 방식으로 발생하며, 수백만 개의 에이전트가 영향을 받았습니다.

이 취약점은 에이전트 애드온(플러그인)이 주로 오픈 커뮤니티 마켓플레이스에서 설치되는 공급망 구조의 근본적인 결함을 이용합니다. 악성 플러그인이 설치될 때 사용자 상호작용 없이 자동으로 업데이트되는 특성 때문에, 공격자는 사용자가 신뢰하는 플러그인을 교체하여 사용자 개입 없이 에이전트와 호스트 시스템에 대한 완전한 원격 코드 실행 권한을 획득할 수 있습니다.

Plugin4Shell은 에이전트 자체나 모델이 아닌, 에이전트 애드온이 도달하는 배포 계층을 공격하는 최초의 AI 에이전트 생태계 공급망 취약점입니다. 이는 플러그인에 대한 검증 과정이 에이전트 내부에서 이루어지기 때문에, 마켓플레이스 차원의 보안 조치만으로는 이 문제를 해결할 수 없습니다.

따라서 에이전트 애드온을 설치하고 마켓플레이스에서 플러그인을 사용하는 모든 조직은 이 취약점에 노출되어 있으며, 이는 엔터프라이즈의 핵심 자산에 대한 완전한 접근 권한을 의미합니다. 보안을 위해서는 커뮤니티 마켓플레이스를 넘어 플러그인을 검토하고 특정 커밋에 고정하는 SHA 고정 방식을 통해 공급망 위험을 관리해야 합니다.

유엔이 AI 에이전트가 사용할 수 있도록 글로벌 데이터를 준비하기 위해 구글과 협력한다고 발표했습니다. 유엔 시스템 데이터 커먼스(UN System Data Commons)라는 새로운 시스템은 구글의 오픈 소스 데이터 커먼스 플랫폼을 기반으로 구축되었으며, 자연어 질의를 통해 유엔 기관의 통계를 검색할 수 있게 합니다. 이는 기존의 데이터베이스 인터페이스를 통해 통계를 탐색해야 했던 유엔데이터 포털을 대체하는 것입니다.

이러한 협력은 AI 모델이 신뢰할 수 있는 데이터를 확보하는 데 어려움을 겪는다는 문제에서 비롯되었습니다. 유니세프의 벤치마크 테스트 결과, 여러 대규모 언어 모델은 글로벌 개발 지표에 대한 질문에 응답할 때 평균 정확도 21.2%에 불과했으며, 많은 응답에서 유용한 수치를 제공하지 못했습니다.

새로운 시스템은 AI 시스템이 외부 데이터 소스에 직접 연결할 수 있도록 모델 컨텍스트 프로토콜(MCP)을 지원합니다. 구글은 이 기술을 통해 AI가 여러 지표를 통합하여 대시보드, 차트 및 분석을 생성할 수 있도록 시연했습니다. 유엔은 2027년까지 시스템 통계 데이터 세트의 80%를 이 플랫폼으로 이전하는 것을 목표로 하고 있습니다.

구글은 이 플랫폼 구축에 2백만 달러의 자금과 기술 지원을 제공했으며, 시스템은 유엔이 독립적으로 유지, 운영 및 확장할 수 있도록 유엔이 관리하는 인스턴스에 호스팅됩니다. 다만, 구글은 AI 시스템이 권위 있는 데이터를 제공한다고 해서 그 결론이 권위 있는 것은 아니므로, 사용자는 출처를 인용하거나 게시하기 전에 항상 결과물을 검토해야 한다고 강조했습니다.

AI 연구소들이 자신들의 노력을 산업 전반의 보안 표준 향상 요구가 아닌 ‘둔화’로 포장함으로써 장기적인 규제 문제에 직면할 수 있다는 지적이 나왔습니다. 이러한 프레이밍 방식은 AI 개발자들이 규제 당국과의 관계에서 불필요한 마찰을 일으키고 규제상의 골칫거리를 초래할 수 있다는 의미를 내포합니다.

AI 연구소들이 보안 표준 개선을 위한 광범위한 노력을 진행하는 대신 이를 ‘둔화’로 표현하는 것은 규제 당국과의 소통 방식에 영향을 미칩니다. 이는 AI 기술 발전 속도와 안전성 확보라는 두 가지 목표 사이의 균형을 어떻게 설정하느냐에 따라 향후 규제 환경이 달라질 수 있음을 시사합니다.

결론적으로, AI 개발 및 연구 커뮤니티는 기술적 진보와 규제 준수라는 목표를 동시에 달성하기 위해 공식적인 노력을 어떻게 정의하고 전달할지에 대해 신중하게 접근해야 합니다. 이러한 프레이밍 전략은 향후 AI 산업 전반의 규제 환경에 중대한 영향을 미칠 수 있습니다.

프랑스의 수학자 장-피에르 세르(Jean-Pierre Serre)가 100세를 맞이했다는 소식이 보도되었습니다. 그는 대수적 위상수학, 대수기하학, 대수적 정수론 분야에 중요한 공헌을 하며 여러 수학 분야가 현대적인 형태로 발전하는 데 핵심적인 역할을 했습니다.

세르는 이 세 가지 주요 수학 분야에서 깊이 있는 연구를 수행하며 현대 수학의 토대를 다지는 데 기여했습니다. 그의 연구는 추상적인 수학 이론을 구체화하고 새로운 개념을 정립하는 데 중요한 영향을 미쳤습니다.

특히 그는 스펙트럴 열(spectral sequence)이라는 수학적 도구를 올다발의 호몰로지 연구에 적용하여 호몰로지 군과 호모토피 군을 분석하는 데 활용했습니다. 이러한 접근 방식은 복잡한 기하학적 구조를 이해하는 데 필수적인 방법론을 제공했습니다.

TypeSafe의 Jev 방식처럼 문장 대신 선택지별 확률을 반환하는 모델을 직접 학습하고 실험할 수 있는 오픈소스 프로젝트인 Jevlike가 공개되었습니다. 이 프로젝트는 기존의 텍스트 생성 방식에서 벗어나 문맥에 따라 달라질 수 있는 선택지 목록을 입력받아 답을 단어별로 생성하는 대신 한 번의 처리로 각 선택지의 확률을 계산하는 데 중점을 둡니다.

Jevlike는 모델이 최종적인 문장을 생성하는 대신, 주어진 문맥에 기반하여 가능한 선택지들에 대한 확률 분포를 제공함으로써 추론 과정을 명확하게 보여줍니다. 이는 모델의 예측 과정을 더 투명하게 만들고, 결과의 불확실성을 정량적으로 파악할 수 있게 해줍니다.

개발자들은 Jevlike를 통해 문맥에 따라 변화하는 선택지 목록을 처리하고 확률을 계산하는 실험을 직접 진행할 수 있습니다. 이는 복잡한 텍스트 생성 문제를 해결하는 데 있어 확률 기반 접근 방식의 가능성을 탐색하고 새로운 모델을 실험하는 데 유용한 기반을 제공합니다.

LLM의 생산성 향상 가능성과 유용성은 인정하지만, 실제 직접 대화할 때는 기대나 두려움보다 거부감이 앞선다는 지적이 제기되었습니다. 이는 LLM을 활용하는 과정에서 사용자들이 느끼는 심리적 장벽과 불편함을 드러내는 내용입니다.

사용자들은 LLM이 제공하는 유용한 답변이나 지어낸 내용을 똑같이 확신에 찬 말투로 제시하는 방식에 불편함을 느낍니다. 특히 오류를 지적했을 때 진심 없는 사과로 넘어가는 태도는 신뢰를 저해하는 주요 요인으로 작용합니다.

따라서 LLM의 기술적 성능 외에도, 사용자와의 상호작용 과정에서 투명성과 진정성이 얼마나 중요한지에 대한 논의가 필요합니다. 개발자와 사용자 모두 LLM과의 대화 경험이 단순한 생산성 향상을 넘어 신뢰와 정서적 측면을 고려해야 함을 시사합니다.

최근 공개된 법원 서류에 따르면 마이크로소프트 경영진이 OpenAI의 데이터 처리 방식을 "도둑질"이라고 비공식적으로 언급한 사실이 드러났습니다. 이는 마이크로소프트와 OpenAI 양사가 유료로 제한된 타임스(Times) 콘텐츠를 스크래핑하여 데이터셋을 구축했으며, 이로 인해 출판업계가 심각한 피해를 입을 것이라고 내부적으로 경고했음을 보여줍니다.

이러한 행위는 인공지능 학습을 위한 데이터 수집 과정에서 발생했으며, 데이터의 출처와 사용에 대한 윤리적, 법적 논란을 불러일으키고 있습니다. 법원 기록은 이러한 데이터 수집 방식이 노동력의 가장 큰 도난이라고 평가하며, 출판업계에 해를 끼칠 것이라는 내부 우려를 담고 있습니다.

결국 이 사안은 AI 모델 개발에 사용되는 데이터의 출처와 사용 방식에 대한 근본적인 질문을 던지며, 데이터 스크래핑이 가져오는 윤리적 및 법적 책임에 대한 논의를 촉발하고 있습니다. 개발자들은 AI 학습에 사용되는 데이터의 라이선스 및 소스에 대해 더욱 신중하게 접근해야 할 필요가 있습니다.

최근 인공지능(AI)에 대한 과도한 기대와 윤리 논의 속에서 실제 엔지니어링과 보안의 본질이 희석되고 있다는 지적이 제기됩니다. 많은 사람들이 AI를 통해 '산업을 변화시키는' 솔루션을 제시하지만, 실제로는 엔지니어링 배경이 없는 사람들이 모호한 주장을 펼치고 있으며, AI 사용으로 인해 많은 개발자들이 업무에서 즐거움을 잃고 있습니다.

AI 모델은 지적 재산권을 착취하며, 이러한 모델의 사용은 군사 표적 선정과 같은 부적절한 용도로 이어질 수 있다는 윤리적 문제가 존재합니다. 기업들은 이러한 문제들을 '윤리 외적인 것'으로 치부하며 토큰 사용에만 집중하고 있으며, 이는 AI의 잠재적 위험을 간과하게 만듭니다.

AI를 활용한 취약점 연구 프로젝트들에도 불구하고, 실제 정보 보안의 병목 현상은 취약점을 찾는 것이 아니라 패치 적용과 기본적인 인프라 관리에 여전히 있습니다. 조직이 최신 패치를 적용하고 자산 목록을 관리하며 시스템을 자동 업데이트하는 기본적인 보안 조치를 취하는 것이 가장 중요합니다.

궁극적으로 AI는 사용자의 이해를 점진적으로 대체하며, 복잡한 시스템에서 디버깅의 어려움을 가중시키고 있습니다. 따라서 AI의 발전보다는 조직의 자산 관리와 패치 프로세스를 개선하는 기본적인 엔지니어링 작업에 집중해야 합니다.

최근 여러 주요 미국 AI 기업들이 초지능(superintelligence) 개발 속도를 늦춰야 한다는 주장을 공개적으로 제기하고 있습니다. 이는 과거 기술 리더들이 추구했던 "빨리 움직이고 부수고 보자"는 접근 방식에서 벗어나 안전을 우선해야 한다는 인식이 확산되고 있음을 의미합니다. 이러한 움직임은 최근 발생한 무정부적 AI 에이전트의 현실화와 AI가 인류에게 미칠 수 있는 위험에 대한 연구자들의 경고 이후에 나타났습니다.

OpenAI, Anthropic, Google, Microsoft, X를 포함한 주요 기업 리더들이 초지능의 속도를 조절해야 한다는 입장을 표명하고 있지만, 이러한 행동의 동기가 안전 협약인지 아니면 독점적 카르텔인지에 대해서는 의문이 제기되고 있습니다. AI 안전에 대한 논의가 진행되는 가운데, 이러한 기업들이 실제로 개발 속도를 늦출지, 그리고 이들이 주장하는 규제가 실제로 실현될 수 있을지에 대한 질문이 남아 있습니다.

AI 안전과 규제에 대한 논의는 여전히 진행 중이며, 일부 리더들은 AI가 충분한 통제 수단을 갖추기 전에 멈춰야 한다고 주장하고 있습니다. 이러한 상황에서 세계 지도자들이 초지능 경쟁에서 중국을 앞지르기 위해 AI 개발을 더욱 가속화해야 한다는 주장을 펼치는 것과 기업들의 속도 조절 요구 사이에는 복잡한 긴장이 존재합니다.

채팅에서 단순히 "안녕하세요"나 "잘 지내세요"와 같은 인사만 하고 바로 질문을 시작하는 것은 비효율적입니다. 이는 전화 통화와 달리 채팅 환경에서는 타이핑 속도가 말하는 속도보다 느리기 때문에, 상대방이 질문을 명확히 정리할 때까지 기다리게 만들어 생산성을 저해합니다.

이러한 방식은 "잠시 시간 괜찮으세요?"나 "혹시 언제쯤 가능하세요?"와 같은 짧은 인사 후 질문을 던지는 경우에도 동일하게 적용됩니다. 상대방은 단순히 인사를 받았다는 사실만 확인하고 실제 질문에 대한 답변을 미루게 되어 불필요한 대기 시간이 발생합니다.

따라서 질문을 할 때는 불필요한 인사말을 생략하고 바로 핵심 질문을 하는 것이 가장 효율적입니다. 물론 상대방에게 예의를 갖추고 싶다면, "안녕하세요"와 같은 인사말 뒤에 필요한 요청 사항을 함께 덧붙여 전달하는 것이 좋습니다.

예를 들어, "안녕하세요, 혹시 그 자료가 언제쯤 필요하신지 아시나요?"와 같이 요청 사항을 명확히 전달하면 비동기적인 소통이 가능해집니다. 이는 상대방이 자리를 비웠을 때도 질문에 대한 답변을 받을 수 있게 하여 소통의 효율성을 높여줍니다.

달러 이사 미국 하원의원이 인터넷 서비스 제공업체(ISP), DNS 제공업체, VPN 등에 외국 불법 복제 사이트 차단을 요구하는 법안을 발의했습니다. 이 법안은 저작권자들이 사법적 차단 명령을 ISP, 도메인 이름 해결 서비스, 가상 사설망에 집행할 수 있도록 돕는 것을 목표로 합니다.

이 법안은 디지털 밀레니엄 저작권법(DMCA)에 따른 통지 및 삭제 절차는 존재하지만, 저작권권자들이 콘텐츠를 신속하게 제거하는 것에 대해 우려를 표해왔습니다. 이사는 라이브 스포츠 방송과 같이 매우 짧은 시간 내에 불법 복제 판매를 막기 위해 '소리의 속도'나 '빛의 속도'로 조치를 취할 수 있는지 질문하며 신속한 조치의 필요성을 강조했습니다.

이러한 사이트 차단 요구는 영화 협회(MPA)가 추구해 온 움직임의 일환이며, 이는 불법 복제 콘텐츠의 유통을 막기 위한 광범위한 노력을 반영합니다. 따라서 이 법안이 통과될 경우 네트워크 인프라와 VPN 서비스 제공업체들이 불법 콘텐츠 차단에 직접적인 영향을 받게 될 것입니다.

Claude Code의 프로젝트 기능이 개편되어 사용자들이 클라우드에서 여러 에이전트를 공유하며 관리할 수 있게 되었습니다. 이 새로운 기능은 공유된 메모리, 목표, 파일 및 아티팩트 라이브러리를 통해 여러 에이전트를 한 공간에서 실행할 수 있도록 지원합니다. 이는 Grok Bot과 같은 다른 AI 에이전트 관리 도구들과 유사하게 그룹의 AI 에이전트를 관리하는 데 중점을 둡니다.

각 프로젝트는 여러 개의 "스레드"를 가지며 서로 다른 작업을 병렬로 실행하고, "코디네이터"가 모든 작업을 지휘하는 방식으로 작동합니다. 내부적으로 각 스레드는 별도의 브랜치와 리포지토리 복사본을 사용하는 Claude Code 클라우드 세션으로 작동합니다.

코디네이터는 작업을 체계적으로 정리하지만, 여러 스레드가 동일한 코드를 작업할 경우 다른 PR과 마찬가지로 중복 부분을 병합 충돌처럼 해결합니다. 또한 각 스레드는 위임된 작업을 추가로 분할할 수 있어 복잡한 작업 흐름을 효율적으로 관리할 수 있습니다.

최근 드림포스(Dreamforce) 컨퍼런스는 인공지능 개발 속도를 늦춰야 하는지에 대한 논쟁의 장이 되었습니다. 이 자리에는 OpenAI, Anthropic, 엔비디아의 최고경영자들이 모여 AI 발전의 속도에 대해 심도 있는 토론을 진행했습니다.

이는 주요 AI 기업들이 현재 AI 기술 발전의 방향성과 속도에 대해 이견을 가지고 있음을 보여줍니다. 특히 AI 개발의 속도 조절 여부는 기술적 진보뿐만 아니라 안전성, 윤리, 그리고 산업 전반에 미치는 영향과 직결되는 매우 중요한 문제입니다.

이러한 논의는 AI 기술의 발전이 가져올 잠재적 위험과 기회를 균형 있게 평가해야 한다는 점을 시사합니다. 개발자들은 AI 시스템을 구축하고 배포할 때 기술적 가능성뿐만 아니라 사회적, 규제적 맥락을 함께 고려해야 할 필요가 있습니다.

유럽연합의 새로운 법에 대응하여 AI 플랫폼들은 생성 콘텐츠에 워터마킹하는 새로운 방식을 도입하고 있습니다. Anthropic은 미래의 Claude 모델에 Google이 개발하고 공개한 SynthID-Text를 사용할 것이라고 공개했는데, 이는 모델이 다음 단어를 선택하는 과정에 미묘하게 변화를 주어 숨겨진 키를 통해 생성 출처를 식별할 수 있게 하는 접근 방식입니다.

새로운 연구 결과에 따르면 SynthID-Text는 단순히 단어 선택뿐만 아니라 모델이 호출하는 도구와 안전 가드레일을 준수하는 방식에도 영향을 미칩니다. 특히 공격자가 모델에게 비밀번호와 같은 민감한 정보를 공개하도록 유도하는 적대적 프롬프트 상황에서 이러한 취약점은 더욱 커질 수 있습니다. 워터마킹이 적용된 상태에서 모델이 평소에는 따르지 않던 지침을 수행할 가능성이 생기는 것입니다.

AI 보안 연구원인 안드레아 시포소가(Andrea Siposova)는 워터마킹이 모델의 행동을 변화시키며, 특히 적대적 조건이나 에이전트가 도구를 호출할 때 이러한 변화가 두드러진다고 지적했습니다. 이는 워터마킹이 독자에게는 감지되지 않도록 설계되었더라도, 모델의 생성 내용에 변화를 가하면 반드시 어떤 형태로든 드러나게 된다는 의미입니다.

따라서 개발자들은 워터마킹이 적용된 상태에서 LLM과 에이전트가 어떻게 작동하는지 철저하게 테스트해야 할 필요가 있습니다. 이러한 변화를 이해하고 안전성을 확보하기 위해 모델의 행동 변화에 대한 심층적인 검증이 필수적입니다.

Wispr AI 랩이 실시간 받아쓰기를 위한 최신 음성 모델인 Canto를 발표하며 실제 환경에서의 성능을 입증했습니다. Canto는 Google, OpenAI, AssemblyAI, Deepgram 등 다른 모델들과 비교했을 때 실제 환경 받아쓰기 평가에서 가장 낮은 단어 오류율(WER)을 달성했습니다.

이 모델은 2,300명 이상의 고유한 화자로부터 수집한 10시간 분량의 영어 받아쓰기 데이터를 사용하여 평가되었으며, 특히 주변 소음, 음악, 바람, 낮은 녹음 볼륨, 속삭이거나 원거리 음성 등 가장 까다로운 조건에서 테스트되었습니다. 이러한 테스트 결과, Canto는 소음이 심한 오디오에서 Gemini 3.1 Pro에 이어 낮은 볼륨 음성 및 짧은 받아쓰기에서도 최저 WER을 기록했습니다.

특히 짧은 받아쓰기는 주변 문맥이 부족하여 오류율이 높게 나타났는데, 이는 모델이 모호함을 해결할 충분한 언어적 맥락을 확보하기 어렵기 때문입니다. 또한, 공개 벤치마크 데이터셋에서도 Canto는 LibriSpeech에서 가장 낮은 WER을 기록하며 경쟁력을 보였습니다.

Wispr AI 랩은 앞으로 음성 인식 모델이 단순히 단어를 인식하는 것을 넘어, 맥락을 선택적으로 이해하고 사용자가 무엇을 하려는지 이해하는 통합된 아키텍처를 구축하는 데 집중하고 있습니다. 이는 받아쓰기와 화자 분리(diarization)를 동시에 처리하는 모델을 통해 오류가 누적되는 문제를 해결하고 더 직관적인 사용자 인터페이스를 만드는 것을 목표로 합니다.