읽을 가치가 있는 기사만, 짧고 또렷하게.

엔비디아의 Nemotron 3.5 Lightning 모델이 Hugging Face에 공개되었습니다. 이 모델은 300억 개의 파라미터를 가진 모델로, 개발자들이 대규모 언어 모델(LLM) 분야에서 활용할 수 있도록 제공됩니다.

해당 모델은 특정 하드웨어 환경에서 최적화된 성능을 제공하며, 개발자들이 엔비디아 기술을 활용하여 모델을 배포하고 실험하는 데 중요한 참고 자료가 됩니다. 특히 Lightning 버전은 효율성과 속도를 고려하여 설계되었기 때문에, 리소스 제약이 있는 환경에서도 모델을 구동하는 데 유리합니다.

개발자들은 이 모델을 통해 엔비디아의 최신 AI 기술을 활용하여 자체적인 애플리케이션을 구축하거나 연구할 수 있습니다. 공개된 저장소와 댓글을 통해 커뮤니티 내에서 모델의 사용 사례와 성능에 대한 추가적인 논의가 이루어지고 있습니다.

독점 대규모 언어 모델(LLM) API에서 추론 흔적을 훔칠 수 있다는 연구 결과가 발표되었습니다. 연구진은 프론티어 모델에서 생성된 암호화된 추론 블록을 다른 모델로 재현하여 더 강력한 모델의 숨겨진 추론 과정을 평문으로 복구하는 방법을 제시했습니다. 이는 모델 제공업체가 클라이언트에게 반환하는 암호화된 사고 과정(chain-of-thought) 블록이 세션과 모델에 걸쳐 재현 가능하며 포터블하다는 점을 이용합니다.

연구팀은 Claude, GPT, Gemini와 같은 모델에서 수집된 6,708개의 공개 에이전트 궤적에서 암호화된 추론 블록을 추출했으며, 이를 복호화하여 315,320개의 추론 블록을 재구성했습니다. 이 숨겨진 흔적들 속에는 실제 비밀 정보와 민감한 데이터가 포함되어 있으며, 연구진은 이 과정에서 62개의 API 키, 33개의 비밀번호, 24개의 액세스 토큰 등 다양한 개인 정보 및 기술 식별자를 복구했습니다.

이러한 추론 흔적을 이용한 공격은 악용 가능성을 보여줍니다. 예를 들어, 모델에게 유해한 내용을 추론하도록 유도하여 눈에 보이는 답변은 무해하게 유지하면서 위험한 지식을 숨겨두는 방식으로 모델을 조작할 수 있습니다. 또한, 모델의 요약 결과와 실제 추론 과정 사이에 불일치가 발생하여 모델의 신뢰성을 저해하는 문제도 발견되었습니다.

결론적으로, LLM API를 통해 전달되는 추론 데이터가 암호화되어 있더라도, 적절한 방법을 통해 강력한 모델의 내부 추론을 탈취할 수 있다는 점이 확인되었습니다. 이는 모델 보안 및 데이터 프라이버시 측면에서 API 트레이스에 대한 강력한 보호 메커니즘이 필요함을 시사합니다.

차량 번호판 인식 장치와 휴대폰, 블루투스 신호를 연결하여 감시 기술을 강화하는 새로운 방식이 등장했습니다. 이 기술은 차량이 지나갈 때 카메라가 차량을 기록하고, 이 기록을 차량 정보와 연결하는 것 외에도 주변에 있는 기기들에서 방출되는 신호를 감지하는 센서를 추가로 사용합니다.

충분한 이동을 통해 소프트웨어는 특정 기기 신호를 해당 차량과 연관된 반복적인 전자 서명으로 처리할 수 있습니다. 이는 수사 과정에서 중요한 단서를 제공할 수 있습니다. 예를 들어, 한 기기의 신호가 다른 차량과 연결된 조사에 등장할 경우, 신호 자체에는 소유자의 이름이 없더라도 해당 기기를 소지했던 사람에 대한 추가적인 단서를 얻을 수 있습니다.

이러한 시스템을 지원하는 SignalTrace라는 시스템이 있으며, 이는 보안 회사 레오나르도(Leonardo)가 마케팅하는 제품입니다. SignalTrace는 자동 번호판 인식 장치와 함께 작동하도록 설계되었으며, 함께 이동하는 소비자 기기 그룹을 인식하고 이를 번호판 기록 및 시간 기록된 위치와 연관시킵니다.

이 기술은 차량 이동 경로와 개인 기기 사용 패턴을 결합하여 광범위한 추적 및 감시 가능성을 열어줍니다. 개발자들은 이러한 센서 데이터와 차량 기록을 통합하여 새로운 형태의 위치 기반 추적 및 보안 솔루션을 구축하는 데 이 기술을 활용할 수 있습니다.

아마존이 다른 모든 플레이어와 동일한 규칙을 따라야 할 때가 되었다는 내용의 영상이 공유되었습니다. 이는 아마존이 플랫폼 운영이나 개발자 정책 측면에서 다른 경쟁자들과 동등한 기준을 적용해야 한다는 주장을 담고 있습니다.

이 논의는 아마존의 서비스 정책이나 개발자 환경이 업계 표준에 부합하는지에 대한 근본적인 질문을 던집니다. 개발자들은 아마존 플랫폼 내에서 일관되고 예측 가능한 규칙과 환경을 기대하며, 이러한 주장은 아마존이 현재 적용하고 있는 정책이나 구조에 대한 재검토가 필요함을 시사합니다.

결론적으로, 이 영상은 아마존이 시장 내에서 공정한 경쟁 환경을 조성하고 개발자 커뮤니티의 기대에 부응하기 위해 기존의 운영 방식을 재고해야 할 필요성을 제기하고 있습니다. 개발자들은 이러한 변화가 플랫폼의 접근성과 투명성에 어떤 영향을 미칠지 주목해야 합니다.

NVIDIA는 에이전트 AI 워크로드를 위한 고효율 모델인 Nemotron 3.5 Lightning과 스마트 라우팅 라이브러리인 NeMo Switchyard를 출시하여 AI 배포와 운영에 대한 통제력을 높였습니다. Nemotron 3.5 Lightning은 300억 개의 파라미터를 가진 혼합 전문가(MoE) 모델로, 장기 실행 에이전트 AI 작업에 최적화되어 있으며 다른 모델 대비 최대 4배 빠른 출력 속도와 30% 빠른 작업 완료를 제공합니다.

이 모델은 고부하의 전문적인 작업을 처리하도록 설계되었으며, 사용자가 자체 도메인 데이터와 워크플로우를 사용하여 모델을 쉽게 파인튜닝할 수 있어 특정 작업에 대한 정확도를 높일 수 있습니다. 또한 Nemotron 3.5 Lightning은 NVIDIA RTX PC, DGX, Jetson 등 기존 인프라에 배포할 수 있어 엣지 AI 장치부터 데이터 센터까지 광범위한 환경에서 개인 정보 보호와 효율성을 유지하며 운영할 수 있습니다.

NeMo Switchyard는 이러한 모델들을 에이전트 도구 내에서 지능적으로 라우팅하는 오픈 소스 라이브러리입니다. 이 라이브러리를 사용하면 개발자가 애플리케이션을 재작성하지 않고도 요청을 가장 적합한 모델로 지능적으로 전달하여 시스템 전체의 효율성과 제어력을 향상시킬 수 있습니다.

이 두 기술의 결합은 개발자들이 오픈 모델, 독점 모델, NVIDIA 모델을 혼합하여 사용하면서도 AI의 배포, 실행, 운영 방식을 더욱 효율적이고 통제 가능하게 만드는 데 기여합니다. 이는 코딩 에이전트나 법률 서비스와 같은 특정 도메인 작업에서 정확도를 높이고 비용을 절감하는 데 직접적인 이점을 제공합니다.

지하의 지질 수소 자극 기술은 전기 에너지를 사용하여 암석을 파쇄하고 수소 생산을 촉진하는 방식으로 새로운 에너지 생산 경로를 제시합니다. 이 기술은 에덴 지오파워(Eden GeoPower)의 설립자인 스몰스(Smalls)가 주도하는 연구에서 개발되었으며, 이는 지하에 갇혀 있는 수소를 추출하는 것을 목표로 합니다.

연구팀은 두 개의 전극을 암석에 설치하고 고전압을 가하여 전기적 저장(electrical reservoir stimulation)을 통해 암석을 분리하고 가스를 생성하는 방식을 사용합니다. 이 과정에서 암석이 열을 받고 압력이 증가하여 균열이 발생하며 수소 생산이 촉진됩니다. 이 기술은 광물 채굴이나 지열 에너지 활용뿐만 아니라 탄소 저장 공간을 만드는 데도 활용될 수 있는 잠재력을 가지고 있습니다.

하지만 상업화에 앞서 여러 기술적 난제가 남아 있습니다. 수소 생산을 가속화하는 반응은 매우 빠르게 일어나기 때문에 촉매와 재자극(restimulation)이 필요하며, 생성된 수소의 정제, 저장, 운송 방법, 그리고 환경 위험 및 비용 문제에 대한 해결책이 필요합니다. 또한, 실제 현장에서는 기상 조건이나 장비 문제로 인해 파쇄 작업이 지연되는 등 물류적 어려움도 발생하고 있습니다.

스포티파이가 곧 AI 아티스트를 표시하고 추천에서 제외할 예정입니다. 이 변경 사항은 9월 중순부터 적용되며, 프로필에 실제 사람이 아닌 경우 "AI 페르소나" 배지가 표시될 것입니다.

음악 스트리밍 플랫폼은 아티스트들이 자신이 AI 페르소나임을 공개할 수 있도록 허용하지만, 단순히 자기 신원을 확인하는 것만으로는 판단하지 않습니다. 스포티파이는 프로필의 이름과 이미지를 포함하여 해당 신원이 "사진처럼 사실적인 AI 생성 정체성"을 나타내는지 여부를 판단하기 위해 인간 검토와 AI 도구를 사용할 계획입니다.

따라서 아티스트가 스스로를 AI 페르소나로 밝히더라도 스포티파이의 검토 과정을 거쳐야 합니다. 이 시스템은 AI 생성 콘텐츠의 투명성을 확보하고 플랫폼 내에서 실제 인물과 AI 생성 콘텐츠를 구분하는 데 중점을 두고 있습니다.

범블이 데이팅 앱의 대화 경험을 전면적으로 개선하며 규칙을 변경했습니다. 2014년 처음 출시되었을 때 범블은 이성 간 매칭에서 여성이 먼저 메시지를 보내는 것을 전제로 설계되었으나, 이제는 누구나 첫 메시지를 보낼 수 있게 되었습니다.

이러한 변화에 따라 매칭이 만료되기 전 응답해야 하는 기한도 변경되었습니다. 기존에는 24시간이었던 응답 기한이 이제 72시간으로 연장되어 사용자들이 더 여유롭게 소통할 수 있게 되었습니다.

범블 측은 여성이 먼저 시작하는 방식이 유일한 연결 방법이 아니었으며, 여성의 필요를 고려하여 더 나은 경험을 설계하는 것이 목표였다고 설명했습니다. 이는 앱의 기본 구조와 사용자 간의 상호작용 방식에 중대한 변화를 가져오는 업데이트입니다.

GuliKit이 이전 모델에서 사용된 터널 자기 저항(TMR) 기술을 개선하여 드리프트 방지 기능을 적용한 새로운 무선 컨트롤러 ES Max를 발표했습니다. 이 제품은 출시 약 1년 전 출시된 ES Pro에 사용된 기술을 개선한 버전으로, 이제 49.99달러에 판매되고 있습니다.

새로운 ES Max는 이전 모델인 ES Pro의 가격보다 비싸지만, 닌텐도의 Switch 2 Pro 컨트롤러보다는 저렴한 가격대로 출시되었습니다. 이 컨트롤러는 기존 스위치에서 발생했던 스틱 드리프트 위험을 줄이면서도 더 많은 기능과 기능을 제공하는 데 중점을 두고 있습니다.

ES Max에 적용된 TMR 스틱은 기술 자체를 완전히 재구상하지는 않았지만, 스틱 움직임을 약간 다른 방식으로 측정하여 성능을 향상시킵니다. 이는 드리프트 문제를 해결하면서도 사용자 경험을 개선하는 데 기여합니다.

2026년 상반기 DDoS 위협 보고서에 따르면, 클라우드플레어 네트워크는 1Tbps를 초과하는 공격을 포함하여 935건의 네트워크 계층 DDoS 공격을 방어했으며, 이는 전 분기 대비 519% 증가한 수치입니다. 이러한 공격은 주로 DNS 플러드와 CLDAP 반사 및 증폭 벡터를 통해 발생했으며, 지정학적 긴장과 글로벌 이벤트가 사이버 위협 환경을 재편하고 있습니다.

특히 DNS 기반 공격은 상반기 네트워크 계층 활동의 34.3%를 차지했으며, DNS 플러드는 분기별로 25.7%에서 40.0%로 증가했습니다. 또한 CLDAP 플러드는 분기별로 580% 급증하여 2분기에 가장 큰 벡터로 부상했습니다. 이는 공격자들이 UDP를 사용하여 패킷을 증폭시켜 피해 호스트를 압도하는 방식으로 공격을 수행하기 때문에 발생합니다.

클라우드플레어는 분기당 수백 건의 공격을 받는 상황에서 인간 개입 없이 공격을 탐지하고 완화하는 시스템을 운영하고 있습니다. 이들은 전 세계 330개 이상의 도시에서 무료 무제한 DDoS 보호를 제공하며 500Tbps의 네트워크 용량을 바탕으로 방어 능력을 확보하고 있습니다.

최근에는 1Tbps를 초과하는 초부피(hyper-volumetric) 공격이 증가하는 추세이며, 이는 이전 분기 대비 6배 이상 증가했습니다. 비록 대부분의 공격이 짧고 작은 규모로 이루어지지만, 대규모 초부피 공격은 수십 초 내에 발생할 수 있어 주요 인터넷 인프라에 큰 부담을 주고 있습니다.

스포티파이가 AI가 생성한 정체성을 나타내는 아티스트 프로필에 “AI 페르소나” 레이블을 도입하고 해당 음악을 기본적으로 추천에서 제외하기 시작했습니다. 이 변경 사항은 AI가 생성한 콘텐츠가 추천 시스템에 미치는 영향을 관리하고 투명성을 확보하기 위한 조치입니다.

새로운 정책에 따라 AI 페르소나로 분류된 아티스트의 음악은 편집, 알고리즘, 개인화 추천 모두에서 기본적으로 제외됩니다. 이는 AI가 생성한 콘텐츠가 사용자 경험에 미치는 방식을 명확히 구분하여, AI 기반 추천 시스템이 AI 생성 콘텐츠를 어떻게 처리할지에 대한 기준을 설정하려는 의도로 보입니다.

개발자 관점에서 이는 데이터 레이블링과 추천 알고리즘 설계에 중요한 변화를 의미합니다. 플랫폼이 콘텐츠의 출처를 명시적으로 분류함으로써, 향후 AI 생성 콘텐츠의 데이터 처리 및 추천 로직을 구축하는 데 있어 새로운 프레임워크를 제공할 수 있습니다.

자체적으로 작성한 주식 랭킹을 백테스트한 결과, 해당 랭킹은 지수(인덱스)에 뒤처졌다는 분석이 제시되었습니다. 20년 후 $1,000가 $40,254로 증가하는 것처럼 보이는 차트는 산술적으로는 정확하지만, 이 결과는 과거의 정보에 기반하여 선택된 기업들만을 포함하고 있어 실제 투자자가 경험할 수 있는 결과와는 차이가 발생합니다.

이러한 결과의 문제점은 랭킹을 산출할 때 이미 미래의 정보를 알고 선택된 기업들만을 포함하기 때문에 발생합니다. 예를 들어, 2006년에 선택된 상위 50개 기업들이 2026년까지 생존했다는 사실을 알고 선택되었기 때문에, 해당 랭킹은 실제 과거의 데이터 흐름을 반영하지 못하고 결과적으로 과장된 성과를 보여줍니다.

정확한 분석을 위해서는 선택 시점의 정보만을 사용하여 코호트를 재구성해야 합니다. 즉, 각 기업의 펀더멘털 점수를 2016년 당시 보고된 재무제표만을 사용하여 다시 산출하고, 그 후에 성과를 추적해야 합니다. 이러한 방식으로 코호트를 재구성하면 생존 여부와 같은 후행 정보를 배제하고 보다 객관적인 비교가 가능해집니다.

또한, 백테스트 결과는 생존자 편향과 같은 한계점을 가지고 있으며, 특정 기간의 성과가 아닌 장기 보유 시점에 따라 관계가 달라진다는 점을 고려해야 합니다. 따라서 이 분석은 예측이 아닌 과거의 기록을 확인하는 데 중점을 두어야 하며, 기업 규모나 섹터와 같은 다른 요인들이 결과에 미치는 영향을 함께 고려해야 합니다.

영국은 간에 영향을 미치는 위험한 바이러스인 C형 간염을 근절하는 데 있어 세계에서 가장 먼저 목표를 달성할 국가 중 하나가 될 것으로 보입니다. 현재 80%의 알려진 사례를 치료하는 목표는 이미 달성되었으며, 지난 10년간 바이러스 관련 사망률은 36% 감소했지만, 2015년 대비 사망률 65% 감소 목표는 아직 달성되지 않았습니다.

C형 간염은 혈액 접촉을 통해 전파되는 무증상 질환이며, 치료를 받지 않을 경우 심각한 간 손상과 생명을 위협할 수 있습니다. 영국에서는 2015년 이후 10만 명 이상이 진단 및 치료를 받았으며, 2024년 기준 약 50,200명의 성인이 C형 간염을 앓고 있는 것으로 추정됩니다.

NHS 영국은 A&E 혈액 검사, GP 등록 검사, 무료 자가 검사 키트 등을 통해 이전에는 진단되지 않았던 사람들을 찾아내기 위한 노력을 기울이고 있습니다. 특히 우크라이나, 루마니아, 에스토니아 등 특정 국가 출신자들에게는 의료 또는 치과 시술을 통해 감염되었을 가능성이 있어 무료이고 기밀이 보장되는 자가 검사 키트 이용이 권장됩니다.

이러한 노력은 1970년부터 1991년까지 발생했던 오염된 혈액 제품 관련 '감염된 혈액 스캔들'과 같은 역사적 사건을 극복하는 데 기여하고 있습니다. 영국은 세계에서 이 질병을 근절하는 임무를 선도하고 있으며, 2030년 목표 달성을 위해 지속적인 노력을 이어가고 있습니다.

연구원들은 공개된 AI 도구를 사용하여 단 20개의 프롬프트 만에 특정 취약점을 발견했으며, 이 취약점은 Zoom 통화 중 누구나 다른 참가자의 장치를 탈취할 수 있게 하는 허점을 포함하고 있었다고 밝혔습니다. 이 취약점은 Zoom의 화면 공유 기능에서 발생한 보안 결함으로, 통화 참여자 중 한 명이 다른 참가자의 장치를 제어할 수 있는 위험을 내포하고 있었습니다.

해당 보안 결함은 AI 도구를 통해 빠르게 발견되었으며, 현재는 해당 문제가 수정되어 해결된 상태입니다. 이 발견은 AI가 보안 취약점을 탐지하는 데 활용될 수 있음을 보여주며, 자동화된 방식으로 시스템의 취약점을 찾는 데 AI가 기여할 수 있다는 점을 시사합니다.

이러한 발견은 화상 회의 플랫폼의 보안 설계에 있어 잠재적인 위험을 강조하며, 개발자와 보안 전문가들은 실시간으로 시스템의 취약점을 점검하고 패치하는 프로세스의 중요성을 다시 한번 인식해야 합니다.

프랑스에서는 소비자를 침해적인 판매 권유와 사기성 상행위로부터 보호하기 위해 사전 동의 없는 텔레마케팅 전화를 금지합니다. 이 규정은 2026년 8월 11일부터 시행되며, 기업이 소비자에게 전화를 걸기 위해서는 반드시 사전 동의를 받아야 함을 의미합니다.

이제 기업은 소비자의 명시적인 동의 없이 무분별하게 전화하는 행위가 금지되며, 소비자는 원할 경우 언제든지 해당 동의를 철회할 수 있는 권리를 갖게 됩니다. 이는 소비자 보호를 강화하고 불필요한 영업 행위를 줄이는 데 목적이 있습니다.

다만, 기존 계약 관계에 따른 신규 상업 제안에 대해서는 예외가 적용됩니다. 따라서 이미 존재하는 계약 관계를 기반으로 한 새로운 상업적 제안은 여전히 허용됩니다. 이 점을 고려하여 기업들은 기존 계약 관계와 신규 제안 사이의 경계를 명확히 구분하여 법적 준수 사항을 확인해야 합니다.

아마존의 파노스 파나이(Panos Panay)가 2026년 테크크런치 디스럽트(TechCrunch Disrupt)에서 스마트폰 이후의 미래에 대해 발표할 예정입니다. 그는 인공지능(AI)이 독립적인 앱을 넘어 플랫폼과 운영체제에 통합되면서 차세대 하드웨어의 진화 방향을 제시할 것입니다.

파나이는 마이크로소프트에서 19년간 근무하며 서피스(Surface) 기기 및 윈도우 11 개발을 총괄한 경험을 가지고 있습니다. 이러한 배경을 바탕으로 그는 현재 아마존에서 알렉사(Alexa)와 알렉사 플러스(Alexa+)의 생성형 AI 개편을 중심으로 하드웨어 발전의 진화를 심도 있게 다룰 것입니다.

이번 발표는 사용자의 일상이 휴대폰이 아닌 어시스턴트나 안경과 같은 다른 폼팩터 중심으로 변화하는 미래에 대한 통찰을 제공합니다. 디스럽트는 이러한 미래 지향적인 사고를 공유하는 곳으로, 인더캠프들이 현재 어디에 베팅하고 있으며 스타트업들이 어떤 기회를 알아야 하는지 공유하는 장입니다.

개발자와 투자자들은 파나이의 통찰을 통해 AI 시대에 하드웨어와 소프트웨어가 어떻게 융합되어야 하는지에 대한 선행 정보를 얻을 수 있습니다. 이 기회를 통해 다가오는 하드웨어 경쟁의 흐름을 미리 파악하고 경쟁에 대비할 수 있습니다.

Anthropic은 유럽의 AI 투명성 규정 준수를 위해 Claude가 생성한 텍스트와 이미지에 기계가 읽을 수 있는 데이터를 표시하는 작업을 시작하겠다고 약속했습니다. 앤트로픽은 생성된 텍스트에는 워터마크가 삽입되고 생성된 파일에는 지원되는 경우 디지털 서명이 포함된 출처 메타데이터가 포함될 것이라고 밝혔습니다.

이러한 변경 사항은 인간의 눈에는 보이지 않지만, 콘텐츠가 Claude 모델에 의해 생성되었는지 감지하는 데 있어 사람들과 온라인 플랫폼이 더 쉽게 식별할 수 있도록 하기 위함입니다. 이는 AI 생성 콘텐츠에 대한 투명성을 높여 AI 레이블링 및 투명성 의무를 충족하는 데 기여할 것입니다.

다만, 이러한 업데이트는 즉시 시행되는 것이 아니라 미래의 약속임을 명시하고 있습니다. 이는 향후 AI 레이블링 및 투명성 규칙과 같은 규제 요구 사항을 충족하기 위한 장기적인 노력의 일환입니다.

플록 카메라 시스템의 오류로 인해 한 운전자가 두 차례에 걸쳐 총경에 의해 검문을 당한 사건이 발생했습니다. 위스콘신주 브룩필드에 거주하는 앰버 뉴웰 씨는 목요일 오후 밀워키 근처에서 운전 중 플록 카메라가 그녀의 차량을 살인 사건 수사와 연관된 것으로 표시하면서 경찰의 검문을 받았습니다.

이 사건은 경찰이 시스템에서 해당 차량에 대한 수배 알림을 제거하는 것을 잊어버려 발생한 시스템 오류로 인해 발생했습니다. 이로 인해 뉴웰 씨는 같은 주에 거의 동일한 상황을 두 번이나 겪어야 했으며, 이는 그녀와 딸에게 큰 정신적 고통을 안겨주었습니다.

플록 카메라는 번호판을 읽어 법 집행 기관이 업로드한 활성 경보와 비교하여 일치하는지 확인하는 방식으로 작동하며, 특히 폭력 범죄와 관련된 일치 사항은 경찰이 긴급하게 대처하도록 훈련되어 있습니다. 그러나 시스템의 신뢰성은 데이터를 업데이트하는 사람들의 관리 능력에 달려 있으며, 이번 사례는 경찰이 알림을 제거하는 기본적인 단계를 놓쳤음을 보여줍니다.

이 상황은 이러한 시스템이 커뮤니티를 안전하게 지키기 위해 설계되었음에도 불구하고, 데이터 관리의 기본적인 절차가 누락될 경우 무고한 운전자가 불필요한 위험에 노출될 수 있음을 시사합니다. 따라서 시스템 운영자들이 알림을 정확하게 처리하고 데이터의 정확성을 유지하는 데 더 많은 주의를 기울여야 할 필요가 있습니다.

Anthropic은 유럽연합의 규제 준수를 위해 자사 AI 모델에서 생성된 텍스트에 워터마크를 적용할 것이라고 발표했습니다. 이는 8월 2일부터 발효된 EU AI 법의 투명성 코드 요구사항을 충족하기 위함이며, AI 생성 또는 편집된 콘텐츠를 다른 시스템이 식별할 수 있도록 표시해야 합니다.

이러한 워터마킹은 Claude를 포함한 모든 모델에 적용되며, 텍스트가 복사하여 붙여넣기 될 때 워터마크가 함께 이동하고 일부 편집 과정에서도 유지될 수 있도록 모델 수준에서 적용됩니다. 이는 사용자가 AI 생성 콘텐츠의 출처를 명확히 알 수 있도록 하기 위한 조치입니다.

워터마킹은 Claude 플랫폼 API, Claude, Claude Code, Claude Cowork, Claude Tag 등 다양한 제품에 걸쳐 적용될 예정입니다. 이는 사용자들의 반발과 규제 당국의 감시를 피하기 위해 많은 AI 기업들이 현재 추세로 삼고 있는 조치입니다.

Anthropic 외에도 Suno, Substack, Google, Meta, OpenAI 등 다른 주요 AI 기업들도 법적 문제에 대응하고 투명성을 확보하기 위해 유사한 워터마킹 정책을 도입하고 있습니다.

OpenAI의 윤리 책임 책임자였던 클로이 바칼라(Chloé Bakalar)가 회사를 떠나면서 AI 안전에 대한 논의가 더욱 중요해지고 있습니다. 이탈은 OpenAI가 ChatGPT 출시 이후 급성장하는 과정에서 AI 안전과 윤리 문제를 다루는 조직 구조를 재편하는 시기와 맞물려 발생했습니다.

바칼라는 모델 개발의 윤리적 접근 방식과 인간과 AI의 상호작용에 중점을 두었으며, OpenAI 내에서 윤리적 고려 사항이 단일 팀이 아닌 여러 연구팀에 깊이 내재되어 있음을 강조했습니다. 이는 AI 윤리가 특정 개인이나 팀에 의해 독점되지 않고 광범위한 연구를 통해 다뤄져야 한다는 점을 시사합니다.

최근 AI 모델의 안전과 윤리 문제는 더욱 심화되고 있으며, 일부 AI 기업들은 모델 정렬 문제를 해결하기 위해 헌법과 같은 규범을 도입하고 있습니다. 예를 들어 Anthropic은 Claude 모델에 대해 칸트 철학이나 세계인권선언 등 다양한 출처에서 영감을 받은 헌법을 적용하여 안전 기준을 설정하고 있습니다.

이러한 변화는 AI 기술이 전 세계적으로 영향을 미치는 상황에서 개발자와 연구자들이 모델의 잠재적 위험과 책임에 대해 더 깊이 고민해야 함을 의미합니다. AI 윤리 분야의 리더들이 학계에서 영입되는 현상은 AI 기술의 광범위한 사회적, 철학적 함의를 탐구하려는 움직임을 반영합니다.