Claude's new Scarlet Letter watermark is invisible — for now
Anthropic은 자사 모델이 처리한 모든 콘텐츠에 기계가 읽을 수 있는 워터마크를 적용할 것이라고 발표했습니다. 이는 유럽 연합의 AI 법(AI Act)을 준수하기 위한 조치로, AI 시스템 제공업체에게 AI 생성 또는 조작된 오디오, 이미지, 텍스트, 비디오 출력물에 워터마크를 표시하도록 요구하기 때문입니다.
Anthropic은 앞으로 전 세계적으로 제공되는 모든 신규 모델에 대해 AI 생성 콘텐츠에 대해 "첫날부터" 워터마킹을 적용할 것이라고 확인했습니다. 텍스트 출력물에는 사용자에게는 보이지 않는 내장 워터마크가 포함되며, 지원되는 경우 다른 생성 파일에는 디지털 서명이 포함된 출처 메타데이터가 포함될 예정입니다.
특히 Anthropic은 "궤도에서 폭격하는(nuke it from orbit)" 접근 방식을 채택하여, AI 시스템이 "표준 편집을 위한 보조 기능"을 수행하거나 사용자의 텍스트나 의미를 실질적으로 변경하지 않는 경우에도 워터마크를 적용할 수 있습니다. 이는 문법 교정 같은 기능에 대한 워터마킹이 전체 생성물과 구별되지 않도록 하기 위함입니다.
현재 워터마킹이 얼마나 철저하게 적용되는지에 대한 세부 사항은 Anthropic이 탐지 도구를 공개하기 전까지는 알려지지 않았습니다. 회사는 EU 법이 요구하는 기술 지원을 제공하기 위해 워터마크를 감지하는 방법에 대한 세부 정보를 공유할 계획입니다.
Anthropic은 앞으로 전 세계적으로 제공되는 모든 신규 모델에 대해 AI 생성 콘텐츠에 대해 "첫날부터" 워터마킹을 적용할 것이라고 확인했습니다. 텍스트 출력물에는 사용자에게는 보이지 않는 내장 워터마크가 포함되며, 지원되는 경우 다른 생성 파일에는 디지털 서명이 포함된 출처 메타데이터가 포함될 예정입니다.
특히 Anthropic은 "궤도에서 폭격하는(nuke it from orbit)" 접근 방식을 채택하여, AI 시스템이 "표준 편집을 위한 보조 기능"을 수행하거나 사용자의 텍스트나 의미를 실질적으로 변경하지 않는 경우에도 워터마크를 적용할 수 있습니다. 이는 문법 교정 같은 기능에 대한 워터마킹이 전체 생성물과 구별되지 않도록 하기 위함입니다.
현재 워터마킹이 얼마나 철저하게 적용되는지에 대한 세부 사항은 Anthropic이 탐지 도구를 공개하기 전까지는 알려지지 않았습니다. 회사는 EU 법이 요구하는 기술 지원을 제공하기 위해 워터마크를 감지하는 방법에 대한 세부 정보를 공유할 계획입니다.