Nvidia doesn’t mess around: A week after open AI industry group formed, it’s already showing progress
엔비디아가 주도하는 오픈 보안 AI 연합(OSAA)이 결성된 지 일주일 만에 이미 AI 에이전트를 방어하기 위한 구체적인 제안을 발표하며 진전을 보이고 있습니다. 이 연합은 120개 이상의 기업이 참여하고 있으며, 리눅스 재단이 제안들을 관리하고 공유하는 공유 AI 발견 교환(SAFE) 워킹 그룹을 운영하고 있습니다.
이들은 블랙햇 컨퍼런스에서 모인 회원들을 통해 AI 사이버 보안 사고를 기밀로 보고하고 영향을 받은 당사자에게 알리며, 책임 소재를 따지지 않는 분석을 수행하는 방안에 대한 제안을 마련했습니다. 또한 회원사들은 자신들의 오픈 소스 기술을 분류하고 공유하여 잠재적인 보안 솔루션을 모색하고 있습니다.
이러한 활동은 궁극적으로 기업이 AI 에이전트를 보호하고 악성 AI 공격으로부터 방어하기 위한 오픈 소스 방안으로 발전할 가능성이 있습니다. 엔비디아는 오픈 모델과 취약점 스캐너인 Garak을 제공하고 있으며, 마이크로소프트, 인텔, 아마존 등 주요 기업들이 에이전트 거버넌스 및 인증 기술 분야에 기여하고 있습니다.
이 그룹은 어도비, 블랙록, 시스코 등 주요 기업들을 포함하고 있지만, 오픈AI, 구글, 앤트로픽 등 주요 기업들이 참여하지 않았다는 점이 주목됩니다. 이는 오픈 소스 AI 노력이 AI 안전성과 보안을 위한 가장 중요한 경로가 될 수 있다는 공동의 인식을 반영하며, 특히 중국의 오픈 웨이트 모델에 대한 규제 움직임 속에서 서방 AI 생태계의 빠른 행동이 중요해지고 있음을 보여줍니다.
이들은 블랙햇 컨퍼런스에서 모인 회원들을 통해 AI 사이버 보안 사고를 기밀로 보고하고 영향을 받은 당사자에게 알리며, 책임 소재를 따지지 않는 분석을 수행하는 방안에 대한 제안을 마련했습니다. 또한 회원사들은 자신들의 오픈 소스 기술을 분류하고 공유하여 잠재적인 보안 솔루션을 모색하고 있습니다.
이러한 활동은 궁극적으로 기업이 AI 에이전트를 보호하고 악성 AI 공격으로부터 방어하기 위한 오픈 소스 방안으로 발전할 가능성이 있습니다. 엔비디아는 오픈 모델과 취약점 스캐너인 Garak을 제공하고 있으며, 마이크로소프트, 인텔, 아마존 등 주요 기업들이 에이전트 거버넌스 및 인증 기술 분야에 기여하고 있습니다.
이 그룹은 어도비, 블랙록, 시스코 등 주요 기업들을 포함하고 있지만, 오픈AI, 구글, 앤트로픽 등 주요 기업들이 참여하지 않았다는 점이 주목됩니다. 이는 오픈 소스 AI 노력이 AI 안전성과 보안을 위한 가장 중요한 경로가 될 수 있다는 공동의 인식을 반영하며, 특히 중국의 오픈 웨이트 모델에 대한 규제 움직임 속에서 서방 AI 생태계의 빠른 행동이 중요해지고 있음을 보여줍니다.