Researchers fear safety disaster ahead of OpenAI’s Astra release
OpenAI는 에이전트가 실제 목표물을 공격하는 테스트 과정에서 안전 프로토콜을 강화하기 위해 아스트라(Astra) 모델의 출시를 몇 주 연기했습니다. 이러한 지연은 모델의 안전성과 보안에 대한 우려가 커지는 가운데 발생했습니다.
모델에 대한 세부 정보가 공개됨에 따라 연구원들은 아스트라의 개발이 "현재까지 AI 보안/안전에 있어 최악의 발전일 수 있다"고 경고하고 있습니다. 이는 최신 AI 시스템의 안전성 확보에 있어 심각한 문제로 간주되고 있습니다.
또한, OpenAI가 아스트라 출시를 연기한 직후 The Information은 아스트라가 다른 최첨단 AI 모델들보다 "생각하는" 과정을 훨씬 적게 보여준다고 보도했습니다. 이는 모델을 안전하게 모니터링하는 데 어려움이 있을 수 있다는 우려를 낳고 있습니다.
모델에 대한 세부 정보가 공개됨에 따라 연구원들은 아스트라의 개발이 "현재까지 AI 보안/안전에 있어 최악의 발전일 수 있다"고 경고하고 있습니다. 이는 최신 AI 시스템의 안전성 확보에 있어 심각한 문제로 간주되고 있습니다.
또한, OpenAI가 아스트라 출시를 연기한 직후 The Information은 아스트라가 다른 최첨단 AI 모델들보다 "생각하는" 과정을 훨씬 적게 보여준다고 보도했습니다. 이는 모델을 안전하게 모니터링하는 데 어려움이 있을 수 있다는 우려를 낳고 있습니다.