오픈AI가 출시를 앞둔 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 성능이 비약적으로 향상됨에 따라 자체 안전 기준에 따른 강화된 안전 조치를 전격 적용하기로 했다고 로이터 통신을 인용해 베트남 현지 언론이 3일 보도했다.
보도에 따르면 아스트라는 기존 오픈AI의 최첨단 모델들보다 더 적은 연산 자원을 사용하면서도 훨씬 많은 보안 취약점을 찾아낼 수 있는 능력을 갖춘 것으로 파악됐다. 아멜리아 글레이즈(Amelia Glaese) 오픈AI 안전 담당 부사장은 지난 1일 적절한 도구와 접근 권한이 주어지면 아스트라가 인간의 단계별 지시 없이도 잘 보호된 다수의 시스템에서 알려지지 않은 보안 취약점을 발견하고 이를 공격하는 방법을 개발할 수 있다고 밝혔다.
오픈AI는 조만간 제한된 일부 사용자층을 대상으로 아스트라를 우선 제공할 예정이다. 아스트라는 오픈AI의 내부 안전 프레임워크상 한층 엄격한 단계의 보호 조치 적용 기준에 도달한 첫 번째 AI 모델이 됐다. 오픈AI의 안전 규정에 따르면, 새로운 사이버 보안 취약점을 발견·악용하거나 사람의 개입을 최소화한 채 복잡한 공격 전략을 스스로 기획·실행할 수 있는 기술적 수준에 도달할 경우 즉시 강화된 보안 레이어가 활성화된다.
오픈AI 측은 아스트라가 악의적인 사이버 공격 요청에 응답하지 않도록 조정을 마쳤으며, 안전망 우회 시도를 감지하기 위해 모델의 활동을 실시간 모니터링할 방침이라고 설명했다. 최근 AI 시스템의 성능이 급격히 고도화됨에 따라 통제 권한과 안전 관리를 둘러싼 오픈AI를 향한 감시 시선도 더욱 강화되고 있다.
