이번 권고문의 특징은 AI를 배포 후 관리 대상이 아닌 설계 단계부터 보안을 내재화해야 할 시스템으로 바라본다는 점이다.
권고문은 데이터, 머신러닝 모델, 소프트웨어, 인프라·하드웨어, 제3자 서비스 등 5개 항목에서 AI 공급망 관련 위험요소와 완화방안을 기술하고 있다.
권고문은 품질이 낮고 편향된 AI 데이터는 판단 오류를 초래할 수 있고 신뢰할 수 있는 출처의 데이터를 사용해 위험요소를 완화하도록 조언한다.
권고문은 또 머신러닝 모델은 악성코드를 은닉하거나 백도어를 삽입하는 등 보안사고가 발생할 수 있어 안전한 파일 형식이나 투명한 모델을 사용해야 한다고 강조했다.
권고문에 따르면 AI 인프라는 악성 펌웨어를 주입하거나 새로운 보안 위험을 수반하므로, 기존 정보보안시스템 보안 원칙을 적용해 네트워크 분리나 자체 인증을 통해 철저하게 관리해야 한다.
국정원은 2023년 11월 안전한 AI 개발 가이드라인을 미국, 영국 등과 공동으로 발표한 데 이어 지난해 12월에는 AI 보안 가이드북을 배포하는 등 지속적으로 AI 공급망 공격 관련 대책을 제시해왔다.
국정원 관계자는 “이번 권고문은 AI에 특화된 위험을 공급망 측면에서 체계적으로 정리하고 사후대응이 아닌 사전예방 중심의 보안 관리 방향을 제시했다는 점에서 의미가 크다”라며 “향후 주요국과 파트너십을 바탕으로 국내에서 AI를 안전하게 활용할 수 있도록 지원하겠다”라고 말했다.
씬짜오가 함께 운영합니다 — 베트남 살이 실전노트 비자·환전·교통 실전 정보·vnkorlife 업소록·구인·부동산
