인공지능(AI)으로 생성된 영상이나 음성 콘텐츠를 실제인 것처럼 속여 배포하는 행위가 오늘부터 법으로 엄격히 제한된다. 1일 IT 업계에 따르면, 생성형 AI 콘텐츠에 대한 투명성을 높이기 위한 ‘인공지능법 2025’가 이날부터 공식 발효됐다.
최근 수십만 명의 팔로워를 보유한 AI 가상 인플루언서(KOL·KOC)와 정교한 딥페이크 영상이 급증하면서 시청자들이 실재와 가공을 구분하기 어렵다는 지적이 끊이지 않았다. 이에 정부는 새로운 법안을 통해 AI가 생성하거나 편집한 모든 오디오, 시각 이미지, 동영상 콘텐츠에 대해 명확한 라벨링(표시)을 의무화했다.
새로운 법규에 따르면 실제 인물의 외모나 목소리를 모방하거나, 실제 사건 및 상황을 재현하여 시청자를 오도할 가능성이 있는 콘텐츠는 반드시 AI로 제작되었음을 명시해야 한다. 특히 인물 딥페이크나 실제 사건 재구성 영상은 사용자가 디지털 환경에서 즉각 인식할 수 있도록 식별 표기를 부착해야 한다. 다만 영화나 예술 작품의 경우 시청 경험을 해치지 않는 범위 내에서 적절한 방식으로 표시하도록 규정했다.
정부는 규제와 동시에 산업 육성책도 병행한다. AI 관련 기업에는 컴퓨팅 인프라와 데이터 확보를 위한 최고 수준의 인센티브를 제공하며, 새로운 제품을 안전하게 시험할 수 있는 ‘규제 샌드박스’ 참여를 지원한다. 또한 국가 AI 발전 기금을 조성해 인프라 투자와 전문 인력 양성, 스타트업 지원에도 나설 방침이다.
업계 관계자는 “이번 법 시행으로 인터넷 사용자들이 콘텐츠의 진위 여부를 일일이 추측해야 했던 불편함이 사라질 것”이라며 “온라인 환경의 투명성을 높이고 딥페이크를 악용한 사기 범죄를 줄이는 데 크게 기여할 것으로 보인다”고 전망했다.
