국내에서도 인공지능(AI) 기술을 악용한 딥페이크 범죄와 허위 정보 유통을 차단하기 위한 일명 'AI 생성물 표시제'가 추진된다.

정부는 지난 10일 김민석 국무총리가 주재한 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다. 핵심은 AI로 제작된 콘텐츠에 명확한 표시를 의무화해 소비자 혼란과 피해를 줄이는 데 있다.
실제로 세계 여러 지역에서 AI 생성물을 규제하려는 움직임이 본격화되고 있는 상황이다. 유럽연합(EU)은 AI를 포괄적으로 규제하는 AI Act를 통해 딥페이크 등 AI 기반 생성·조작 콘텐츠에 투명성 의무를 부과하고 있으며, 인위적으로 제작된 이미지에는 워터마크 표기를 요구하고 있다. 미국 역시 AI 생성물의 출처와 이력 정보를 명확히 하는 기술적 조치를 입법·행정 차원에서 추진 중이다. 중국은 2023년 1월부터 시행된 '인터넷 정보서비스 딥페이크 관리 규정'을 통해 AI 생성물에 식별 표시 부착을 의무화했다.

한국 정부 역시 국제적 흐름에 발 맞춰 해당 정책을 준비한 것으로 풀이된다. 정부 방안에 따르면 AI 생성물을 제작하거나 편집해 게시하는 행위자는 해당 사진과 영상 등이 AI로 만들어졌음을 알려야 한다. 방송통신위원회는 플랫폼 사업자에 표시제 준수 의무를 부여하고, 이용자가 이를 임의로 삭제하거나 훼손하는 행위도 금지한다. 플랫폼사는 정보 제공자가 표시 의무를 지키는지 확인하고 관리해야 한다.

허위·과장광고 확산을 막기 위한 절차적 개선도 포함됐다. 방통위와 방심위는 식품, 의약품, 화장품, 의료기기 등 AI 기반 허위광고가 빈발하는 분야를 서면심의 대상으로 추가하고, 심의 요청이 들어오면 24시간 이내에 관련 조치를 진행한다. 국민 피해가 우려되는 긴급 상황에는 심의 완료 전이라도 플랫폼에 차단을 요구할 수 있는 '긴급 시정요청'도 도입한다는 계획이다.
정부는 악의적 허위·조작 정보 유통에 대한 제재 강도를 높여 위법 행위 유인을 차단한다. 정보통신망 등을 활용한 악성 허위 정보 유포에는 징벌적 손해배상을 적용해 배상 범위를 확대한다. 공정거래위원회는 표시·광고법상 허위·과장광고에 부과되는 과징금 상한을 기존 매출의 2%에서 더 높은 수준으로 올리는 방안을 추진한다.

국무조정실 이동훈 재정금융정책관은 "이번에 발표한 대책이 사실 법 개정도 필요하고 제도화가 되려면 국회에서 입법 과정이 필요한 상황"이라며 "이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞은 시장 질서를 확립해 나갈 것"이라고 밝혔다.

서삼광 기자 (seosk@dailygame.co.kr)