AI 가짜 광고, 정부가 즉시 차단 가능해진다…정보통신망법 개정 추진

[이데일리 권하영 기자] 최근 인공지능(AI)으로 만든 가짜 전문가로 허위·과장 광고를 하는 사례가 늘자 정부가 신속 차단을 위한 법 개정에 착수했다. AI 생성물 표시 의무를 유통자로 확대 적용하고, 소셜미디어(SNS)로 순식간에 확산되는 디지털 정보 특성상 서면 심의와 심의 전 차단 조치 등을 마련할 계획이다.

[이데일리 김태형 기자] 김민석(왼쪽) 국무총리가 25일 오전 서울 종로구 정부서울청사에서 열린 국무회의에서 모두발언을 하고 있다.

정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 내놨다.

최근 AI가 만든 가짜 전문가나 유명인 딥페이크를 활용한 허위·과장 광고가 식·의약품 분야를 중심으로 빠르게 번지고 있는 문제를 해결하기 위함이다. 특히 이런 광고는 SNS에서 몇 시간 만에 전국으로 확산되는 구조 탓에, 노년층 등 취약 소비자 피해로 이어진다는 점에서, 정부는 가짜 AI 광고의 사전 예방-신속 차단-처벌 강화를 모두 아우르는 법·제도 정비에 속도를 내기로 했다.

핵심은 AI로 만든 콘텐츠가 소비자를 오인시키지 않도록 생성물 표시 의무를 강화하고, 온라인에서 확산되는 허위 광고의 특성을 고려해 심의 전이라도 정부가 긴급 차단을 요청할 수 있는 구조를 만들겠다는 것이다.

“AI 생성물임을 반드시 표시”…플랫폼에도 관리 의무

먼저 정부는 허위·과장 광고의 유통 단계 자체를 차단하기 위해 ‘AI 생성물 표시제’를 도입한다. 앞으로 AI로 만든 이미지를 제작하거나 편집해 게시하는 사람(‘직접 정보제공자’)은 반드시 “AI 생성물”임을 명확히 밝혀야 하며, 이를 고의로 제거하거나 훼손하는 행위도 금지된다. 플랫폼 기업에도 책임이 부여된다. 직접 정보제공자가 규정을 지킬 수 있도록 표시 방법을 제공하고, 표시 의무를 고지하며, 이용자 게시물이 규정을 준수하는지 관리·감독하는 역할을 맡는다.

정부는 내년 1월 시행되는 AI기본법 시행에 맞춰, AI 생성물 표시 의무를 이행하는 데 필요한 가이드라인을 과학기술정보통신부가 마련하도록 할 계획이다. 이는 AI 콘텐츠를 둘러싼 투명성 기준을 업계 전반에 확립하기 위한 조치다.

“24시간 내 심의·긴급 차단”…AI 허위 광고 확산 속도 겨냥

가짜 AI 광고의 전파 속도를 고려하면 사후 제재만으로는 대응이 어렵다는 판단도 이번 대책에 반영됐다. 현재 온라인 플랫폼·소비자원·식약처 등이 협의체를 통해 허위·유해 정보 차단에 나서고 있지만, AI 기반 광고 기술이 고도화되면서 신속 대응이 쉽지 않다는 것이다.

이에 정부는 △식·의약품 △화장품 △의약외품 △의료기기 등 AI 허위 광고가 빈번한 품목을 방송미디어통신심의위원회 서면심의 대상으로 추가하는 법 개정을 추진한다. 앞으로는 이 분야의 허위 광고에 대해 심의 요청 후 24시간 내 신속 심의가 이뤄지도록 방송미디어통신위원회법을 손본다는 계획이다.

식약처 전용 심의신청 시스템(패스트트랙) 역시 기존 마약류에서 해당 품목군 전체로 확대된다. 방미심위는 식약처와 연계한 시스템을 고도화해 심의 신청과 처리 과정을 더 신속하게 연결할 방침이다.

또한 정보통신망법 개정을 통해 심의 완료 전이라도 정부가 플랫폼에 긴급 시정요청을 내리고 게시물을 즉시 차단할 수 있는 절차도 마련한다. 이후 심의 결과 불법 정보로 판단되면 차단 상태가 유지되고, 불법이 아니라고 확인되면 원상 복구된다. 정부가 AI 허위 광고의 확산 속도에 대응하는 구조적 장치를 갖추는 셈이다.

‘가상 전문가 추천’ 제재…징벌적 배상까지 추진

허위·과장 광고에 대한 금전적 제재도 대폭 강화된다. 공정위와 식약처는 AI가 만든 가짜 전문가가 제품을 추천하는 광고의 위법성 판단 기준을 명확히 해 제재 속도를 높이기로 했다. 앞으로 AI가 제품을 추천할 때 추천자가 가상인간임을 표시하지 않으면 ‘부당한 표시광고’, AI가 생성한 의사 등 전문가가 식·의약품을 추천하는 광고는 ‘소비자를 기만하는 광고’에 해당한다.

위반자에 대한 처벌도 강화된다. 정부는 △악의적인 허위·조작정보 유통에 대해 징벌적 손해배상(손해액 최대 5배)을 도입하고, △표시·광고법에 따른 허위·과장 광고 과징금 상향도 추진한다. 식약처와 소비자원은 관계 부처 협의로 감시·적발 기능을 강화하고, AI 허위 광고에 대한 상시 모니터링 체계를 구축한다.

김민석 국무총리는 “신기술의 부작용을 최소화하고 AI 시대에 맞는 시장 질서를 확립하겠다”고 밝혔다. 정부는 이번 대책에서 제시한 법령 개정과 제도 개선을 조속히 추진하는 한편, 플랫폼 업계·소비자 단체 등과도 긴밀하게 협의해 실행력을 높여 나갈 방침이다.