AI 가짜의사 광고로 돈 벌다간…최대 5배 ‘징벌적 손배’ 맞는다

[세종=이데일리 김미영 기자] 인공지능(AI) 기술로 만들어낸 가짜 전문가, 유명인 딥페이크로 식·의약품을 홍보하고 판매하는 등 허위·조작정보로 소비자에 피해를 끼친 사업자에겐 손해액의 최대 5배에 달하는 징벌적 손해배상을 물릴 수 있게 된다. 허위·과장광고에 대한 과징금도 큰폭으로 오를 전망이다.

김민석 국무총리는 10일 정부서울청사에서 국가정책조정회의를 열어 ‘AI 등을 활용한 시장질서 교란 허위‘과장광고 대응 방안’을 논의하고 이같은 대책을 확정했다.

김 총리는 “생성형 AI 등 신기술 악용은 시장질서를 교란할 뿐만 아니라 소비자에 대한 피해가 심한 중대한 범죄 행위로 판단하고 있다”며 “AI를 활용한 허위 과장 광고에 대해 사전 유통 예방뿐 아니라 신속한 사후 차단도 추진하려 한다”고 밝혔다.

정부는 AI 허위과장광고를 원천차단하기 위해 △유통 전 사전방지책을 마련하고 △유통 시엔 신속차단하며 △사후 재재 강화·단속역량 확충에 나서기로 했다.

허위·과장 광고 유통의 사전 방지와 신속차단은 방송미디어통신위원회(방미통위) 등이 맡아 AI 생성물이 실제가 아니란 점을 소비자에게 정확히 알릴 수 있도록 플랫폼 등에 대한 AI 생성물 표시제를 도입한다. 플랫폼사엔 AI 생성물을 제작·편집해 콘텐츠를 올리는 정보제공자가 AI 생성물 표시 의무를 준수하는지 관리해야 하는 의무를 부여한다.

아울러 방송미디어통신심의위원회(방미심위)와 함께 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가할 방침이다. 심의 요청 후엔 24시간 내 신속 심의할 계획이다. 소비자의 생명·재산 피해가 우려되는 경우엔 방미통위에서 플랫폼사에 긴급 시정요청을 할 수 있게 해 심의 완료 전에라도 차단조치한다.

제재 근거는 명확히 세우고 제재 강도도 대폭 높인다.

공정거래위원회(공정위)와 식품의약품안전처(식약처)는 AI로 만든 전문가가 제품을 추천하는 광고에 위법성 판단 여부를 명확화한다. 예를 들어 AI로 만들어낸 의사가 제품 추천하는 광고의 경우 AI 의사가 ‘가상인간’임을 표시하지 않으면 ‘부당한 표시광고’로 보고 제재한다.

악의적인 허위·조작정보 유통 행위에 대해선 손해액의 최대 5배에 달하는 징벌적 손해배상을 도입한다. 소비자로선 AI 의사의 추천만 믿고 구입한 건강기능식품 복용으로 오히려 부작용을 봤다면, 징벌적 손해배상 청구가 가능해지는 것이다. 표시·광고법상 허위·과장광고에 대한 과징금 수준도 큰폭으로 끌어올린다.

정부의 이같은 대책은 최근 AI로 만든 가짜 의사 등을 활용한 허위·과장광고가 식·의약품 분야를 중심으로 범람하고 있단 판단에서 나왔다. 노년층 등 소비자의 피해가 야기되고 있지만 별다른 제재 없이 빠르게 유포되면서 우려가 커지고 있는 상황이다. 김 총리는 “극심한 허위과장광고가 SNS를 통해 급속히 확산하고 있다”며 “신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞는 시장질서를 확립해 나갈 것”이라고 강조했다.

AI 전문가를 앞세운 허위과장광고 사례(사진=식약처)