K팔 걸그룹 음란물 쏟아진다 AI 딥페이크 영상 확산중

K팝 걸그룹 멤버 사진을 대량 도용해
학습시킨 AI 모델 데이터가
온라인상에 유포된 가운데,
수익 창출이나 음란물 제작에
악용될 수 있기에 소속사가
대응을 검토하고 있다.

27일 업계와 법조계 등에 따르면
생성형 인공지능(AI) 모델 공유
사이트 시빗AI(CivitAI)에는
이용자들이 뉴진스, 르세라핌,
아이브, 에스파, 트와이스
같은 인기 KPOP 걸그룹 멤버의
이미지를 학습시킨 데이터가
다수 올라와 있다.

게시된 파일은 지난해
스테빌리티AI가 오픈소스로
공개한 이미지 합성 AI ‘스테이블
디퓨전'(Stable Diffusion)에
적용해 딥페이크 이미지를
생성할 수 있는 AI 모델이다.

스테이블 디퓨전의 모델은
크게 전반적인 화풍을 결정하는
핵심 모델 ‘체크포인트’와 인물의
얼굴·자세 등을 결정하는
보조 모델 ‘LoRA'(Low-Rank
Adaptation)로 나뉜다.

이 중 실존 인물 딥페이크 제작에
주로 쓰이는 LoRA는 용량이
수십∼수백 메가바이트(MB)에
불과하고, 제작이 상대적으로
쉬워 시빗AI 같은 사이트나
온라인 커뮤니티에서
쉽게 공유되고 있다.

스테이블 디퓨전은 ‘챗GPT’
같은 고성능 대화형 인공지능과
달리, 일반인도 PC에서
오프라인으로 구동할 수
있는 것이 특징이다.

프로그래밍 모르는 사람도
쉽게 사용하고 악용할 수 있어
최근에는 프로그래밍을 모르는
사람도 쉽게 사용할 수 있는
‘웹UI'(WebUI)라는
인터페이스까지 나왔다.

수십만원대 보급형 GPU가 달린
PC와 약간의 지식만 있다면
누구나 클릭 한 번으로 AI 모델을
다운받은 뒤, 안방에서 1∼2분
만에 고해상도 아이돌
합성 사진을 만들 수 있다.

문제는 이런 AI 모델이
수익 창출이나 음란물 제작에
악용될 수 있다는 사실이다.
유튜브에는 이미지 생성 AI로
만들어낸 여성 이미지를 전시하는
‘AI 룩북’ 콘텐츠가 성행하고 있고,
일부 이용자들은 후원
플랫폼 ‘패트리온’에서 AI가
생성한 음란물을 판매하고 있다.

K팝 업계도 소속 아티스트의
이미지를 활용한 AI 모델
배포에 대응 방안을 고민하고 있다.

국내 한 대형 연예기획사
관계자는 “상황을 인지하고 있다”며
“생성형 AI로 제작하는
이미지가 아티스트의 명예나
초상권을 침해하는 경우
해당 저작물 삭제를 요청하고,
필요한 경우 법적 대응도
고려할 것”이라고 전했다.