Idole K-Popu padają ofiarą aplikacji deepfake AI

Zdjęcie: gettyimagesbank

Reklamy, o których mowa, promują narzędzia AI, które generują filmy przedstawiające dwie osoby całujące się, zachęcając użytkowników do przesyłania własnego zdjęcia obok obrazu ich ulubionego idola K-popu w celu stworzenia sfabrykowanego klipu. Zrzuty ekranu tych reklam krążyły w Internecie, a fani K-popu nazywali je niepokojącymi i natarczywymi. 

„Nawet po zgłoszeniu reklama ciągle wracała... Widziałem jeszcze gorsze” — napisał jeden z użytkowników społeczności internetowej. Zgodnie z prawem koreańskim, tworzenie, manipulowanie, rozpowszechnianie lub groźba rozpowszechniania treści o charakterze seksualnym przy użyciu narzędzi cyfrowych, takich jak sztuczna inteligencja, bez zgody jest przestępstwem. Pomimo ram prawnych, przestępstwa seksualne deepfake gwałtownie wzrosły w ostatnich latach, stając się jednym z najpilniejszych zagrożeń, z jakimi mierzą się idole K-popu. 

Przestępstwa te są często powodowane obsesyjnym zachowaniem fanów lub złośliwym zamiarem wyrządzenia krzywdy osobom publicznym. Zaledwie w zeszłym miesiącu policja aresztowała kilkudziesięciu mężczyzn w wieku nastoletnim, 20 i 30 lat za tworzenie lub udostępnianie seksualnie zmanipulowanych filmów z udziałem celebrytek i osobowości internetowych. Według władz 11 kwietnia 23 operatorów czatu Telegram zostało aresztowanych pod zarzutem naruszenia m.in. ustawy o ochronie nieletnich i ustawy o szczególnych przypadkach dotyczących karania itp. przestępstw seksualnych. Trzynastu podejrzanych zostało formalnie oskarżonych, a dodatkowo aresztowano 60 użytkowników podejrzanych o udział w czacie.

Agencje rozrywkowe zaczęły podejmować bardziej proaktywne kroki w odpowiedzi na rosnące zagrożenie. Tego samego dnia, w którym policja ogłosiła aresztowania, międzynarodowa firma rozrywkowa HYBE potwierdziła, że ​​niektórzy podejrzani obrali sobie za cel jej artystów. Firma stwierdziła, że ​​przełom był wynikiem współpracy z organami ścigania, w tym bezpośredniej infolinii z policją. 

Według HYBE agencja podpisała memorandum o porozumieniu (MOU) z policją Northern Gyeonggi 25 lutego w celu zajęcia się przestępstwami deepfake. Od tego czasu firma aktywnie zgłaszała nielegalne treści władzom i udostępniała informacje w celu ułatwienia śledztw. „Będziemy nadal reagować na przestępstwa naruszające prawa do wizerunku i godność naszych artystów bez żadnej tolerancji i ugód” — powiedział dyrektor generalny HYBE Lee Jae-sang w oświadczeniu.

Kilka dni później Cube Entertainment, siedziba girlsbandu i-dle, również ogłosiła podjęcie kroków prawnych w odpowiedzi na zmanipulowane filmy i nadużycia online skierowane do jej członków. 18 kwietnia wytwórnia wydała oświadczenie dotyczące treści seksualnie obraźliwych i ataków online na grupę. „Obecnie zabezpieczamy dowody i przygotowujemy wszelkie możliwe działania prawne cywilne i karne za pośrednictwem naszych przedstawicieli prawnych” — poinformowała firma. Dodała, że ​​każdy, kto rozpowszechnia zmanipulowane filmy lub publikuje zniesławiające treści, poniesie pełne konsekwencje prawne, bez pobłażliwości ani ugód.

Koreańskie prawo stanowi, że tworzenie lub rozpowszechnianie seksualnie zmanipulowanych treści deepfake podlega karze do siedmiu lat więzienia, lub grzywnie do 50 milionów wonów (35 700 USD). Jeśli jest to działanie w celu osiągnięcia zysku, kara wzrasta do co najmniej trzech lat więzienia. Posiadanie, zakup, przechowywanie lub oglądanie takich treści podlega karze do trzech lat więzienia, lub grzywnie do 30 milionów wonów.