Apel o zakaz aplikacji AI tworzących nagie wizerunki dzieci

Źródło grafiki: Dries Buytaert

Rzecznik rządu oświadczył, że tworzenie materiałów przedstawiających seksualne wykorzystywanie dzieci jest nielegalne, a planowane jest wprowadzenie przepisów penalizujących tworzenie, posiadanie lub dystrybucję narzędzi AI zaprojektowanych do tworzenia tego typu treści. 

Deepfejki to nagrania wideo, zdjęcia lub pliki audio stworzone za pomocą AI, które mają wyglądać lub brzmieć jak autentyczne.

W raporcie opublikowanym w poniedziałek Dame Rachel zwróciła uwagę, że technologia ta w nieproporcjonalny sposób dotyka dziewcząt i młodych kobiet, a wiele aplikacji stworzonych specjalnie na potrzeby tego projektu wydaje się działać wyłącznie na ciałach kobiet.

Według raportu dziewczęta coraz częściej unikają publikowania zdjęć czy angażowania się w aktywność online, aby zmniejszyć ryzyko stania się celem, „tak jak w świecie rzeczywistym przestrzegają zasad mających na celu zapewnienie im bezpieczeństwa — na przykład nie chodzenia samej do domu w nocy”.

Dzieci boją się, że mogą stać się celem „obcego, kolegi z klasy, a nawet przyjaciela”, korzystającego z technologii łatwo dostępnych na popularnych wyszukiwarkach i mediach społecznościowych.

Rachel de Souza stwierdziła: „Ewolucja tych narzędzi przebiega w takiej skali i tempie, że trudno ogarnąć zagrożenia, jakie ze sobą niosą. Nie możemy bezczynnie patrzeć, gdy te specjalistyczne aplikacje AI mają tak niebezpieczny wpływ na życie dzieci.”

Zgodnie z ustawą o bezpieczeństwie w sieci (Online Safety Act) udostępnianie lub grożenie udostępnieniem wyraźnych deepfejków jest nielegalne. Rząd w lutym ogłosił nowe przepisy mające na celu zwalczanie zagrożenia związanymi z obrazami seksualnego wykorzystywania dzieci generowanymi przez AI, w tym uczynienie nielegalnym posiadanie, tworzenie lub dystrybucję narzędzi AI zaprojektowanych w tym celu. 

Pani komisarz uznała jednak, że to nie wystarcza, a jej rzecznik powiedział BBC: „Nie powinno być żadnych aplikacji prezentujących nagość, a już na pewno nie takich, które są klasyfikowane jako generujące seksualne wykorzystywanie dzieci.”

Wzrost liczby zgłoszonych przypadków

W lutym Fundacja Internet Watch (IWF) — brytyjska organizacja charytatywna częściowo finansowana przez firmy technologiczne — potwierdziła 245 zgłoszeń dotyczących obrazów przedstawiających seksualne wykorzystywanie dzieci wygenerowanych przez AI w 2024 roku, w porównaniu do 51 zgłoszeń w 2023 roku, co stanowi wzrost o 380%.

„Wiemy, że te aplikacje są wykorzystywane w szkołach,a rozpowszechnianie takich obrazów szybko wymyka się spod kontroli,” powiedział w poniedziałek tymczasowy dyrektor generalny IWF, Derek Ray-Hill.

Rzecznik Departamentu Nauki, Innowacji i Technologii powiedział, że tworzenie, posiadanie lub rozpowszechnianie materiałów przedstawiających seksualne wykorzystywanie dzieci, w tym obrazów generowanych przez AI, jest „odrażające i nielegalne”. „Na mocy ustawy o bezpieczeństwie w sieci wszystkie platformy, niezależnie od wielkości, muszą usuwać tego typu treści, pod groźbą wysokich kar finansowych,” dodano.

„Wielka Brytania jako pierwszy kraj na świecie wprowadziła dodatkowe przepisy czyniąc nielegalnym wykorzystywanie AI do tworzenia materiałów przedstawiających wykorzystywanie dzieci”.

 Rachel de Souza wezwała również rząd do: 

1)nałożenia prawnych obowiązków na twórców narzędzi generatywnej AI, aby identyfikowali ryzyka dla dzieci związane z ich produktami i podejmowali działania w celu złagodzenia tych zagrożeń,

2)ustanowienia systematycznego procesu usuwania z internetu deepfejkowych obrazów przedstawiających dzieci w kontekście seksualnym,

3)uznania seksualnego wykorzystywania deepfejków za formę przemocy wobec kobiet i dziewczynek.

Paul Whiteman, sekretarz generalny związku liderów szkół NAHT, powiedział, że członkowie związku podzielają obawy komisarz. „Jest to obszar, który pilnie wymaga przeglądu, ponieważ istnieje ryzyko, że technologia wyprzedzi prawo i edukację w tym zakresie” powiedział.

W piątek regulator medialny Ofcom opublikował ostateczną wersję Kodeksu Dziecięcego, który nakłada obowiązki prawne na platformy udostępniające pornografię oraz treści promujące samookaleczenia, samobójstwa lub zaburzenia odżywiania, nakazując im podjęcie większych działań w celu ograniczenia dostępu dzieci do takich materiałów. Regulator zapowiedział, że strony internetowe muszą wprowadzić dokładniejsze kontrole wieku, w przeciwnym razie grożą im wysokie grzywny.

Pani komisarz skrytykowała kodeks, mówiąc, że przedkłada on „interesy biznesowe firm technologicznych nad bezpieczeństwo dzieci”.