Opinia: Zdjęcia AI z Taylor Swift stanowią przerażające ostrzeżenie

Zatrzymanie pornografii AI jest niemal niemożliwe. Oto dlaczego. Zdjęcie: Forbes/Getty Images

Zdjęcia o charakterze pornograficznym gwiazdy pop Taylor Swift wygenerowane przez AI zalały internet i nie musimy tego tolerować.

Laurie Segall. Zdjęcia: Angie Speranza

Swift może być jedną z najbardziej znanych kobiet na świecie, ale reprezentuje każdą kobietę i każdą dziewczynę, jeśli chodzi o zagrożenie związane z przyszłością sztucznej inteligencji. 
Od prawie 15 lat zajmuję się tematyką wpływu technologii i uważam, że pornograficzne fałszerstwa są jednym z najważniejszych zagrożeń, z którymi borykamy się wraz z postępami w sztucznej inteligencji. Wraz z rozprzestrzenianiem się narzędzi generowanych przez sztuczną inteligencję i tendencją Silicon Valley do wyścigu o innowacje, wchodzimy w fazę technologii, która wydaje się znajoma – teraz jednak stawki są coraz wyższe.  Żyjemy w erze, w której nie tylko nasze dane są wrażliwe na kradzież, ale także nasze najbardziej intymne cechy: nasze głosy, nasze twarze, nasze ciała mogą być teraz kopiowane przez sztuczną inteligencję. Mówiąc w prosty sposób: nasze człowieczeństwo znajduje się w odległości jednego kliknięcia od wykorzystania przeciwko nam. 

A jeśli może się to zdarzyć Swift, to może zdarzyć się również tobie. Największym błędem, jaki możemy popełnić, jest przekonanie, że taki rodzaj szkody jest zarezerwowany dla osób publicznych. Widzimy teraz demokratyzację aplikacji generujących obraz umożliwiających ten rodzaj zachowania. Czy twoja miłość cię odrzuciła? Jest na to aplikacja. Teraz możesz ją cyfrowo roznegliżować lub wygenerować własną pornograficzną fałszerkę z nią w roli głównej.  Problem tylko się nasila, gdy przechodzimy do światów rozszerzonych i wirtualnych. Wyobraź sobie wciągające otoczenie, w którym ktoś zaprasza innych do zbiorowego oglądania pornograficznego filmu o dziewczynie, która go odrzuciła. Na początku tego miesiąca poinformowano, że brytyjska policja prowadzi dochodzenie w sprawie 16-latka, który twierdził, że został zgwałcony w wirtualnym świecie przez wielu napastników. 

Niedawno rozmawiałam z profesorem Uniwersytetu George'a Washingtona, dr Mary Anne Franks, która specjalizuje się w prawach obywatelskich, technologii i wolności słowa. Stanowczo ostrzega: te rodzaje aplikacji i narzędzi sztucznej inteligencji mogą doprowadzić do nowej generacji młodych ludzi z mentalnością „Moje życzenie jest rozkazem sztucznej inteligencji”. Jeśli nie będziemy ostrożni, stworzymy nie tylko nowe pokolenie ofiar, ale także nowe pokolenie napastników. „My tylko stworzyliśmy wszystkie te narzędzia – zdezorientowani, oburzeni, wściekli młodzi mężczyźni używają ich zamiast próbować dojść do tego, jak należy radzić sobie z odrzuceniem w zdrowy sposób” – powiedział Franks. 

Wykorzystywanie postępów technologicznych w celu upokorzenia kobiet nie jest niczym nowym. W 2015 roku stworzyłam serię na “CNN” zatytułowaną Revenge Porn: The Cyberwar Against Women. W tamtych czasach pornografia bez zgody obu stron - gdzie były partner czy zły aktor publikował nagie zdjęcia kobiet na stronach internetowych poświęconych ich zawstydzeniu — była powszechna. Podobnie jak dzisiaj, nie ma praw, które by to regulowały, a firmy technologiczne nie wprowadzały jeszcze zmian w celu ochrony ofiar. 

Podczas tego śledztwa, nigdy nie zapomnę widoku stron internetowych zamieszczanych na darkweebie, które prezentują pornografię nastolatek bez ich zgody. Badacz bezpieczeństwa, który specjalizuje się w nadużyciach online (i śledzeniu nadużyć) pokazał mi głębie problemu, prowadząc mnie przez fora i obrazy, których nigdy wymarzę z pamięci. Na jednej stronie sprawcy zhakowali kamery internetowe nastolatków i zmusili młode dziewczyny do wykonania aktów seksualnych pod groźbą: jeśli nie posłuchasz, wyślemy twoje prywatne zdjęcia, które nagraliśmy, do wszystkich twoich kolegów z klasy.

Przenieśmy się do roku 2024. Wyobraź sobie, że twój nastolatek otrzymuje w wiadomości prywatnej wideo o treści seksualnej z ich udziałem. Nigdy nie nagrali wideo, ale ze względu na postępy w technologii AI, niemożliwe jest odróżnienie, czy jest ono prawdziwe czy fałszywe. W świecie, w którym sztuczna inteligencja sprawia, że fikcja staje się tak wiarygodna, prawda i nasze postrzeganie prawdy nie są daleko od siebie. Uczucie wstydu, utrata kontroli i bezradność nie znikają, ponieważ obraz czy wideo nie są technicznie „prawdziwe”. 

Koszmar fałszerstw związanych z Taylor Swift to tylko wierzchołek góry lodowej, podkreślający istniejące zagrożenie, z którym borykają się kobiety i młode dziewczyny. Chociaż X mógł usunąć popularne posty (po obejrzeniu ich dziesiątki milionów razy), istnieje nadal wiele alternatywnych stron poświęconych tego typowi wyzyskującej zawartości. Jedna konkretna strona, generująca miliony wyświetleń miesięcznie, prezentuje pornografię poświęconą Swift i innym celebrytom, którzy nie wyrazili zgody na wykorzystanie ich wizerunku w celach pornograficznych. Powrót do poprzedniego stanu jest trudny, a lekarstwo wiąże się z kosztem. W sobotę wyszukiwania dotyczące Swift zostały zablokowane na X, a firma poinformowała CNN, że ruch ten jest tymczasowy i ma na celu „priorytet bezpieczeństwa”. 

Aby chronić jedną z najbardziej znanych kobiet na świecie, X musiał tymczasowo uczynić ją niewidoczną. Chociaż jest to działanie tymczasowy, przekaz ma trwały wpływ: jeśli jedna z najbardziej znanych kobiet musi zniknąć z sieci, aby być bezpieczną, co to oznacza dla reszty z nas? Dużo myślałam o tym, co naprawdę mogłoby zmienić sytuację. Z perspektywy politycznej, kilka stanów ma ustawy przeciwko tworzeniu lub udostępnianiu tego rodzaju fałszerstw. Wszystkie te prawa różnią się zakresem - więc to, gdzie ktoś może wnieść oskarżenie, ma znaczenie. Jeśli na przykład Swift złożyłaby pozew w Nowym Jorku jako mieszkaniec tego stanu - prawo Nowego Jorku wymaga, aby ofiara tego rodzaju nadużycia udowodniła zamiar wyrządzenia szkody, co staje się coraz trudniejsze w przypadku generowanych przez AI obrazów pornograficznych, powiedział Franks. 

„Zamiar wyrządzenia szkody jest bardzo restrykcyjnym wymogiem, ponieważ, podobnie jak w innych formach nadużyć seksualnych opartych na obrazach, istnieje wiele innych motywów [w tym] zaspokojenia pociągu seksualnego, korzyści pieniężne, zdobycie sławy, osiągnięcie statusu społecznego - powiedział Franks. - Przepisy, które wymagają udowodnienia zamiaru wyrządzenia szkody, dają wszystkim tym sprawcom wolną rękę”. 

Aby wnieść oskarżenie, Swift musiałaby namierzyć sprawcę lub sprawców - co jest zarówno kosztowne, jak i trudne do osiągnięcia, a wszystko to przy ryzyku dalszego narażenia się. Wskazuje to na to, że nawet stany z przepisami na miejscu mają zbyt skomplikowaną drogę postępowania do postawienia kogoś przed sądem.  „Ktoś taki jak Taylor Swift ma prawników i kogoś, kto może z tym pomóc - powiedział Franks. - Przeciętna ofiara nie będzie miała takiej możliwości”.

Franks twierdzi, że idealna ustawa federalna obejmowałaby sankcje karne i cywilne, powołując się na dwupartyjną ustawę Preventing Deepfakes of Intimate Images Act, która karnie zabraniałaby ujawniania obrazów cyfrowych o charakterze jednoznacznie seksualnym bez zgody i zapewniałaby ofiarom regres cywilny. Ponieważ przepisy zakazujące deepfake'ów są trudne do wyegzekwowania, ustawodawcy w Vermont niedawno wprowadzili przepisy, które nakładałyby na twórców produktów generujących sztuczną inteligencję odpowiedzialność za szkody, które wyrządzają, a które można racjonalnie przewidzieć. Są to pierwsze kroki, ale ustawodawstwo jest wyprzedzane przez szybkość, z jaką rozwija się technologia.

Nie wydaje się sprawiedliwe, by prosić Swift o bycie naszym rzecznikiem w tej sprawie, ale mocno wierzę, że ona - i potężna koalicja fanów, którzy podzielają jej etos - może być naszą najlepszą szansą na zbudowanie impetu potrzebnego do wprowadzenia znaczących zmian już teraz. Nie zrozumcie mnie źle, dla każdej kobiety, nawet tej na pozycji Swift, będzie to wiązało się z ogromnymi przeszkodami i osobistymi kosztami, ale biorąc pod uwagę, że już zmieniła branżę muzyczną i stworzyła mikroekonomię dzięki swojej trasie koncertowej, nie stawiałbym niczego poza nią.

W świecie Swift niesprawiedliwość jest odskocznią, złamane serce staje się hymnem, a każde rozczarowanie jest okazją do rozwoju. Miejmy nadzieję, że możemy wykorzystać ten moment, aby wspólnie podnieść nasze głosy i zaśpiewać najlepszą balladę: taką, w której mamy zgodę na nasze ciała, online.