Fałszywe, jednoznacznie seksualne zdjęcia Taylor Swift prawdopodobnie wygenerowane przez sztuczną inteligencję szybko rozprzestrzeniły się w tym tygodniu na platformy mediów społecznościowych, niepokojąc fanów, którzy je widzieli i ponownie rozpalając telefony od ustawodawców, aby chronić kobiety i rozprawiać się z platformami i technologiami, które rozpowszechniają takie treści.
Jedno zdjęcie udostępnione przez użytkownika na platformie X, dawniej Twitterze, został wyświetlony 47 milionów razy, zanim konto zostało zawieszone w czwartek. X zawiesił kilka kont, na których umieszczono sfałszowane zdjęcia Taylor Swift, ale zdjęcia te były udostępniane również na innych platformach mediów społecznościowych i nadal się rozprzestrzeniały, pomimo wysiłków tych firm, aby je usunąć.
Podczas gdy X powiadomiło, że pracuje nad usunięciem zdjęć, fani gwiazdy popu zalali platformę w proteście. Zamieszczali powiązane słowa kluczowe wraz ze zdaniem „Chroń Taylor Swift”, aby zagłuszyć obsceniczne zdjęcia i utrudnić ich znalezienie.
Reality Defender, firma zajmująca się cyberbezpieczeństwem, koncentrująca się na wykrywaniu sztucznej inteligencji, z 90% pewnością stwierdziła, że zdjęcia zostały stworzone przy użyciu modelu dyfuzji, technologii opartej na sztucznej inteligencji dostępnej za pośrednictwem ponad 100 tysięcy aplikacji i publicznie dostępnych modeli, powiedział Ben Colman, współzałożyciel i dyrektor generalny firmy.
Wraz z rozwojem branży sztucznej inteligencji firmy ścigają się, aby udostępnić narzędzia, które umożliwią użytkownikom tworzenie obrazów, filmów, tekstów i audio za pomocą prostych podpowiedzi. Narzędzia sztucznej inteligencji są niezwykle popularne, ale sprawiły, że tworzenie fałszywych treści multimedialnych, które przedstawiają ludzi robiących lub mówiących rzeczy, których nigdy nie robili, jest łatwiejsze i tańsze niż kiedykolwiek.
Badacze obawiają się teraz, że fałszywe treści stają się potężną siłą dezinformacyjną, umożliwiającą codziennym internautom bez pozwolenia drugiej strony na tworzenie nagich zdjęć lub ukazanie w upokarzający sposób kandydatów politycznych. Sztuczna inteligencja została wykorzystana do stworzenia fałszywych telefonów od prezydenta Bidena podczas prawyborów w New Hampshire, a Taylor Swift została w tym miesiącu przedstawiona w fałszywych reklamach naczyń kuchennych.
„To zawsze była ciemna strona Internetu, różnego rodzaju pornografia bez zgody” - powiedział Oren Etzjoni, profesor informatyki na Uniwersytecie Waszyngtońskim, który pracuje nad wykrywaniem fałszerstw. „Teraz to nowy szczep, który jest szczególnie szkodliwy”.
„Zobaczymy tsunami tego rodzaju wulgarnych zdjęć wygenerowanych przez sztuczną inteligencję. Ludzie, którzy to wygenerowali, postrzegają to jako sukces” powiedział Etzioni.
X oznajmił, że prowadzi politykę zerowej tolerancji dla tych treści. „Nasze zespoły aktywnie usuwają wszystkie zidentyfikowane obrazy i podejmują odpowiednie działania wobec kont odpowiedzialnych za ich publikację” powiedział przedstawiciel w oświadczeniu. „Ściśle monitorujemy sytuację, aby mieć pewność, że wszelkie dalsze naruszenia zostaną natychmiast zaadresowane, a treść usunięta”.
Od czasu zakupu serwisu przez Elona Muska w 2022 roku, X odnotował wzrost problematycznych treści, w tym nękania, dezinformacji i mowy nienawiści. Rozluźnił on zasady dotyczące treści na stronie internetowej i zwolnił oraz przyjął rezygnację pracowników, którzy pracowali nad usuwaniem takich treści. Platforma przywróciła również konta, które zostały wcześniej zablokowane za naruszenie zasad.
Chociaż wiele firm produkujących generatywne narzędzia inteligencji zakazuje swoim użytkownikom tworzenia wulgarnych treści, ludzie znajdują sposoby na złamanie zasad. „To wyścig zbrojeń i wygląda na to, że za każdym razem, gdy ktoś wymyśli barierkę, ktoś inny wymyśli, jak ją obejść” - powiedział Etzioni.
Według 404 Media, technologicznego serwisu informacyjnego, obrazy te pochodzą z kanału w aplikacji do przesyłania wiadomości Telegram, który jest dedykowany do tworzenia takich obrazów. Ale przyciągnęły szeroką uwagę po tym, jak zostały opublikowane w X i innych serwisach społecznościowych, gdzie szybko się rozprzestrzeniły.
„Niektóre stany ograniczyły fałszerstwa pornograficzne i polityczne. Ale ograniczenia nie miały silnego wpływu i nie ma federalnych przepisów dotyczących tego typu fałszerstw”- powiedział Colman. Dodał, że platformy próbowały rozwiązać ten problem, prosząc użytkowników o zgłaszanie fałszerstw, ale ta metoda nie zadziałała. Do czasu ich zgłoszenia miliony użytkowników już je widziały.
„Pasta do zębów została już wyciśnięta z tubki” - powiedział.
Publicysta Pani Swift, Tree Paine, nie odpowiedział natychmiast na prośby o komentarz w czwartek wieczorem.
Sfałszowane zdjęcia Taylor Swift skłoniły prawodawców do ponownego działania. Przedstawiciel Joe Morelle - demokrata z Nowego Jorku, który w zeszłym roku wprowadził ustawę, która uczyniłaby udostępnianie takich obrazów przestępstwem federalnym, oznajmił na X, że rozprzestrzenianie tych obrazów było „przerażające”, dodając: „To przydarza się kobietom wszędzie, każdego dnia.”
„Wielokrotnie ostrzegałem, że sztuczna inteligencja może być wykorzystywana do generowania niekomfortowych, intymnych obrazów” - powiedział o zdjęciach na X senator Mark Warner, demokrata z Wirginii i przewodniczący senackiej komisji wywiadowczej. - „To godna ubolewania sytuacja”
Reprezentantka Yvette D. Clarke, demokratka z Nowego Jorku, powiedziała, że postępy w sztucznej inteligencji sprawiły, że tworzenie fałszywych treści stało się łatwiejsze i tańsze.
„To, co stało się Taylor Swift, nie jest niczym nowym” powiedziała.