Oszuści wykorzystali sztuczną inteligencję do sfałszowania porwania mojej córki

Jennifer DeStefano: "Przez telefon usłyszałam, jak moja córka krzyczy: "Pomóż mi, pomóż mi". Zdjęcie: Steve Craft / The Guardian

„Mamo?” powtórzył głos mojej córki w telefonie. „Nawaliłam.” Serce mi zamarło, zaczęłam cała drżeć. Usłyszałam, jak jakiś mężczyzna instruuje ją, by się położyła i odchyliła głowę do tyłu. Moja 15-letnia córka, Briana, była na zawodach narciarskich z moim mężem dwie godziny drogi od domu i od razu pomyślałam, że musiała zostać ciężko ranna. Byłam w samochodzie, odbierając jej 13-letnią siostrę Aubrey, z zajęć tanecznych w Arizonie. Przez telefon słyszałam, jak Briana płacze i krzyczy: „Pomóż mi, pomóż mi.” Zmroziło mi krew, a nogi zamieniły się w galaretkę, gdy mężczyzna przez telefon zaczął wyjaśniać, że ma moją córkę i jeśli komukolwiek o tym powiem, nafaszeruje jej żołądek narkotykami, porzuci ją w Meksyku i nigdy więcej jej nie zobaczę.

Pobiegłam sprintem do holu budynku, w którym Aubrey miała zajęcia taneczne. Wyciszyłam telefon i zaczęłam wołać o pomoc innych rodziców. W tym momencie mężczyzna wykrzykiwał groźby przez telefon. Kilka matek zaczęło dzwonić pod 911. Wychodząc z klasy, aby usłyszeć, o co chodzi, Aubrey również wpadła w panikę. Błagałam ją, by spróbowała skontaktować się z resztą rodziny, ale była przerażona. Nigdy nie zapomnę jej miny, gdy zrozumiała, że ktoś porwał jej siostrę.

„Musisz zapłacić 1 milion dolarów, jeśli chcesz ją znowu zobaczyć”, zagroził mężczyzna. Nie miałam takich pieniędzy, więc uzgodniliśmy, że przekażę mu 50 000 dolarów. Powiedział mi, że przyjedzie po mnie białą furgonetką i założy mi torbę na głowę, żebym nie widział, dokąd jedziemy. Powiedziano mi, że jeśli nie przywiozę pieniędzy w gotówce, zostanę wywieziona do Meksyku i pozostawiona tam martwa, wraz z moją córką. Nawet nie przeszło mi przez myśl, że to wszystko może być kłamstwem. Przemawiały przeze mnie wszystkie instynkty, musiałam ratować moją dziewczynkę.

Jedna z matek, które dzwoniły pod 911, podeszła do mnie, a jej głos wydawał się powolny i zniekształcony, gdy usłyszałam słowa: „To sztuczna inteligencja, to oszustwo wykorzystujące AI.” Policja odnotowała ostatnio wzrost liczby przypadków z podobnymi opisami. Ale ja po prostu nie mogłam tego zaakceptować. Ciągle myślałam, że moje dziecko tam jest i ktoś musi je teraz uratować. To był głos mojej córki, nigdy bym się nie pomyliła. Inna matka powiedziała, że udało jej się skontaktować z moim mężem, który znalazł Brianę. Była bezpieczna na nartach i nie miała pojęcia, o czym mówi ten ktoś.

Mężczyzna przy telefonie wciąż się kłócił. Wyciszając jego połączenie, zadzwoniłam do mojego męża i córki na drugiej linii. Chciałam usłyszeć ich głosy. Briana powiedziała mi, że nie ma pojęcia, o czym mówię i jest bezpieczna z tatą w ośrodku narciarskim. Mój mózg był zamglony. Ulżyło mi, gdy usłyszałam jej głos, ale wciąż byłam w szoku.

Anulowałam wyciszenie na pierwszej linii, gdzie mężczyzna wciąż mówił mi o wszystkim co nam zrobi, jeśli się nie podporządkujemy. Zaczęłam go wyzywać, nazywając oszustem, ale on kontynuował, mówiąc, że ją ma. Po prostu się rozłączyłam.

Byłam zdruzgotana, gdy policja uznała to tylko za żart i powiedziała, że nie będzie tego badać, ponieważ nikt nie został ranny ani nie zabrano żadnych pieniędzy. Powiedzieli, że prawdopodobnie było to oszustwo z użyciem sztucznej inteligencji, ponieważ ostatnio pojawiło się wiele doniesień na ten temat. Założyli, że głos Briany został wygenerowany przez sztuczną inteligencję, a głos mężczyzny był prawdziwy. Kiedy to usłyszałam, załamałam się, przeżyłam prawdziwą traumę, nie mogłam przeboleć, jak prawdziwie brzmiał jej głos. Byłam pewna, że słyszałam wtedy jej krzyk.

Aubrey i ja spotkałyśmy się z resztą rodziny następnego dnia. Ściskałam mocno Brianę, wdzięczna, że wszyscy jesteśmy cali i zdrowi. To naprawdę wpłynęło na Aubrey. Chłopiec w jej wieku próbował dać jej swój numer, a ona podbiegła do mnie, martwiąc się, że próbuje ją porwać. To okropnie łamie mi serce.

Mówi się, że do odtworzenia głosu danej osoby wystarczą trzy sekundy nagrania. Chociaż wszystkie konta Briany w mediach społecznościowych są prywatne, jest kilka filmów z jej wywiadami sportowymi i szkolnymi, nic jednak nie zawiera jej płaczu. Jestem zdenerwowana tym, jak nowe technologie, takie jak sztuczna inteligencja, mogą być wykorzystywane do krzywdzenia dzieci. Widząc na własne oczy, jak przerażające mogą być takie działania, chcę zrobić wszystko, co w mojej mocy, aby chronić moją rodzinę i wszystkie inne przed powtórzeniem się czegoś takiego.

Pisała Jennifer DeStefano.