Prawdziwi przestępcy, fałszywe ofiary: w jaki sposób chatboty są wykorzystywane w globalnej walce z oszustami telefonicznymi

Mike Bowers/The Guardian

Oszust dzwoni i prosi o hasło. Malcolm, starszy mężczyzna z angielskim akcentem, jest zdezorientowany. 

„O czym mówisz?” – pyta Malcolm. 

Kolejny dzień, kolejny oszust telefoniczny.

Tym razem odbiera Ibrahim, współpracujący i uprzejmy mężczyzna z egipskim akcentem. „Szczerze mówiąc, nie jestem pewien, 
czy mogę sobie przypomnieć, żebym ostatnio coś kupował” – mówi pełnemu nadziei oszustowi. „Może zrobił to któryś z dzieciaków” – kontynuuje Ibrahim – „ale to nie twoja wina, prawda?”. 

Oszuści są prawdziwi, ale Malcolm i Ibrahim nie. To tylko dwa konwersacyjne boty sztucznej inteligencji stworzone przez prof. Dali Kaafar i jego zespół. Dzięki swoim badaniom na Macquarie University Kaafar założył Apate – nazwane na cześć greckiej bogini oszustwa. 

Celem Apate jest zwalczanie globalnych oszustw telefonicznych za pomocą sztucznej inteligencji konwersacyjnej, wykorzystującej 
już istniejące systemy, w których firmy telekomunikacyjne przekierowują połączenia, które można zidentyfikować jako pochodzące od oszustów. 

Kafaar zainspirował się do odwrócenia sytuacji oszustów telefonicznych, gdy opowiedział „żart taty” oszustowi na oczach dwójki swoich dzieci, gdy te cieszyły się piknikiem na słońcu. Głupimi pogawędkami utrzymywał oszusta na linii. „Dzieci świetnie się bawiły” — mówi. „A ja myślałem, że celem było oszukanie oszusta, zmarnowanie jego czasu, żeby nie rozmawiał z innymi”. 

„Po prostu oszukujesz oszustów”. 

Następnego dnia wezwał swój zespół z Cyber Security Hub uniwersytetu. Musi być lepszy sposób niż jego metoda „żartu taty”, pomyślał. I musi być coś mądrzejszego niż popularny istniejący element technologii – Lennybot. 

Przed Malcolmem i Ibrahimem był Lenny. 

Lenny to stary, trzęsący się Australijczyk, chętny na pogawędkę. Jest chatbotem, stworzonym do trollowania telemarketerów. 

Z cienkim głosem, zabarwionym lekkim gwizdem, Lenny powtarza różne frazy w pętli. Każda fraza włącza się po 1,5 sekundzie ciszy, 
aby naśladować rytm rozmowy. 

Anonimowy twórca Lenny'ego napisał na Reddicie, że stworzyli chatbota, który jest „najgorszym koszmarem telemarketera…samotnym staruszkiem, który jest gotowy na pogawędkę, dumnym ze swojej rodziny i nie potrafi skupić się na celu telemarketera”. Akt wiązania oszustów został nazwany scambaitingiem. 

Roboty Apate przychodzą na ratunek 

Od grudnia 2020 r. australijskie firmy telekomunikacyjne zablokowały prawie 2 mld oszukańczych połączeń telefonicznych. 

Częściowo dzięki 720 000 dolarom dofinansowania z Biura Wywiadu Narodowego istnieją obecnie potencjalnie setki tysięcy „ofiar chatbotów”, zbyt wielu, aby wymienić ich wszystkich z osobna. Boty w różnym „wieku” mówią po angielsku z różnymi akcentami. 
Mają różne emocje, osobowości, reakcje. Czasami są naiwne, czasami sceptyczne, czasami niegrzeczne. 

Jeśli firma telekomunikacyjna wykryje oszusta i przekieruje go do systemu takiego jak Apate, boty będą pracować, aby oszuści byli zajęci. Testują różne strategie, ucząc się, co działa, aby upewnić się, że oszuści pozostaną na linii dłużej. Poprzez sukcesy i porażki maszyny dopracowują swój sposób myślenia. 

Podczas tej czynności gromadzą informacje wywiadowcze i wykrywają nowe oszustwa, zbierając dane na temat tego, jak długo trwa połączenie, kiedy oszuści najczęściej dzwonią, jakich informacji szukają i jakie stosują taktyki. 

Kafaar ma nadzieję, że Apate zakłóci model biznesowy scam-calling – który jest często prowadzony przez duże, wielomiliardowe organizacje przestępcze. Następnym krokiem jest wykorzystanie zebranych informacji wywiadowczych do ostrzegania i radzenia sobie 
z oszustwami w czasie rzeczywistym. 

„Mówimy o prawdziwych przestępcach, którzy czynią nasze życie nieszczęśliwym” – mówi Kafaar. „Mówimy o ryzyku dla prawdziwych ludzi”. 

„Ludzie, którzy czasami tracą oszczędności całego życia, których może sparaliżować dług, a czasami cierpiących psychicznie z powodu wstydu”. 

Richard Buckland, profesor cyberprzestępczości na Uniwersytecie Nowej Południowej Walii, uważa, że technologia taka jak Apate różni się od innych rodzajów scambaitingu, które mogą być amatorskie lub stanowić samosąd. 

„Normalnie scambaiting jest problematyczny” – mówi. „Ale to jest sprytne”. Błędy mogą się zdarzyć, gdy ludzie biorą sprawy w swoje ręce – dodaje. 

„Możesz zaatakować niewłaściwą osobę”. Powiedział, że wiele oszustw jest dokonywanych przez ludzi w warunkach niewoli, niemal niewolnictwa „i nie są oni tymi złymi osobami”. 

„A niektórzy scambaiterzy są kuszeni, by pójść dalej, wziąć prawo w swoje ręce. By się zemścić lub zaangażować się w nie. To jest problematyczne”. 

Jednak, jak twierdzi, model Apate’a wydaje się wykorzystywać sztuczną inteligencję w dobrym celu – jako swego rodzaju „pułapkę”, która ma zwabić przestępców, a następnie uczyć się od nich. 

Buckland ostrzega, że potrzebny jest wysoki poziom pewności, że tylko oszuści są kierowani przez firmy telekomunikacyjne do botów AI, ponieważ błędna identyfikacja zdarza się wszędzie. Ostrzega również, że organizacje przestępcze mogą wykorzystywać technologię AI anti-scam do trenowania własnych systemów. 

„Ta sama technologia, która została użyta do oszukania oszustów, może być wykorzystana do oszukiwania ludzi” – mówi. 

National Anti-Scam Centre (NASC) prowadzi Scamwatch pod auspicjami Australian Competition and Consumer Commission (ACCC). Rzecznik ACCC mówi, że oszuści zazwyczaj podszywają się pod znane organizacje i często mogą podszywać się pod prawdziwe numery telefonów. 

„Przestępcy tworzą poczucie pilności, próbując skłonić ofiary do szybkiego działania” – mówi rzecznik. „Często próbują przekonać ofiary do udostępnienia danych osobowych lub bankowych lub zapewnienia zdalnego dostępu do ich komputerów”. 

„Przestępcy mogą już posiadać pewne dane dotyczące swoich potencjalnych ofiar, takie jak imię i nazwisko lub adres, które nielegalnie uzyskali lub zakupili w wyniku naruszenia bezpieczeństwa danych, phishingu lub innego oszustwa”. 

W tym tygodniu Scamwatch musiał wydać ostrzeżenie dotyczące pewnego rodzaju meta-oszustwa. 

Oszuści podszywający się pod pracowników NASC dzwonili do niewinnych osób i mówili im, że są ścigani za udział w oszustwie. 

NASC twierdzi, że ludzie powinni od razu rozłączyć się z oszustami i „nie próbować nawiązywać kontaktu z przestępcami”. Rzecznik powiedział, że jest świadomy „inicjatyw technologicznych mających na celu produkcję scambaitingu przy użyciu person głosowych AI”, w tym Apate i byłby zainteresowany przeglądem wszelkich ocen platformy.

Tymczasem w sieci działa świetnie działająca społeczność scambaiterów, a Lenny pozostaje jednym z jej kultowych bohaterów. 

W jednym z pamiętnych nagrań Lenny prosi dzwoniącego, aby zaczekał minutę, podczas gdy w tle zaczynają gęgać kaczki. „Przepraszam za to” – mówi Lenny. „Co mówiłeś jeszcze raz?”. 

„Czy jesteś przy swoim komputerze?” – pyta niecierpliwie rozmówca. „Czy masz komputer? Czy możesz podejść teraz do komputera?”. 

Lenny kontynuuje, aż oszust traci panowanie nad sobą: „Zamknij się. Zamknij się. Zamknij się” – krzyczy. 

„Czy mógłbyś się jeszcze trochę wstrzymać?” – pyta Lenny, a kaczki zaczynają znów kwakać.