Instagram ma testować nowe narzędzia do walki z tak zwaną sekstorcją

Ilustracja funkcji „ochrona przed nagością” na telefonie. Fot. Instagram

Jedno z narzędzi to „ochrona przed nagością”, która rozmywa nagie obrazy w bezpośrednich wiadomościach. Będzie ona domyślnie włączona dla osób poniżej 18 roku życia. Wypróbowane zostaną również wyskakujące okna kierujące potencjalne ofiary do wsparcia. Rządy na całym świecie ostrzegają przed rosnącym zagrożeniem dla młodych ludzi ze strony sekstorcji. Ofiary często otrzymują nagie zdjęcie i są zachęcane do wysłania własnego w zamian, aby następnie szantażysta mógł grozić im upublicznieniem zdjęcia, chyba że zastosują się do jego żądań. 
W środę dwóch mężczyzn z Nigerii przyznało się do wymuszeń seksualnych na nastoletnich chłopcach i młodych mężczyznach w USA. Jedna z ofiar odebrała sobie życie. Niedawno przestępstwo to zostało powiązane również z samobójstwem nastolatka w Australii. Coraz więcej zdarza się też przypadków pedofilów stosujących sekstorcję do wymuszeń i wykorzystywania dzieci.

„Okropna zbrodnia”

Wiele przypadków sekstorcji na Instagramie jest dziełem zorganizowanych grup przestępczych chcących pieniędzy. Platforma oznajmia, że jest to „okropna” zbrodnia. System ochrony przed nagością, po raz pierwszy ujawniony w styczniu, wykorzystuje sztuczną inteligencję (AI) działającą na urządzeniu użytkownika w celu wykrycia nagich zdjęć w bezpośrednich wiadomościach i umożliwienia użytkownikowi wyboru, czy chce je wyświetlić. System został zaprojektowany „nie tylko po to, aby chronić przed niechcianą nagością w bezpośrednich wiadomościach, ale także aby chronić przed oszustami, którzy mogą wysyłać nagie zdjęcia, żeby nakłonić odbiorcę do wysłania własnych zdjęć w zamian”, poinformował Instagram.
Platforma podkreśla, że system, który dla dorosłych jest opcjonalny, nie zgłasza automatycznie nagich zdjęć do firmy, jednak użytkownicy otrzymają przypomnienie, że mogą blokować i zgłaszać konta, jeśli chcą. Gdy system wykryje wysyłanie nagich zdjęć, użytkownik zostanie przekierowany do wskazówek dotyczących bezpieczeństwa, w tym przypomnień, że odbiorcy mogą wykonywać zrzuty ekranu lub przesyłać obrazy bez wiedzy nadawcy. Platforma oznajmia również, że wdroży środki, które wykryją oznaki, że konto może potencjalnie należeć do sekstorcjonisty i utrudnią mu interakcję z innymi, w tym:

Umieszczanie próśb o kontakt od potencjalnych sekstorcjonistów w folderze „Ukryte prośby”

Wyświetlanie powiadomień zachęcających osoby konwersujące z potencjalnym sekstorcjonistą do zgłaszania wszelkich gróźb upublicznienia ich prywatnych zdjęć

Ukrywanie przycisku „Wyślij wiadomość”, gdy nastolatek przegląda konto potencjalnego sekstorcjonisty, nawet jeśli wzajemnie się obserwują

W przypadku osób, które mogły wejść w interakcję z kontem usuniętym z powodu sekstorcji, Instagram testuje wyskakujące okna, które skierują je do porady i wsparcia ekspertów. Instagram poinformował również, że w celu zwalczania sekstorcji i wykorzystywania dzieci udostępni więcej danych innym firmom technologicznym za pośrednictwem inicjatywy nazwanej Lantern.
Tego samego dnia WhatsApp, inna platforma Meta, obniżyła minimalny wiek użytkowników w Wielkiej Brytanii i Europie z 16 do 13 lat. Według platformy minimalny wiek wynosi 13 lat już w większaści państw na całym świecie, jednak grupa Smartphone Free Childhood, która uważa, że smartfony narażają dzieci na szkodliwe treści, stwierdziła, że platforma jest „głucha”. WhatsApp argumentuje decyzję tym, że użytkownicy, włącznie z nastolatkami, mają szeroką kontrolę nad tym, z kim wchodzą w interakcję.