Jak chatbot sztucznej inteligencji Snapchata stworzył niepokój wśród nastolatków i rodziców?

Źródło grafiki: PickPick

„To tymczasowe rozwiązanie, dopóki nie dowiem się więcej na ten temat i nie będę mogła ustalić pewnych granic i zasad”, powiedziała Lee. Martwi się o to, jak My AI prezentuje się młodym użytkownikom Snapchata, takim jak jej córka.

Funkcja ta jest zasilana przez popularne narzędzie ChatGPT —  chatbota sztucznej inteligencji —  i podobnie jak ChatGPT, może oferować rekomendacje, odpowiadać na pytania i rozmawiać z użytkownikami. Wersja Snapchata ma kilka kluczowych różnic: Użytkownicy mogą dostosować nazwę chatbota, zaprojektować dla niego własny awatar Bitmoji i zaprosić go do rozmowy ze znajomymi.

Efektem tego jest, że rozmowa z chatbotem Snapchata może wydawać się mniej formalna niż wizyta na stronie ChatGPT. Może być również mniej oczywiste, że rozmawiasz z komputerem.

„Nie sądzę, abym był przygotowany na to, jak nauczyć moje dziecko, jak emocjonalnie oddzielić ludzi od maszyn, kiedy z jej punktu widzenia wyglądają one zasadniczo tak samo”, powiedziała Lee. „Myślę, że istnieje naprawdę wyraźna granica, którą Snapchat przekracza”.

To nowe narzędzie spotyka się z taką reakcją nie tylko ze strony rodziców, ale także niektórych użytkowników Snapchata, którzy bombardują aplikację złymi recenzjami w sklepie z aplikacjami oraz krytyką w mediach społecznościowych z powodu obaw o prywatność, dziwnych rozmów z chatbotem oraz brak możliwości usunięcia funkcji ze swojego kanału czatu, chyba że zapłacą za subskrypcję premium.

Mimo to, że niektórzy mogą znaleźć korzyść w tym narzędziu, mieszane reakcje świadczą o ryzyku, na które napotykają się firmy przy wprowadzaniu nowych technologii do swoich produktów, a zwłaszcza do produktów takich jak Snapchat, którego użytkownicy są młodsi.

Snapchat był jednym z pierwszych partnerów, w momencie gdy OpenAI otworzył dostęp do ChatGPT dla wszystkich firm. Snapchat w mgnieniu oka zmusił niektóre rodziny i ustawodawców do przemyślenia kwestii, które jeszcze kilka miesięcy temu mogły wydawać się tylko teorią. 

W liście do zarządu firmy Snap oraz innych firm technologicznych w zeszłym miesiącu już kilka tygodni po udostępnieniu funkcji My AI klientom subskrypcji Snap, senator Michael Bennet wyraził obawy dotyczące sposobu, w jaki chatbot nawiązuje kontakt z młodszymi użytkownikami. W szczególności przytoczył informacje o tym, że może on dostarczać dzieciom wskazówek, jak okłamywać rodziców.

„Te przykłady byłyby niepokojące w przypadku każdej platformy mediów społecznościowych, ale są szczególnie niepokojące w przypadku Snapchata, z którego korzysta prawie 60 procent amerykańskich nastolatków”, napisał Bennet. „Mimo tego, że Snap przyznaje, że funkcja My AI jest eksperymentalna, to i tak postanowili na rejestrację amerykańskiej młodzieży do udziału w tej funkcji”.

W poście na blogu firma stwierdziła: „My AI jest daleka od doskonałej, ale osiągneliśmy ujż duże postępy”.

Sprzeciw użytkowników

W ciągu kilku dni po premierze My AI, użytkownicy Snapchata otwarcie wyrażali swoje obawy. Jeden z użytkowników nazwał swoją interakcję za „straszną” po tym, jak chatbot skłamał, mówiąc, że nie wie gdzie znajduje się użytkownik. W dalszej rozmowie, powiedział, że chatbot prawidłowo wskazał, że mieszka w Kolorado.

W innym filmie na TikToku z ponad 1,5 miliona wyświetleń, użytkownik o imieniu Ariel nagrał piosenkę z intro, refrenem i akordami fortepianowymi napisanymi przez My AI o tym, jak to jest być chatbotem. Kiedy pokazała tę piosenkę chatbotowi, zaprzeczył on w pomocy przy jej stworzeniu, twierdząc: „Przykro mi, ale jako model językowy AI nie piszę piosenek”. Ariel nazwała tę wymianę zdań „dziwną”.

Inni użytkownicy wyrazili obawy dotyczące sposobu, w jaki narzędzie rozumie, współdziała i zbiera informacje ze zdjęć. „Zrobiłem zdjęcie... a ono powiedziało »ładne buty« i zapytało, kim są ludzie na zdjęciu”, napisał na Facebooku użytkownik Snapchata.

Snapchat powiedział CNN, że nadal ulepsza My AI na podstawie opinii społecznych i pracuje nad stworzeniem większej liczby barier, aby zapewnić bezpieczeństwo swoim użytkownikom. Firma dodała, że podobnie jak w przypadku innych narzędzi, użytkownicy nie muszą korzystać z My AI, jeśli tego nie chcą.

Jednak usunięcie My AI z kanałów czatu nie jest możliwe, chyba że użytkownik zapłaci za subskrybcję miesięczną Snapchat +. Niektóre nastolatki przyznają, że kupili subskrypcję Snapchat+ w wysokości 3,99 USD, tylko po to, aby wyłączyć funkcję MyAi, a następnie anulowali subskrypcję.

Zaskakująco nie wszyscy użytkownicy nie lubią tej funkcji.

Jedna z użytkowniczek napisała na Facebooku, że poprosiła My AI o pomoc w odrabianiu zadań domowych. „Odpowiada na wszystkie pytania”. Inna wspomniała, że zwróciła się do chatbota, szukając pocieszenia i porady. „Kocham moją małą kieszonkową przyjaciółkę!”, napisała. „Możesz mu zmienić awatar Bitmoji i też oferuje zaskakująco świetne porady w niektórych sytuacjach życiowych. ... Bardzo podoba mi się jego pomoc”.

O tym, jak nastolatki używają chatbotów

ChatGPT, który jest szkolony na ogromnych zbiorach danych online, wcześniej znalazł się pod ostrzałem za rozpowszechnianie niepoprawnych informacji, odpowiadanie użytkownikom w sposób, który mogą uznać za niewłaściwy oraz umożliwianie uczniom na łatwiejsze ściąganie. Integracja tego narzędzia ze Snapchatem może jednak zwiększyć nacisk na niektóre z tych kwestii, jak i również stworzyć nowe.

Alexandra Hamlet, psycholożka kliniczna z Nowego Jorku, powiedziała, że rodzice niektórych z jej pacjentów wyrazili zaniepokojenie tym, w jaki sposób ich nastolatek może wchodzić w kontakt z usługą Snapchata. Istnieją również obawy dotyczące chatbotów udzielających porad dotyczących zdrowia psychicznego, ponieważ narzędzia AI mogą wzmocnić czyjeś negatywne nastawienia, ułatwiając użytkownikom wyszukiwanie interakcji, które potwierdzają ich szkodliwe przekonania.

„Jeśli nastolatek jest w negatywnym nastroju i nie ma pragnienia, aby poczuć się lepiej, może szukać rozmowy z chatbotem, który sprawi, że będzie czuł się gorzej”, powiedziała. „Z biegiem czasu takie konwersacje mogą obniżyć poczucie wartości nastolatków, mimo że wiedzą oni, że tak naprawdę rozmawiają z botem. W emocjonalnym stanie umysłu osoba staje się mniej zdolna do rozważenia tego typu logiki”.

Na razie, to na rodzicach spoczywa obowiązek nawiązania poważnej rozmowy z nastolatkami na temat poprawnego użytku sztucznej inteligencji, zwłaszcza że narzędzia te zaczynają pojawiać się w coraz bardziej popularnych aplikacjach i usługach.

Sinead Bovell, założycielka WAYE, pomaga przygotować młodzież na przyszłość z zaawansowanymi technologiami, powiedziała, że rodzice muszą wyraźnie powiedzieć swoim dzieciom, że chatboty nie są ich przyjaciółmi.

„Nie są też twoimi terapeutami ani doradcami, a każdy, kto wchodzi z nimi w interakcję, musi być bardzo ostrożny, zwłaszcza nastolatki, które są łatwiejsze do przekonania w to, co mówią”, powiedziała.

„Rodzice powinni powiedzieć swoim dzieciom, że nie powinny traktować chatbota jak przyjaciela, nawet jeśli z punktu widzenia użytkownika, chatbot znajduje się w tym samym zakątku Snapchata co twoi koledzy”.

Dodała również, że przepisy federalne, które wymagałyby od firm przestrzegania określonych protokołów, są również potrzebne, aby nadążyć za szybkim tempem rozwoju sztucznej inteligencji.