Co się stało, gdy gazeta pozwoliła przejąć kontrolę AI?

Zdjęcie: Istock

Każdego dnia przez ostatni tydzień redaktor „Il Foglio”, Claudio Cerasa, prosił ChatGPT o tworzenie artykułów na potrzeby eksperymentu o nazwie „Foglio AI”. Niewielka włoska gazeta wykorzystuje sztuczną inteligencję do produkcji swojego najnowszego wydania w ramach eksperymentu, który, jak twierdzi, ma na celu zaalarmowanie przyszłości dziennikarstwa.

„Foglio AI” jest pomysłem Claudio Cerasy, redaktora włoskiego centroprawicowego dziennika „Il Foglio”, który powiedział, że stworzył go, aby zbadać możliwości i ograniczenia sztucznej inteligencji – i jako rodzaj wezwania do broni dla dziennikarzy. Jego przekaz? Dziennikarze powinni tworzyć bardziej oryginalne raporty i teksty, aby odróżnić swoją pracę od pracy dużych modeli językowych, takich jak ChatGPT, które według niektórych mogą ich ostatecznie zastąpić. „To jak wielki, fantastyczny test warunków skrajnych, aby zrozumieć nie tylko to, co potrafi sztuczna inteligencja, ale także to, co dziennikarze muszą zrobić w przyszłości, aby być lepszymi od maszyn” –  objasnił Cerasa.

Niektórzy krytycy wyrazili obawy i zakwestionowali fakt, że jest to tylko chwyt reklamowy. Twierdzą oni, że eksperyment, który pojawia się w momencie, gdy organizacje medialne na całym świecie zmagają się z pytaniami o to, jak odpowiedzialnie i przejrzyście korzystać z narzędzi AI, stwarza ryzyko dezorientacji czytelników i narażenia ich na niską jakość pisania i raportowania, przyczyniając się do rosnącej nieufności do dziennikarstwa.

W humorystycznym felietonie opublikowanym w „Politico Europe”, Giulia Poloni napisała, że „Il Foglio” „igra z moralnym ogniem w najgorszym możliwym momencie w historii”.

Cerasa wyjaśnił, że pomysł integracji sztucznej inteligencji z „Il Foglio” pojawił się około rok temu. Gazeta zaczęła publikować jeden artykuł tygodniowo napisany przez sztuczną inteligencję, nie ujawniając tego, i poprosiła czytelników o odgadnięcie, który artykuł został napisany przez sztuczną inteligencję. Ci, którzy poprawnie odgadli, zostali poproszeni o zasubskrybowanie do „Il Foglio”, otrzymując darmową butelkę szampana. Cerasa powiedział, że większość czytelników odgadła poprawnie i była „entuzjastycznie nastawiona” do eksperymentu. Przypadki, w których czytelnicy błędnie zgadywali, przekonały go, że praca jego autorów była zbyt pospolita, niewystarczająco kreatywna i że „Il Foglio” musi „ulepszyć nasze dziennikarstwo”.

Około dwa miesiące temu Cerasa wpadł na pomysł uruchomienia limitowanej edycji napisanej w całości przez AI i przeprowadził testy, wprowadzając prompty do ChatGPT Pro. Każdego dnia, przez ostatni tydzień, Cerasa prosił ChatGPT o tworzenie artykułów na określony temat i kazał mu pozostać wiernym linii redakcyjnej „Il Foglio” – którą Cerasa opisuje jako proeuropejską, proglobalizacyjną i antypopulistyczną. Cerasa twierdzi, że ChatGPT nie tworzył treści równych ludzkim, ale artykuły z błędami rzeczowymi lub literówkami; wymyślonymi wydarzeniami, które nigdy nie miały miejsca; oraz monotonnymi i nieaktualnymi tekstami. Jego rozwiązanie: przydziel dwóch (ludzkich) dziennikarzy do sprawdzania artykułów przed ich opublikowaniem w „Foglio AI”. Fałszywe wiadomości są usuwane, ale drobne błędy i złe pisanie pozostają, rzekł, ponieważ wierzy, że pokazują ograniczenia sztucznej inteligencji.

Oprócz nazwy publikacji, istnieje kilka zastrzeżeń dla czytelników, że treści w „Foglio AI” nie są pisane przez ludzi, w tym wiersz „tekst wykonany przy użyciu sztucznej inteligencji”, w którym normalnie znajdowałby się podpis autora. Cerasa publicznie śledzi postępy eksperymentu. Wydanie nie ostrzega jednak czytelników, że treści generowane przez sztuczną inteligencję mogą być niedokładne lub nieoryginalne.
Na przykład artykuł o „situationships” opublikowany w wydaniu „Foglio AI” z 17 marca zawierał fragmenty tekstu z artykułu, który ukazał się w miesięczniku „The Atlantic” 10 marca. Cerasa wyjaśnił, że poprosił ChatGPT, aby oparł swój artykuł na artykule „Atlantic”, ale spróbował „dodać coś więcej” na temat młodych ludzi i romansów. „Jednak AI nie była w stanie tego zrobić i zasadniczo skopiowała i wkleiła. To jeden z przypadków, w których sztuczna inteligencja działa źle” – dodał.

Cesara powiedział, że planuje ujawnić czytelnikom ten przykład i inne przypadki, w których eksperyment się nie powiódł, gdy zakończy się 11 kwietnia, i zaprosić czytelników do przeanalizowania błędów AI.

Włoski dziennikarz Gianni Riotta pochwalił eksperyment „Il Foglio” jako odważny w kraju, który nie zawsze był otwarty na innowacje technologiczne. Włoski organ ochrony danych stał się pierwszym wśród krajów zachodnich, który zakazał ChatGPT po jego wydaniu, powołując się na obawy dotyczące prywatności. (Ostatecznie decyzja ta została cofnięta). Powiedział, że niektóre artykuły w Foglio AI były niezgrabne, ale prawdopodobnie dlatego, że prompty wymagały „dopracowania”. „Jeśli lepiej naprowadzisz maszynę, będzie ona pisać równie dobrze jak ludzie, a nawet lepiej” – zapewnił.

Charlie Beckett, ekspert ds. AI w dziennikarstwie w London School of Economics and Political Science (LSE), podkreślił, że wykorzystanie sztucznej inteligencji do tworzenia treści redakcyjnych bez zabezpieczeń niesie ze sobą wiele zagrożeń, w tym publikowanie niedokładnych lub sensacyjnych informacji. Powiedział, że redakcje na całym świecie zaczęły już eksperymentować z AI, w tym w celu zautomatyzowania monotonnych zadań, takich jak transkrypcja wywiadów lub przeszukiwanie stosów komunikatów prasowych. Ale pomysł „tworzenia oryginalnych treści, zwłaszcza z dzikiej przyrody... jest naprawdę niebezpieczny” – określił. Dlatego też Beckett nie wierzy, że „Foglio AI” reprezentuje „przyszłość”. Uważa on, że przyszłość redakcji prasowych to taka, w której więcej pracy będzie „wspomagane przez sztuczną inteligencję”, a niektóre usługi, takie jak czatboty informacyjne, będą w całości dostarczane przez tę technologię, ale inicjatywy te będą „oparte na ludzkiej ocenie redakcyjnej”, a dziennikarze teoretycznie będą mogli wykonywać więcej oryginalnych reportaży.

Do podobnego wniosku doszło samo „Foglio AI”. Pod koniec pierwszego tygodnia publikacji Cerasa poprosił ChatGPT o ocenę własnej pracy. W powstałym artykule stwierdzono, że „sztuczna inteligencja potrafi dobrze pisać”, ale „dobre pisanie to jeszcze nie dziennikarstwo”.

„Jednak eksperyment powiódł się właśnie dlatego, że jest eksperymentem”, kontynuowano. „To nie gra, ani marketing (lub nie tylko), ale pytanie zadane czytelnikom, dziennikarzom, wydawcom i włoskiej polityce kulturalnej: co pozostanie z dziennikarstwa, jeśli usuniemy nazwisko autora danego artykułu? Czym staje się gazeta, jeśli jest całkowicie produktem wyszkolonej maszyny językowej oraz ludzkiego nadzoru?”

Beckett powiedział, że eksperyment Il Foglio podkreśla fakt, że dziennikarze muszą przestrzegać wysokich standardów dokładności i oryginalności. „Łatwo jest wyśmiewać [AI] za kilka nieścisłości, ale wiesz, każdego dnia mogę znaleźć zniekształcenia i nieścisłości w mediach głównego nurtu” – skomentował Beckett. „Mam nadzieję, że AI Foglio w pewnym sensie jest sygnałem ostrzegawczym, by działać lepiej” – dodał.