Artykuły pełne błędów: decyzja portalu informacyjnego o pisaniu tekstów przy użyciu sztucznej inteligencji obraca się przeciwko niemu

https://www.state.gov/wp-content/uploads/2021/06/AI-Motherboard-scaled.jpg

Zostało to ujawnione po tym, jak wcześniej w tym miesiącu portal Futurism doniósł, że CNET w sekrecie używa sztucznej inteligencji do pisania artykułów, po czym później znaleziono błędy w jednym z nich. Podczas, gdy używanie sztucznej inteligencji do zautomatyzowania podawania wiadomości nie jest nową czynnością – sieć radiowa Associated Press zaczęła to robić ponad dekadę wcześniej – sprawa ta znów przyciągnęła uwagę w czasie powstania ChatGPT, nowego wirtualnego asystenta, który może szybko wygenerować eseje, artykuły i teksty piosenek w odpowiedzi na komunikaty użytkowników. Guglielmo powiedziała, że od listopada, do pomocy w napisaniu 77 opublikowanych tekstów CNET użyło „wewnętrznie zaprojektowanego programu sztucznej inteligencji”, a nie ChatGPT. Powiedziała również, że te teksty stanowią około 1% całkowitej treści opublikowanej przez CNET podczas tego okresu, i że zostało to zrobione jako swojego rodzaju „test” dla grupy CNET Money „aby pomóc edytorom stworzyć zbiór podstawowych artykułów wyjaśniających z zakresu usług finansowych”.

Niektóre z artykułów napisanych przy pomocy narzędzia sztucznej inteligencji to „Czy kredyt hipoteczny wpływa na prywatne ubezpieczenie hipoteczne?” i „Jak zamknąć konto bankowe”.

„Redaktorzy najpierw generowali zarysy tekstów, a później rozbudowywali i redagowali stworzoną przez sztuczną inteligencję wersję roboczą przed publikacją” – napisała Guglielmo. „Po tym, jak uwaga została należycie zwrócona na błędy faktyczne w jednym z artykułów napisanych przy pomocy sztucznej inteligencji, redakcja CNET Money przeprowadziła pełny audyt.” Guglielmo stwierdziła, że rezultatem audytu była identyfikacja dodatkowych artykułów wymagających korekty, „w tym małej ilości wymagającej znacznej poprawy”. CNET zidentyfikowało również wiele innych tekstów z „drobnymi błędami, takimi jak niekompletne nazwy firm, przestawione liczby i język, który nasi starsi redaktorzy uznali jako mało precyzyjny” - jak podaje Guglielmo.

Jedna korekta, która została dodana na koniec artykułu „Czym jest procent składany?”- podaje, że początkowo artykuł podawał bardzo niepoprawną radę dotyczącą finansów osobistych. W korekcie figuruje, że „wcześniejsza wersja tego artykułu sugerowała, że osoba oszczędzająca po roku zarobiłaby 10 300 $ poprzez wpłacenie 10 000 $ na konto oszczędnościowe, co przynosi 3-procentowe odsetki zwiększające się corocznie. Tekst został poprawiony, aby wyjaśnić, że osoba oszczędzająca zarobiłaby 300 $ oprócz już wpłaconej kwoty głównej”. Kolejna korekta sugeruje, że narzędzie sztucznej inteligencji dopuściło się plagiatu. Poprawka dodana do artykułu o zamykaniu konta bankowego podaje, że „zamienione zostały frazy, które nie były do końca oryginalne”. Guglielmo nie określiła ile z 77 opublikowanych tekstów wymagało korekty, ani ile potrzebowało „znacznych” lub mniejszych poprawek. Powiedziała ona, że artykuły, które zostały poprawione zawierają dopiski redaktorów wyjaśniające co zostało zmienione.

CNET nie odpowiedziało na prośbę CNN o komentarz.

Pomimo problemów, Guglielmo zostawiła otwartą furtkę dla wznowienia współpracy z narzędziem sztucznej inteligencji. „Wstrzymaliśmy korzystanie ze sztucznej inteligencji, ale wznowimy je, gdy będziemy pewni, że narzędzie i nasze procesy wydawnicze zapobiegną błędom popełnionym zarówno przez człowieka, jak i komputer” – powiedziała. Guglielmo stwierdziła również, że CNET wyraźniej zaznaczyło czytelnikom które z artykułów zostały stworzone z pomocą programu sztucznej inteligencji. Portal został skrytykowany na mediach społecznościowych za brak wyjaśnienia czytelnikom, że „napisane przez pracowników CNET Money” oznaczało, że było to napisane za pomocą narzędzi sztucznej inteligencji. Nowy nagłówek brzmi: „napisane przez CNET Money”.