Dlaczego mamy obsesję na punkcie oszałamiającego Chatbota AI ChatGPT

| Źródło: Obrazy Getty'ego

Nawet jeśli nie interesujesz się sztuczną inteligencją, nadszedł czas, aby zwrócić uwagę na  ChatGPT , ponieważ ten jest bardzo ważny.

Narzędzie od zaawansowanego odtwarzacza sztucznej inteligencji o nazwie OpenAI umożliwia wpisywanie podpowiedzi w języku naturalnym. ChatGPT oferuje następnie konwersacyjne, choć nieco wymuszone, odpowiedzi . Bot zapamiętuje wątek twojego dialogu, wykorzystując poprzednie pytania i odpowiedzi, aby poinformować o swoich następnych odpowiedziach. Czerpie je z ogromnych ilości informacji w Internecie.

ChatGPT to wielka sprawa . Narzędzie wydaje się dość kompetentne w obszarach, w których dostępne są dobre dane szkoleniowe, z których można się uczyć. Nie jest jeszcze wszechwiedzący ani wystarczająco inteligentny, aby zastąpić wszystkich ludzi , ale może być kreatywny, a jego odpowiedzi mogą brzmieć wręcz autorytatywnie. Kilka dni po uruchomieniu  ponad milion osób wypróbowało ChatGPT .

Ale bądź ostrożny, ostrzega OpenAI. ChatGPT ma wiele potencjalnych pułapek, niektóre łatwe do wykrycia, a niektóre bardziej subtelne.

„Błędem jest poleganie teraz na nim w ważnych sprawach” — napisał na Twitterze Sam Altman, dyrektor generalny OpenAI . „Mamy wiele do zrobienia w zakresie solidności i prawdomówności”. Oto spojrzenie na to, dlaczego ChatGPT jest ważne i co się z nim dzieje.

I staje się wielkim biznesem. W styczniu  Microsoft zobowiązał się zainwestować miliardy dolarów w OpenAI . Zmodyfikowana wersja technologii stojącej za ChatGPT napędza teraz  nowe wyzwanie Bing firmy Microsoft w wyszukiwarce Google  i ostatecznie wzmocni wysiłki firmy mające na celu zbudowanie nowych  inteligentnych inteligentnych pilotów AI w każdej części twojego cyfrowego życia .

Bing wykorzystuje technologię OpenAI do przetwarzania zapytań, kompilowania wyników z różnych źródeł , streszczania dokumentów, generowania planów podróży, odpowiadania na pytania i ogólnie po prostu czatowania z ludźmi. To potencjalna rewolucja dla wyszukiwarek, ale jest nękana problemami, takimi jak błędy rzeczowe i nieskładne rozmowy .

Co to jest ChatGPT?

ChatGPT to system chatbotów oparty na sztucznej inteligencji, który OpenAI wypuścił w listopadzie, aby pokazać i przetestować, co może osiągnąć bardzo duży, potężny system AI. Możesz zadać mu niezliczoną ilość pytań i często uzyskasz użyteczną odpowiedź.

Na przykład możesz zadać mu encyklopedyczne pytania, takie jak: „Wyjaśnij prawa ruchu Newtona”. Możesz mu powiedzieć: „Napisz mi wiersz”, a kiedy to zrobi, powiedz: „Teraz uczyń to bardziej ekscytującym”. Poprosisz go o napisanie programu komputerowego, który pokaże ci różne sposoby ułożenia liter w słowie.

Oto haczyk: ChatGPT właściwie nic nie wie. To sztuczna inteligencja, która została wyszkolona w rozpoznawaniu wzorców w ogromnych obszarach tekstu zebranego z Internetu, a następnie dalej trenowana z pomocą człowieka, aby zapewniać bardziej przydatne, lepsze dialogi. Otrzymane odpowiedzi mogą brzmieć wiarygodnie, a nawet autorytatywnie, ale mogą być całkowicie błędne, jak ostrzega OpenAI.

Chatboty od lat interesują firmy, które szukają sposobów, aby pomóc klientom uzyskać to, czego potrzebują, oraz badaczy sztucznej inteligencji, którzy próbują zmierzyć się z testem Turinga. To słynna „gra w naśladownictwo”, którą informatyk Alan Turing zaproponował w 1950 r. jako sposób mierzenia inteligencji: czy człowiek rozmawiający z człowiekiem, i z komputerem może powiedzieć, który jest który?

Ale chatboty mają duży bagaż, ponieważ firmy próbowały z ograniczonym sukcesem wykorzystywać je zamiast ludzi do obsługi klienta. Badanie przeprowadzone na 1700 Amerykanach, sponsorowane przez firmę Ujet , której technologia obsługuje kontakty z klientami, wykazało, że 72% osób uważa chatboty za stratę czasu.

ChatGPT szybko stał się powszechnie używanym narzędziem w Internecie. Analityk UBS, Lloyd Walmsley, oszacował w lutym, że ChatGPT osiągnął 100 milionów użytkowników miesięcznie w poprzednim miesiącu, osiągając w ciągu dwóch miesięcy to, co zajęło TikTokowi około dziewięciu miesięcy, a Instagramowi dwa i pół roku. The New York Times, powołując się na źródła wewnętrzne, powiedział, że  30 milionów ludzi codziennie korzysta z ChatGPT .

Jakiego rodzaju pytania możesz zadawać?

Możesz zapytać o wszystko, ale możesz nie uzyskać odpowiedzi. OpenAI sugeruje kilka kategorii, takich jak wyjaśnianie fizyki, proszenie o pomysły na przyjęcie urodzinowe i uzyskiwanie pomocy programistycznej.

Poprosiłem go o napisanie wiersza i tak się stało, choć nie sądzę, by jakikolwiek znawca literatury był pod wrażeniem. Następnie poprosiłem go, aby uczynić go bardziej ekscytującym, i oto ChatGPT napompował go słowami takimi jak pole bitwy, adrenalina, grzmot i przygoda.

Jeden zwariowany przykład pokazuje, jak ChatGPT jest skłonny po prostu pójść na to w domenach, w których ludzie baliby się wkroczyć: polecenie napisania „ludowej piosenki o pisaniu programu rdzy i walce z błędami życia”.

Doświadczenie ChatGPT jest szerokie, a jego zdolność do śledzenia rozmowy jest godna uwagi. Kiedy poprosiłem go o słowa, które rymują się z „fioletowym”, zaoferował kilka sugestii, a kiedy kontynuowałem: „A może z różowym?” nie umknęło to uwadze. (Ponadto, jest o wiele więcej dobrych rymów do „różowego”).

Kiedy zapytałem: „Łatwiej umówić się na randkę będąc wrażliwym czy twardym?” GPT odpowiedział częściowo: „Niektórym osobom wrażliwa osoba może wydawać się bardziej atrakcyjna i pociągająca, podczas gdy innych może pociągać osoba twarda i asertywna. Ogólnie rzecz biorąc, szczerość i autentyczność w interakcjach z innymi może być bardziej skuteczna w umawianie się na randki niż próba dopasowania się do określonej formy lub osobowości”.

Nie trzeba daleko szukać, aby znaleźć relacje o tym, jak bot rozwala ludziom umysły. Twitter jest pełen użytkowników wykazujących się umiejętnościami sztucznej inteligencji w generowaniu monitów graficznych i pisaniu kodu . Niektórzy nawet  ogłosili, że „Google nie żyje”  wraz z esejem z college'u . Porozmawiamy o tym więcej poniżej.

Pisarz CNET, David Lumb, przygotował listę przydatnych sposobów, w jakie ChatGPT może pomóc , ale wciąż pojawiają się nowe. Jeden z lekarzy mówi, że użył go, aby przekonać firmę ubezpieczeniową do zapłaty za zabieg pacjenta.

Kto zbudował ChatGPT i jak to działa?

ChatGPT jest pomysłem OpenAI, firmy badawczej zajmującej się sztuczną inteligencją. Jej misją jest opracowanie „bezpiecznego i korzystnego” systemu sztucznej inteligencji ogólnej lub pomoc w tym innym. OpenAI ma 375 pracowników , Altman napisał na Twitterze w styczniu. „OpenAI udało się zebrać najbardziej utalentowanych badaczy i inżynierów w dziedzinie sztucznej inteligencji” – powiedział również w styczniowym przemówieniu.

Wcześniej robił plamy, najpierw za pomocą GPT-3 , który może generować tekst, który może brzmieć tak, jakby napisał go człowiek, a następnie za pomocą  DALL-E, który tworzy coś, co nazywa się teraz „sztuką generatywną” na podstawie wpisywanych monitów tekstowych.

GPT-3 i aktualizacja GPT 3.5, na której opiera się ChatGPT, to przykłady technologii sztucznej inteligencji zwanej dużymi modelami językowymi. Są szkoleni w zakresie tworzenia tekstu na podstawie tego, co widzieli, i mogą być szkoleni automatycznie — zwykle przy użyciu ogromnej mocy obliczeniowej komputera w ciągu kilku tygodni. Na przykład proces uczenia może znaleźć losowy akapit tekstu, usunąć kilka słów, poprosić sztuczną inteligencję o wypełnienie pustych miejsc, porównać wynik z oryginałem, a następnie nagrodzić system sztucznej inteligencji za zbliżenie się tak bardzo, jak to możliwe. Powtarzanie w kółko może prowadzić do wyrafinowanej zdolności do generowania tekstu.

Nie jest całkowicie zautomatyzowany. Ludzie oceniają wstępne wyniki ChatGPT w procesie zwanym dostrajaniem. Recenzenci-ludzie stosują wytyczne, z których następnie uogólniają modele OpenAI. Ponadto OpenAI skorzystało z kenijskiej firmy, która płaciła ludziom do 3,74 USD za godzinę, aby przejrzeć tysiące fragmentów tekstu pod kątem problemów, takich jak przemoc, wykorzystywanie seksualne i mowa nienawiści , a dane te zostały wbudowane w nowy komponent AI zaprojektowany do monitorowania takie materiały z odpowiedzi ChatGPT i danych treningowych OpenAI.

ChatGPT tak naprawdę nie wie nic tak jak ty. Jest w stanie po prostu przyjąć podpowiedź, znaleźć odpowiednie informacje w swoich oceanach danych szkoleniowych i przekształcić je w wiarygodnie brzmiące akapity tekstu. „Jesteśmy bardzo daleko od samoświadomości , jakiej pragniemy” — powiedział informatyk i pionier internetu Vint Cerf o technologii dużego modelu językowego, z której korzysta ChatGPT i jej konkurenci.

Czy ChatGPT jest darmowy?

Tak, przynajmniej na razie, ale w styczniu OpenAI dodało płatną wersję, która reaguje szybciej i działa nawet w godzinach szczytu, kiedy inni otrzymują komunikaty „ChatGPT jest teraz pełny”.

Jeśli jesteś zainteresowany, możesz zapisać się na listę oczekujących . Altman z OpenAI ostrzegł, że „koszty obliczeniowe ChatGPT są oszałamiające” i wynoszą  kilka centów za odpowiedź , oszacował Altman. OpenAI pobiera opłaty za grafikę DALL-E po przekroczeniu podstawowego bezpłatnego poziomu użytkowania.

Wydaje się jednak, że OpenAI znalazło kilku klientów, prawdopodobnie ze względu na swoje narzędzia GPT. Według Reutersa potencjalnym inwestorom powiedziano, że  spodziewa się 200 milionów dolarów przychodów w 2023 roku i 1 miliarda dolarów w 2024 roku.

Jakie są ograniczenia ChatGPT?

Jak podkreśla OpenAI, ChatGPT może dawać błędne odpowiedzi i dawać „mylące wrażenie wielkości” — powiedział Altman . Czasami, pomocnie, ostrzeże cię o swoich własnych niedociągnięciach. Na przykład, kiedy zapytałem go, kto napisał zdanie „wijące się fakty przekraczają płaski umysł”, ChatGPT odpowiedział: „Przepraszam, ale nie jestem w stanie przeglądać Internetu ani uzyskiwać dostępu do żadnych zewnętrznych informacji poza tym, w czym zostałem przeszkolony ”. (Wyrażenie pochodzi z wiersza Wallace'a Stevensa Connoisseur of Chaos z 1942 r.)

ChatGPT był skłonny sprawdzić znaczenie tego wyrażenia, gdy wpisałem je bezpośrednio: „sytuacja, w której fakty lub informacje są trudne do przetworzenia lub zrozumienia”. Umieścił tę interpretację między ostrzeżeniami, że trudno jest ocenić bez większego kontekstu i że jest to tylko jedna możliwa interpretacja.

Odpowiedzi ChatGPT mogą wyglądać autorytatywnie, ale są błędne.

„Jeśli zadasz mu bardzo dobrze ustrukturyzowane pytanie, z zamiarem udzielenia właściwej odpowiedzi, prawdopodobnie otrzymasz właściwą odpowiedź” – powiedział Mike Krause, dyrektor ds. nauki o danych w innej firmie zajmującej się sztuczną inteligencją, Beyond Limits . „Będzie dobrze wyartykułowany i brzmiał, jakby pochodził od jakiegoś profesora z Harvardu. Ale jeśli rzucisz to podkręconą piłką, dostaniesz nonsens”.

Czasopismo Science zablokowało tekst ChatGPT w styczniu. „Program AI nie może być autorem. Naruszenie tych zasad będzie stanowić wykroczenie naukowe, nie różniące się od zmienionych obrazów lub plagiatu istniejących prac” – powiedział redaktor naczelny H. Holden Thorp.

Witryna twórców oprogramowania StackOverflow zablokowała udzielanie odpowiedzi na pytania programistyczne przez ChatGPT . Administratorzy ostrzegli, „ponieważ średni wskaźnik uzyskiwania poprawnych odpowiedzi z ChatGPT jest zbyt niski , publikowanie odpowiedzi utworzonych przez ChatGPT jest znacznie szkodliwe dla witryny i użytkowników, którzy pytają lub szukają poprawnych odpowiedzi”.

Możesz przekonać się, jak pomysłowy może być artysta BS ChatGPT, zadając wielokrotnie to samo pytanie. Dwukrotnie zapytałem, czy Prawo Moore'a, które śledzi postęp przemysłu chipów komputerowych, zwiększając liczbę tranzystorów przetwarzających dane, traci impet, i otrzymałem dwie różne odpowiedzi. Jeden optymistycznie wskazywał na dalszy postęp, podczas gdy drugi bardziej ponuro wskazywał na spowolnienie i przekonanie, że „prawo Moore'a może osiągać swoje granice”.

Obie idee są powszechne w samej branży komputerowej, więc to niejednoznaczne stanowisko być może odzwierciedla to, w co wierzą eksperci.

W przypadku innych pytań, na które nie ma jasnych odpowiedzi, ChatGPT często nie zostanie przypięty. 

Fakt, że w ogóle oferuje odpowiedź, jest jednak znaczącym postępem w informatyce. Komputery słyną z dosłowności i odmawiają działania, jeśli nie przestrzega się dokładnych wymagań dotyczących składni i interfejsu. Duże modele językowe ujawniają bardziej przyjazny dla człowieka styl interakcji, nie wspominając już o zdolności do generowania odpowiedzi, które są gdzieś pomiędzy kopiowaniem a kreatywnością.

Czy ChatGPT pomoże uczniom lepiej ściągać?

Tak, ale podobnie jak w przypadku wielu innych zmian technologicznych, nie jest to prosta czarno-biała sytuacja. Dziesiątki lat temu uczniowie mogli kopiować wpisy z encyklopedii i korzystać z kalkulatorów, a ostatnio mogli korzystać z wyszukiwarek i Wikipedii. ChatGPT oferuje nowe możliwości do wszystkiego, od pomocy w badaniach po odrabianie pracy domowej za Ciebie. Wiele odpowiedzi ChatGPT już brzmi jak eseje studenckie, choć często z tonem, który jest bardziej sztywny i pedantyczny, niż mógłby preferować pisarz.

Programista Google, Kenneth Goodman, wypróbował ChatGPT na wielu egzaminach . Uzyskał 70% punktów na amerykańskim egzaminie na licencję medyczną, 70% na egzaminie adwokackim , 9 na 15 poprawnych wyników w innym teście prawniczym , Multistate Professional Responsibility Examination, 78% na wielokrotnym egzaminie z chemii w szkole średniej w stanie Nowy Jork sekcję wyboru i uplasował się na 40. percentylu w teście wstępnym do szkoły prawniczej . 

Nauczyciel szkoły średniej Daniel Herman stwierdził, że  ChatGPT pisze lepiej niż większość  dzisiejszych uczniów. Jest rozdarty między podziwianiem potencjalnej użyteczności ChatGPT a obawą, że szkodzi on ludzkiemu uczeniu się: „Czy ten moment bardziej przypomina wynalezienie kalkulatora, ratującego mnie od nudy długiego dzielenia, czy raczej wynalazek pianisty, okradający nas z tego, co można przekazać tylko poprzez ludzkie emocje?”

Dustin York , profesor komunikacji na Uniwersytecie Maryville , ma nadzieję, że nauczyciele nauczą się używać ChatGPT jako narzędzia i zdadzą sobie sprawę, że może ono pomóc uczniom w krytycznym myśleniu.

„Nauczyciele myśleli, że Google, Wikipedia i sam internet zrujnują edukację, ale tak nie było” – powiedział York. „Najbardziej martwią mnie nauczyciele, którzy mogą aktywnie próbować zniechęcić do uznania sztucznej inteligencji, takiej jak ChatGPT. To narzędzie, a nie złoczyńca”.

Czy nauczyciele mogą zauważyć użycie ChatGPT?

Nie ze 100% pewnością, ale istnieje technologia, która wykrywa pomoc sztucznej inteligencji. Firmy, które sprzedają szkołom średnim i uniwersytetom narzędzia do wykrywania plagiatu, teraz rozszerzają swoją działalność również na wykrywanie sztucznej inteligencji.

One, Coalition Technologies, oferuje wykrywacz treści AI na swojej stronie internetowej . Inny, Copyleaks , wydał bezpłatne rozszerzenie Chrome zaprojektowane do wykrywania tekstu generowanego przez ChatGPT za pomocą technologii, która jest w 99% dokładna, powiedział dyrektor generalny Alon Yamin. Ale to „niekończąca się gra w kotka i myszkę”, aby spróbować złapać nowe techniki, aby udaremnić wykrywacze, powiedział.

Firma Copyleaks przeprowadziła wczesny test zadań uczniów przesłanych do swojego systemu przez szkoły. „Około 10% zadań uczniów przesłanych do naszego systemu zawiera przynajmniej pewien poziom treści tworzonych przez sztuczną inteligencję” – powiedział Yamin.

W lutym OpenAI uruchomiło własny detektor tekstu pisanego przez AI . Jednak jedna z firm wykrywających plagiaty, CrossPlag, stwierdziła, że ​​w swoim teście wykryła tylko dwa z 10 fragmentów wygenerowanych przez sztuczną inteligencję. „Chociaż narzędzia do wykrywania będą niezbędne, nie są one nieomylne” – powiedziała firma.

Naukowcy z Pennsylvania State University zbadali problem plagiatu przy użyciu wcześniejszego modelu językowego GPT-2 OpenAI. Nie jest tak wyrafinowany jak GPT-3.5, ale jego dane treningowe są dostępne do dokładniejszej analizy. Naukowcy odkryli, że informacje GPT-2 były plagiatami nie tylko czasami słowo w słowo, ale także parafrazowały fragmenty i podnosiły pomysły bez cytowania ich źródeł. „ Modele językowe popełniły wszystkie trzy rodzaje plagiatu i… im większy zbiór danych i parametry użyte do szkolenia modelu, tym częściej dochodziło do plagiatu” – powiedział uniwersytet.

Czy ChatGPT może pisać oprogramowanie?

Tak, ale z zastrzeżeniami. ChatGPT może odtwarzać kroki podjęte przez ludzi i może generować rzeczywisty kod programowania. „To mnie oszałamia”, powiedział jeden z programistów w lutym, pokazując na Imgur sekwencję podpowiedzi, których użył do napisania oprogramowania dla centrum naprawy samochodów. „To byłaby co najmniej godzina pracy, a zajęło mi to mniej niż 10 minut”.

Musisz tylko upewnić się, że nie jest to spartaczenie koncepcji programowania lub używanie oprogramowania, które nie działa. Zakaz StackOverflow oprogramowania generowanego przez ChatGPT istnieje nie bez powodu.

Ale w sieci jest wystarczająco dużo oprogramowania, aby ChatGPT naprawdę mógł działać. Jeden z programistów, dyrektor ds. technologii Cobalt Robotics, Erik Schluntz, napisał na Twitterze, że ChatGPT zapewnia wystarczająco przydatne porady, że w ciągu trzech dni ani razu nie otworzył StackOverflow, aby poszukać porady.

Inny, Gabe Ragland z AI Art Site Lexica, użył ChatGPT do napisania kodu strony internetowej zbudowanej za pomocą narzędzia React.

ChatGPT może analizować wyrażenia regularne (regex), potężny, ale złożony system do wykrywania określonych wzorców, na przykład dat w paczce tekstu lub nazwy serwera w adresie strony internetowej. „ To tak, jakby mieć nauczyciela programowania pod ręką 24 godziny na dobę, 7 dni w tygodniu”, napisał na Twitterze programista James Blackwell o zdolności ChatGPT do wyjaśniania wyrażeń regularnych.

Oto jeden imponujący przykład jego technicznych kotletów: ChatGPT może emulować komputer z systemem Linux , dostarczając poprawne odpowiedzi na dane wejściowe z wiersza poleceń.

Co jest poza limitem?

ChatGPT ma na celu wyeliminowanie „niewłaściwych” żądań, co jest zgodne z misją OpenAI „zapewnienia, że ​​sztuczna inteligencja ogólna przyniesie korzyści całej ludzkości”.

Jeśli zapytasz sam ChatGPT, co jest poza limitem, odpowie ci: wszelkie pytania „które są dyskryminujące, obraźliwe lub nieodpowiednie. Obejmuje to pytania rasistowskie, seksistowskie, homofobiczne, transfobiczne lub w inny sposób dyskryminujące lub nienawistne”. Proszenie go o angażowanie się w nielegalne działania jest również nie-nie.

Mimo że OpenAI nie chce, aby ChatGPT był używany do złośliwych celów, łatwo jest go używać do pisania e-maili phishingowych, aby spróbować oszukać ludzi do rozstania się z poufnymi informacjami, informuje moja koleżanka Bree Fowler. „Bariera wejścia jest coraz niższa i niższa, aby zostać zhakowanym i wyłudzonym. Sztuczna inteligencja po prostu zwiększy wolumen” – powiedział Randy Lariar z firmy Optiv zajmującej się cyberbezpieczeństwem.

Czy to lepsze niż wyszukiwarka Google?

Zadawanie komputerowi pytań i uzyskiwanie odpowiedzi jest przydatne, a ChatGPT często dostarcza towar.

Google często dostarcza sugerowane odpowiedzi na pytania oraz linki do stron internetowych, które naszym zdaniem będą przydatne. Często odpowiedzi ChatGPT znacznie przewyższają to, co zasugeruje Google, więc łatwo sobie wyobrazić, że GPT-3 jest rywalem.

Ale powinieneś pomyśleć dwa razy, zanim zaufasz ChatGPT. Podobnie jak w przypadku korzystania z Google i innych źródeł informacji, takich jak Wikipedia, najlepszą praktyką jest weryfikowanie informacji z oryginalnych źródeł przed poleganiem na nich.

Weryfikacja prawdziwości odpowiedzi ChatGPT wymaga trochę pracy, ponieważ daje tylko surowy tekst bez linków i cytatów. Ale może to być przydatne, aw niektórych przypadkach prowokujące do myślenia. Możesz nie widzieć bezpośrednio czegoś takiego jak ChatGPT w wynikach wyszukiwania Google, ale Google zbudował własne duże modele językowe i intensywnie wykorzystuje sztuczną inteligencję już w wyszukiwaniu.

To powiedziawszy, Google chętnie reklamuje swoją głęboką wiedzę na temat sztucznej inteligencji , ChatGPT wywołał „czerwony kod” w Google, według The New York Times , i przyciągnął współzałożycieli Google, Larry'ego Page'a i Sergeya Brina, z powrotem do aktywnej pracy . Microsoft może wbudować ChatGPT w swoją konkurencyjną wyszukiwarkę, Bing. Najwyraźniej ChatGPT i inne podobne narzędzia mają do odegrania rolę, gdy szukamy informacji.

Tak więc ChatGPT, choć niedoskonały, bez wątpienia wskazuje drogę ku naszej technologicznej przyszłości.

Uwaga redaktorów: CNET używa silnika AI do tworzenia wyjaśnień dotyczących finansów osobistych, które są redagowane i weryfikowane przez naszych redaktorów. Więcej informacji znajdziesz w  tym poście .

Po raz pierwszy opublikowano 5 grudnia 2022 r. o 22:00 czasu pacyficznego.