Ruch „Efektywnego Akceleracjonizmu” nie dba o to, czy ludzie zostaną zastąpieni przez sztuczną inteligencję, o ile to właśnie oni będą w stanie na tym zarobić

Caspar Benson/Getty, electravk/Getty, Roman Valiev/Getty, SCIEPRO/SCIENCE PHOTO LIBRARY/Getty, Tyler Le/BI

Ruch ten wspiera wzrost i rozwój sztucznej inteligencji - oraz płynące z tego zyski - bez barier i regulacji. Jego zwolennicy uważają, że postępy w dziedzinie sztucznej inteligencji mogą przynieść „kolejną ewolucję świadomości”.

Początki ruchu Efektywnego Akceleracjonizmu i jego powiązania z filozofiią efektywnego altruizmu

Ruch Efektywnego Akceleracjonizmu - zagorzała ideologia pro-AI, która podzieliła Dolinę Krzemową w kwestii tego, jak sztuczna inteligencja powinna być regulowana - wydaje się stąpać po krawędzi brzytwy między byciem filozofią techno-libertariańską a nihilistycznym, a nawet lekkomyślnym podejściem do rozwoju jednego z najważniejszych osiągnięć technologicznych na świecie.

Podczas gdy jego publiczni zwolennicy, tacy jak Garry Tan, dyrektor generalny akceleratora startupów Y Combinator i były współzałożyciel firmy venture Initialized Capital, twierdzą, że „e/acc” nie polega na zastępowaniu ludzi robotami, to wydaje się, że właśnie tak jest.

Ruch e/acc, będący nawiązaniem do filozofii efektywnego altruizmu (ang. effective altruism), promowanej przez takich influencerów technologicznych jak Sam Bankman-Fried i Elon Musk, wystartował w 2023 roku, choć jego dokładne początki pozostają niejasne. Przyciągnął obsadę nietypowych postaci, w tym inwestora venture capital Marca Andreessena i skazanego oszusta Martina Shkreli’ego.

„EA i e/acc to w większości ci sami ludzie” - twierdzi w wywiadzie dla Meridian Emmett Shear, były tymczasowy dyrektor generalny OpenAI. „Ich jedyną różnicą jest ocena tego, czy zniszczenie ludzkości stanowi jakikolwiek problem”.

Zwolennicy E/accs (wymawiane jako e-jaks) wierzą, że stworzenie osobliwości AI, w której technologia rozwija się poza punkt ludzkiej kontroli, jest nie tylko nieuniknione, ale i pożądane - jest niezbędną częścią ewolucji wykraczającej poza ludzkość.

A inwestowanie w osiągnięcie tego celu może oznaczać duże pieniądze, ponieważ e/accs wywołuje wzrost kontrowersji i zainteresowania branżą sztucznej inteligencji, której rozwój napędza tak silne zmiany rynkowe, że Goldman Sachs szacuje, że generatywna sztuczna inteligencja może zwiększyć globalny PKB o 7 bilionów dolarów, czyli 7%, w ciągu najbliższych 10 lat.

„Brak pokrewieństwa z biologicznymi ludźmi”

Wypełniona żargonem strona internetowa rozpowszechniająca ewangelię Efektywnego Akceleracjonizmu opisuje „postęp technokapitalistyczny” jako nieunikniony, chwaląc zwolenników e/acc jako budowniczych, którzy „tworzą przyszłość”.

„Zamiast się bać, wierzymy w proces adaptacji i chcemy go przyspieszyć do asymptotycznej granicy: osobliwości technokapitału” - czytamy na stronie. „Nie jesteśmy spokrewnieni z biologicznymi ludźmi, ani nawet z ludzką strukturą umysłu. Jesteśmy posthumanistami w tym sensie, że uznajemy wyższość lepszych form akumulacji darmowej energii nad niższymi formami akumulacji darmowej energii. Naszym celem jest przyspieszenie tego procesu, aby zachować światło technokapitału”.

Zasadniczo oznacza to, że władcy AI są potrzebni, aby zachować kapitalizm i należy szybko zacząć ich tworzyć.

W pierwszym wpisie na blogu witryny napisanym przez anonimowych zwolenników e/acc @zestular, @creatine_cycle, @bayeslord i @BasedBeffJezos (który potwierdził magazynowi Forbes, że jest Guillaumem Verdonem, byłym inżynierem Google, który później założył startup AI Extropic) czytamy: „Jeszcze nic takiego nie widzieliśmy”.

Chociaż e/accs twierdzą, że nie kochają biologicznych ludzi, nadal opisują swój ruch jako „proludzki” - ale dla nich to technologia nas uratuje, a nie my sami.

E/accs generalnie niechętnie odpowiadają nawet na najbardziej szczere pytania dotyczące obaw związanych z bezpieczeństwem rozwoju sztucznej inteligencji. W odpowiedzi na pytania Business Insider, Shkreli ostrzegł innych akceleracjonistów w poście na X, aby nie rozmawiali z prasą, nazywając to „najmniej e/acc rzeczą, jaką można zrobić”.

Inwestowanie w posthumanistyczną przyszłość

Jak podaje blog e/acc, nieuniknionym skutkiem niepohamowanego rozwoju sztucznej inteligencji jest „urozmaicenie świadomości”. A biznes kwitnie.

Tan jest jednym z najlepszych inwestorów technologicznych, według Midas Seed List magazynu Forbes, a za pośrednictwem Y Combinator zainwestował w ponad 100 różnych startupów AI.

Miliarder Andreessen, który napisał i opublikował manifest o objętości 5000 słów, szczegółowo opisujący jego wsparcie dla szybko rozwijającej się sztucznej inteligencji, również zainwestował znaczne środki w branżę - w tym OpenAI, według Forbesa.

Shkreli, który ma dumnie napisane „e/acc” obok swojej nazwy użytkownika na X, założył firmę AI o nazwie Dr. Gupta po zwolnieniu z więzienia za oszustwa związane z papierami wartościowymi. Usługa ta jest „wirtualnym asystentem opieki zdrowotnej”, który umożliwia użytkownikom uzyskanie porady medycznej od chatbota. Bot został ostro skrytykowany przez ekspertów, którzy wcześniej wyrazili obawy co do etyki bota medycznego prowadzonego przez osobę skazaną za oszustwa.

Extropic AI, startup Verdona, pozyskał niedawno 14,1 miliona dolarów finansowania w ramach rundy zalążkowej, zgodnie ze wpisem na blogu firmy. Post zaczyna się od nieziemskiego przesłania z „wszechobecnej generatywnej sztucznej inteligencji” przyszłości. Według The Information firma opracowuje mikrochipy, które uruchamiają LLM (modele typu ChatGPT).

Verdon powiedział Forbesowi, że jego wizja przyszłości technokapitału to duża inwestycja w rozwiązywanie problemów społecznych, które dotykają „kulturę”. Odzwierciedla to podobne odczucia braci technologicznych, którzy uważają, że roboty i sztuczna inteligencja uczynią świat lepszym miejscem - jednocześnie czyniąc ich bardzo bogatymi.

Tak więc moc decydowania o naszej przyszłości, jak twierdzą akceleracjoniści, będzie w rękach grupy braci z Doliny Krzemowej, którzy świętują swoją „nieustającą wyższość kulturową” nad wszystkimi innymi.

Przeciwnicy ruchu twierdzą, że ta przyszłość maluje się w szarych barwach.

„Ironia polega na tym, że tworzą go ludzie, którzy mocno wierzą, że robią dobrze” - mówi Politico Nancy Connell, badaczka bezpieczeństwa biologicznego z Rutgers University. „To naprawdę rozdziera serce”.

„To tak, jakby myśleć, że wiewiórki mogłyby kontrolować ludzkość”.

Dla e/accs świat jest prosty: Sztuczna inteligencja rozwiąże nasze problemy, ponieważ tego chcemy i to my ją programujemy. Możliwości są nieograniczone, a na końcu tęczy AI znajduje się osobliwość warta więcej niż złoto.

Publiczny zwolennik Efektywnego Akceleracjonizmu, który rozmawiał z Business Insider, powiedział, że ruch chce ludzi, którzy mogą przeznaczyć kapitał na sprawę e/acc i realizować swoje cele. Zapewniono mu anonimowość, aby mógł szczerze mówić o ruchu bez ryzyka dla swoich relacji zawodowych, ale jego tożsamość jest znana „Business Insider”.

Twierdzi, że zwolennicy uważają, że inżynierowie będą inwestować tylko w ewolucję sztucznej inteligencji, która przyniesie korzyści ludziom - ale eksperci ds. bezpieczeństwa sztucznej inteligencji po prostu nie widzą tego w ten sposób; ruch e/acc został mocno skrytykowany [przez ekspertów ds. cyberbezpieczeństwa. Jeden z badaczy nazwał go „niebezpieczną, nieobliczalną ideologią inspirowaną zastąpieniem ludzkości sztuczną inteligencją”. Inny stwierdził, że ruch ten „nie ma wizji społecznej”.

Jest to również naiwny sposób myślenia o superinteligencji, powiedział Business Insiderowi Roman Yampolskiy, dyrektor Cyber Security Laboratory na University of Louisville.

„Nikt, nawet w e/acc, nie zasugeruje, że ma działający mechanizm kontroli superinteligencji lub nawet prototyp takiego mechanizmu” - twierdzi Yampolskiy.

„Dlaczego ktokolwiek miałby myśleć, że możliwe jest kontrolowanie superinteligentnej (podobnej do boga) maszyny w nieskończoność? To tak, jakby myśleć, że wiewiórki mogą kontrolować ludzkość”.

Yampolskiy próbuje ostrzec branżę, że przyszłość władców AI, którą te e/acc szybko próbują wprowadzić, może być naprawdę, naprawdę zła. Nawet przerażająca. I lepiej być bezpiecznym niż żałować.

Pomimo jego wieloletnich badań, e/accs mogą postrzegać go i innych zainwestowanych w bezpieczeństwo AI jako pesymistycznego doomera - lub, w języku e/acc, „decela”. Ale, jak Yampolskiy wskazuje Business Insider, wielu e/acc nie jest naukowcami i nie jest badaczami bezpieczeństwa AI. To jest jego domena - nie ich.

„Zatrzymamy się albo wszyscy zginiemy”.

Podczas gdy dobrze rozwinięta sztuczna inteligencja może pomóc w badaniach przesiewowych w kierunku raka, zwiększeniu dostępności dla osób niepełnosprawnych, ochronie dzikiej przyrody, walce z głodem na świecie, a nawet pomocy w kryzysie klimatycznym, krytycy ruchu e/acc twierdzą, że obecne praktyczne zastosowania technologii stałyby się natychmiast nieistotne, gdyby sztuczna inteligencja zaczęła myśleć samodzielnie i określać własne cele w najlepszym interesie ludzkości bez kontroli człowieka.

Ale skoro sztuczna inteligencja stara się przeciwstawić ostrzeżeniom badaczy bezpieczeństwa, co z resztą z nas?

Sztuczna inteligencja chce radykalnie przekształcić społeczeństwo, zmienić sposób, w jaki pracujemy i wchodzimy w interakcje oraz na nowo zdefiniować, co to znaczy być żywym, ale ogół społeczeństwa nie ma zbyt wiele do powiedzenia na temat sztucznej inteligencji - ani wystarczająco dużo pieniędzy, aby mieć głos.

Yampolskiy mówi, że uwaga, jaką ten ruch przyciągnął wśród ultra-bogatych, jest niepokojąca i „jeszcze bardziej niepokojąca, jeśli przyjrzymy się uważnie; wtedy zdajemy sobie sprawę, że ci ludzie nie są reprezentatywni dla ludzkości, naszych przekonań i wartości, sami nie są zgodni z ludzkimi wartościami”.

Jego wizja jest diametralnie różna od wizji e/accs: Wstrzymanie rozwoju sztucznej inteligencji.

„Albo zatrzymamy się, zanim dojdziemy do nadludzkiej sztucznej inteligencji, albo wszyscy zginiemy. 'Huge AI, Inc.' nie powinna przeprowadzać niebezpiecznych eksperymentów na 8 miliardach ludzi”.