John Hopfield, laureat Nagrody Nobla w dziedzinie fizyki za badania nad AI, ostrzega przed możliwymi postępami technologii

zdjęcie: DPA, https://www.rtbf.be/article/le-nobel-de-physique-2024-attribue-a-john-hopfield-et-geoffrey-hinton-pour-leur-recherche-sur-l-intelligence-artificielle-11445682

Naukowiec, wracając się za pośrednictwem wideo do zgromadzenia na Uniwersytecie New Jersey, powiedział, że w swoim życiu był świadkiem rozwoju dwóch potężnych, lecz potencjalnie niebezpiecznych technologii: inżynierii biologicznej i fizyki jądrowej. „Jesteśmy przyzwyczajeni do technologii, które nie są wyłącznie dobre lub złe, które mogą mieć zarówno pozytywne, jak i negatywne skutki” – stwierdził.

„Jako fizyk jestem bardzo zaniepokojony czymś, co jest poza kontrolą, czymś, czego nie rozumiem wystarczająco dobrze, by określić, jakie ograniczenia można nałożyć na tę technologię” – dodał laureat Nagrody Nobla. „Chociaż nowoczesne systemy AI wydają się «absolutnymi cudami», sposób ich działania wciąż jest niewystarczająco zrozumiany”.

„Zdolności, które przekroczą obecne wyobrażenia”

„Dlatego ja – i jak sądzę, również Geoffrey Hinton, [współlaureat Nagrody Nobla] – zdecydowanie postulujemy o głębsze zrozumienie zjawiska”, kontynuował, dodając, 
że dziedzina ta „rozwinie zdolności, które przekroczą obecne wyobrażenia”.

„Nie wiadomo, czy w badaniach nie kryje się coś spontanicznego i jednocześnie niepożądanego” – zauważył John Hopfield. Przywołał przykład „lodu dziewiątego”, fikcyjnego materiału, opisanego przez autora science fiction, Kurta Vonneguta w jego powieści pt. „Kocia kołyska” z 1963 roku. Materiał ten, stworzony z myślą o pomocy żołnierzom, poruszającym się w błocie, przypadkowo prowadzi do zamarznięcia oceanów, co doprowadza do upadku cywilizacji.

„Martwi mnie wszystko, co mówi: «Jestem szybszy od ciebie, jestem większy od ciebie»” – powiedział John Hopfield.