Bank Anglii ostrzega, że oprogramowanie AI może stworzyć kryzys rynkowy aby zwiększyć zyski

Źródło grafiki: WikimediaCommons

Coraz bardziej autonomiczne programy AI mogą manipulować rynkami i celowo wywoływane kryzysy, aby zwiększyć zyski banków i traderów, ostrzega Bank Anglii.

Zdolność sztucznej inteligencji do „wykorzystywania 

okazję do generowania zysków ” była jednym z wielu ryzyk wymienionych w raporcie Komitetu Polityki Finansowej Banku Anglii (FPC), który śledzi rosnące wykorzystanie tej technologii w City, Londyn.

Komitet wyraził obawy, że zaawansowane modele AI – które działają z większą autonomią – mogą nauczyć się, że okresy skrajnej zmienności są korzystne dla firm, dla których zostały wytrenowane.

Te programy AI potrafią „zidentyfikować i wykorzystać luki” innych firm handlowych, co może doprowadzić do wywołania lub wzmocnienia wahań cen obligacji lub rynków akcji.

„Na przykład, modele AI mogą nauczyć się, że wydarzenia kryzysowe zwiększają ich szanse na zysk, a więc będą działać w ten sposub, by zwiększyć prawdopodobieństwa takich wydarzeń” – stwierdza raport FPC.

Mogą również „załatwić zmowę lub inne formy manipulacji rynkowej… bez intencji lub świadomości ludzi” – ostrzega komitet.

Sztuczna inteligencja jest coraz częściej wykorzystywana przez firmy finansowe, które chcą opracować nowe strategie inwestycyjne, skrócić czas wykonywania rutynowych zadań administracyjnych, a nawet zautomatyzować podejmowanie decyzji dotyczących kredytów. Według niedawnego raportu Międzynarodowego Funduszu Walutowego, ponad połowa wszystkich patentów firm zajmujących się handlem wysokiej częstotliwości lub handlem algorytmicznym używa obecnie sztucznej inteligencji.

Jednak jej zastosowanie wiąże się z nowymi zagrożeniami, w tym „truciem danych”, kiedy to ktoś świadomie manipuluje modelami szkoleniowymi AI. Przestępcy mogą także wykorzystać AI do oszustw bankowych, obchodzenia kontroli i przestępstw związanych z praniem pieniędzy czy finansowaniem terroryzmu. 

Ryzyko, że duża liczba firm będzie polegać na tych samych dostawcach AI, może oznaczać, że pojedynczy błąd w modelach spowoduje, iż firmy finansowe podejmą znacznie większe ryzyko, niż się spodziewały, prowadząc do ogromnych strat w całej branży.

„Taki scenariusz mieliśmy już podczas globalnego kryzysu finansowego w 2008 roku, kiedy bańka zadłużeniowa została napompowana przez wspólne błędne wycenianie ryzyka” – ostrzega FPC.