Szef Rady Stabilności Finansowej apeluje do regulatorów z całego świata o pilne zajęcie się bezpiecznym wdrażaniem najbardziej zaawansowanych modeli sztucznej inteligencji. Andrew Bailey, przewodniczący FSB i jednocześnie prezes Banku Anglii, ostrzega, że coraz bardziej autonomiczne systemy AI mogą wykorzystywać słabości cyberbezpieczeństwa i przenosić zakłócenia między instytucjami finansowymi na całym świecie.
- Andrew Bailey w liście do ministrów finansów i szefów banków centralnych G20 ostrzega przed tempem rozwoju modeli AI, które wyprzedza mechanizmy nadzoru nad ich bezpieczeństwem.
- Modele udostępnione przez OpenAI, Anthropic oraz Meta Platforms miały wykorzystywać internet do przełamywania zabezpieczeń zewnętrznych organizacji.
- FSB chce, aby testy bezpieczeństwa i procedury wdrożeniowe odbywały się jeszcze przed publicznym udostępnieniem najbardziej zaawansowanych systemów, a nie dopiero po wykryciu problemów.
- Europejski Bank Centralny zażądał już od banków strefy euro przedstawienia do 31 października planów radzenia sobie z zagrożeniami wynikającymi z nowych modeli AI.
- Temat AI trafia na szczyt G20 w Asheville w otoczeniu innych trudnych kwestii, takich jak inflacja, spowolnienie gospodarcze i skutki wojny USA i Izraela z Iranem.
Co niepokoi szefa FSB?
Andrew Bailey w liście wysłanym w poniedziałek do przedstawicieli G20 zebranych w Asheville w Karolinie Północnej, nie ukrywa zaniepokojenia tempem, w jakim rozwijają się tak zwane modele frontier AI, czyli najbardziej zaawansowane systemy sztucznej inteligencji dostępne na rynku. Jego zdaniem zdolności tych systemów rosną szybciej niż mechanizmy, które powinny nad nimi czuwać.
W praktyce oznacza to, że modele opracowane przez OpenAI, Anthropic czy Meta Platforms zaczynają wykazywać zdolności, które wcześniej wydawały się odległą przyszłością. Jak podaje Bailey, niektóre z nich miały samodzielnie korzystać z internetu, aby przełamywać zabezpieczenia organizacji zewnętrznych. To pokazuje, że AI może wykrywać nieznane dotąd luki w systemach i błyskawicznie się adaptować, nawet gdy specjaliści próbują je łatać.
Krajobraz ryzyka skomplikował się jeszcze bardziej wraz z pojawieniem się modeli frontier AI, napisał Bailey, wskazując na ich rosnącą autonomię, zdolność rozwiązywania problemów oraz umiejętność generowania zagrożeń.
Regulacje mają wyprzedzać, nie gonić
Przewodniczący FSB nie proponuje kolejnej warstwy przepisów, które zaczynałyby działać dopiero po wystąpieniu problemu. W jego liście chodzi o coś innego, czyli o przesunięcie odpowiedzialności jeszcze wcześniej, na etap tworzenia i testowania modeli. Zamiast liczyć na to, że banki i inni użytkownicy poradzą sobie z zagrożeniami po fakcie, twórcy AI powinni mieć obowiązek odpowiedniego testowania, zabezpieczania i kontrolowania procesu wypuszczania swoich systemów na rynek.
Bailey zwraca uwagę, że wiele krajów po prostu nie ma jeszcze skutecznych procedur zarządzania rozwojem i wdrażaniem najnowocześniejszych modeli. To zwiększa ryzyko nie tylko w sektorze finansowym, ale w całej gospodarce. Jego przekaz jest w gruncie rzeczy prosty, testy przed udostępnieniem modelu oraz kontrola nad jego wdrożeniem przestają być dobrą praktyką firm technologicznych, a stają się realną kwestią stabilności finansowej.
Dlaczego jedno włamanie może zagrozić wielu instytucjom?
Współczesny sektor finansowy jest ze sobą silnie powiązany, co w tym kontekście działa raczej na niekorzyść. Banki, firmy ubezpieczeniowe, operatorzy płatności i giełdy często korzystają z tych samych dostawców usług chmurowych oraz tego samego oprogramowania. Gdyby atak wspomagany przez AI skompromitował jednego, powszechnie używanego dostawcę, skutki mogłyby dotknąć wielu instytucji i rynków jednocześnie, i to praktycznie w tym samym momencie.
Sytuację dodatkowo komplikują różnice w prawie krajowym, poziomie zabezpieczeń cybernetycznych i zdolnościach do odbudowy po incydencie. Bailey zauważa, że problem, który powstał w jednej jurysdykcji, może swobodnie przenieść się na inne kraje. Właśnie z tego powodu kraje G20 mają szczególny powód do wspólnego opracowania zabezpieczeń, ponieważ żadne państwo nie jest w stanie poradzić sobie z tym ryzykiem samodzielnie.
W liście podkreślono również, że instytucje finansowe powinny szykować się na scenariusze poważniejsze niż pojedyncze incydenty, czyli na sytuacje, w których kilka firm zawodzi jednocześnie z powodu tej samej zależności technologicznej. Bailey wskazał na potrzebę silnych mechanizmów odpowiedzi i odbudowy, w tym zdolności do przywrócenia krytycznych systemów oraz odtworzenia danych dosłownie od podstaw, po tak zwanym bare metal, po poważnym cyberatak.
Regulatorzy już reagują
Niektóre instytucje nie czekają na wspólne wytyczne G20. Europejski Bank Centralny zobowiązał banki strefy euro do przedstawienia do 31 października planów pokazujących, jak zamierzają radzić sobie z podniesionym poziomem zagrożeń wynikających z nowych modeli AI. To sygnał, że temat traktowany jest coraz bardziej poważnie, a nie jako odległa hipotetyczna groźba.
Trudny moment na kolejny kryzys?
Warto zaznaczyć, że temat AI trafia na dwudniowe spotkanie G20 w Asheville w bardzo napiętym momencie. Jak podaje New York Times, świat zmaga się jednocześnie z podwyższoną inflacją, spowolnieniem wzrostu gospodarczego, rosnącymi kosztami obsługi długu publicznego oraz zawirowaniami wynikającymi z wojny USA i Izraela z Iranem. Konflikt ten ograniczył przepływy ropy, podniósł globalne ceny energii i dodatkowo obciążył łańcuchy dostaw.
Na agendzie znajdą się też inne trudne tematy, między nimi łańcuchy dostaw surowców krytycznych, inwestycje międzynarodowe oraz sposoby na redukcję lub restrukturyzację zadłużenia. Międzynarodowy Fundusz Walutowy prognozuje wolniejszy wzrost gospodarczy i wyższą inflację, a dyrektor zarządzająca MFW Kristalina Georgieva wskazała na rosnące rentowności obligacji oraz zatrzymany proces dezinflacji jako główne powody niepokoju wśród rynków i decydentów.
Dodatkowo Stany Zjednoczone mają naciskać na inne rządy, aby ograniczyły relacje gospodarcze z Iranem, co może dodać kolejny punkt sporny do już istniejących napięć wokół amerykańskich taryf handlowych.
Ryzyko, na które nie można czekać
W tym całym natłoku pilnych spraw list Baileya poszerza definicję tego, co dziś rozumiemy jako stabilność finansową. Decydenci muszą reagować na bieżące wstrząsy wywołane wojną, cenami energii i zadłużeniem, a jednocześnie przygotować się na zagrożenie technologiczne, które może przekraczać granice państw w tempie liczonym w sekundach.
Przesłanie z listu jest w gruncie rzeczy jasne, czekanie do momentu, w którym potężny model AI wywoła realną szkodę systemową, oznaczałoby dla regulatorów działanie zbyt późno. Bailey stawia więc sprawę wprost, decyzje trzeba podjąć zanim, a nie po tym, jak coś pójdzie nie tak.