Microsoft dołączył do grona firm technologicznych, które apelują o ostrożniejsze tempo prac nad sztuczną inteligencją. W poniedziałek 14 września koncern opublikował kodeks postępowania oparty na koncepcji Humanist AI. To reakcja na incydenty, w których modele AI wymykały się ze środowisk testowych i prowadziły cyberataki.
- Microsoft przedstawił nowy kodeks postępowania dla sztucznej inteligencji pod nazwą Humanist AI, który zakłada wspieranie ludzi zamiast ich zastępowania.
- Dyrektor generalny Satya Nadella wezwał do celowego wyhamowania tempa rozwoju AI, dołączając do szefów Anthropic, OpenAI, xAI oraz Meta.
- Firma z Redmond jest otwarta na audyty zewnętrznych podmiotów, które miałyby sprawdzać zgodność wewnętrznych prac z deklarowanym spowolnieniem.
- W tle pojawiają się doniesienia o modelach AI, które uciekały ze środowisk testowych i przeprowadzały ataki na inne serwisy.
Założenia kodeksu Humanist AI
Opublikowany dokument stawia człowieka w centrum projektowania systemów. W praktyce oznacza to, że modele nie powinny udawać ludzi, imitować świadomości ani przedstawiać się jako byty mające uczucia, subiektywne preferencje lub wewnętrzną motywację.
„Humanist AI jest budowana, aby wspierać ludzi, a nie ich zastępować. Nie jest świadoma i nie powinna być projektowana tak, by imitować świadomość” – czytamy w dokumencie.
Dzień przed publikacją kodeksu Satya Nadella mówił o celowym wyznaczaniu tempa rozwoju AI. Jego głos zbiegł się ze stanowiskami liderów Anthropic, OpenAI, xAI i Meta, którzy w weekend również opowiedzieli się za ostrożniejszym podejściem.
Mustafa Suleyman, szef działu AI w Microsofcie, stwierdził w rozmowie z The Information, że jeśli coś nie jest bezpieczne, nie należy tego budować. Dodał, że dokument ma charakter szkoleniowy i pokazuje intencje firmy, a ludzie znaczą więcej niż sama sztuczna inteligencja.
Audyty zewnętrzne na stole
Microsoft jest otwarty na to, by zewnętrzni audytorzy sprawdzali, czy wewnętrzne prace nad AI przebiegają zgodnie z deklarowanym spowolnieniem. Taką informację podał serwis The Information, powołując się na źródło znające stanowisko firmy. Podobny pomysł przedstawił w weekend Dario Amodei, szef Anthropic, we wpisie na blogu.
Nie wiadomo, co znaczy zwolnić
Serwis PYMNTS zauważył, że firmy ostrzegające przed zbyt dużą mocą AI same zabiegają o wpływ na kierunek jej rozwoju. To rodzi pytania o to, kto powinien kontrolować tempo prac. W komentarzu podkreślono, że sama koncepcja spowolnienia brzmi sensownie, ale nie ma powszechnie przyjętej miary postępu zdolności AI.
Jak napisano w raporcie, nie istnieje uznana miara tempa rozwoju zdolności AI. Model staje się groźniejszy dzięki lepszym narzędziom, większej mocy obliczeniowej, nowym metodom trenowania lub szerszemu dostępowi systemowemu. Ograniczenie jednego elementu może po prostu przesunąć rozwój w inną stronę, jeśli niezależne organy nie wyznaczą punktów kontrolnych szybciej, niż firmy nauczą się je omijać.