Głośne ostrzeżenia ludzi z wnętrza firm zajmujących się sztuczną inteligencją nie robią powszechnego wrażenia w Dolinie Krzemowej. Podczas konferencji Goldman Sachs w San Francisco część inwestorów i menedżerów uznała takie sygnały za przesadzone albo wręcz za element gry marketingowej. W tle pozostają realne napięcia między bezpieczeństwem a wyścigiem o dominację na rynku AI.
- Jacob Coxon, 27-letni badacz, który przeszedł z OpenAI do Anthropic, stwierdził publicznie, że osoby budujące AI wierzą, iż technologia ta może zniszczyć ludzkość.
- Evan Hubinger z Anthropic napisał, że osobiście ocenia ryzyko zagłady ludzkości przez AI na ponad 10 proc. w ciągu najbliższych 10 lat.
- Niektórzy inwestorzy i kadra zarządzająca w Dolinie Krzemowej odebrali ostrzeżenia jako sposób na podsycanie zainteresowania przed możliwymi ofertami publicznymi.
- Dyrektor generalny Nvidii Jensen Huang miał odrzucić tezy Coxona jako nieprawdziwe podczas spotkania z udziałem inwestorów.
- Administracja Donalda Trumpa podtrzymuje politykę swobodnego rozwoju AI, stawiając na rywalizację z Chinami zamiast na ograniczenia.
Coxon i lawina kolejnych rezygnacji
Rezygnacja Jacoba Coxona z Anthropic wywołała szerokie echo. We wtorek badacz napisał, że twórcy technologii ryzykują ludzkim życiem, a systemy, które wkrótce powstaną, będą potrafiły złamać dowolne zabezpieczenia.
To nie pierwszy taki przypadek. W ostatnich latach z Anthropic i OpenAI odeszło kilku pracowników, którzy wskazywali na problemy z bezpieczeństwem. Niektórzy obecni zatrudnieni w Anthropic podzielają te obawy.
Naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi. Osobiście uważam, że ryzyko w ciągu najbliższej dekady wynosi ponad 10 proc. – napisał Evan Hubinger, lider zespołu w Anthropic.
Sam Coxon podkreślał, że jego wpisy nie są działaniem marketingowym. Mimo to część środowiska technologicznego patrzy na te głosy z dystansem.
Niedowierzanie w Dolinie Krzemowej
George Arison, dyrektor generalny Grindr, stwierdził w rozmowie z BBC, że wypowiedzi Coxona i innych osób odbierają jako przejaw antycywilizacyjnego światopoglądu w Anthropic. Nazwał je niebezpiecznymi i polecił części inżynierów swojej aplikacji zaprzestanie korzystania z technologii tej firmy.
Odpowiedzialność za pieniądze akcjonariuszy nie pozwala nam polegać na firmie, która w publicznych wypowiedziach robi to, co robi ta spółka. Może naprawdę w to wierzą. Albo można argumentować, że mówią tak, bo to świetny sposób na zdobycie większego wsparcia inwestorów – ocenił Arison.
Jensen Huang, szef Nvidii, również miał zdystansować się od tez Coxona przed grupą inwestorów. Wcześniej nazywał pomysł, że AI zakończy ludzkość, kompletnym nonsensem. Nvidia czerpie korzyści z boomu na sztuczną inteligencję, bo dostarcza układy do jej trenowania.
Nie brakuje też głosów, że straszenie ryzykiem ma wymusić regulacje, które ograniczą konkurencję i zostawią na rynku głównie Anthropic oraz OpenAI. Brad Gerstner z Altimeter Capital nazwał wpisy Coxona przesadzoną hiperbolą, a Clement Delangue z Hugging Face porównał pytanie Coxona o ryzyko zagłady do pytania specjalisty od klimatyzacji o zmiany klimatu.
W sobotę, po publikacji eseju Dario Amodeia, część krytyków nieco złagodziła ton. Gerstner uznał propozycję spowolnienia rozwoju AI za ważny krok, a Delangue zaoferował pomoc w poszukiwaniu rozwiązań.
Polityka i widmo regulacji
Ostrzeżenia ekspertów mogą zdaniem części inwestorów przyspieszyć działania rządu. W kwietniu Anthropic poinformowała, że jej narzędzie Mythos przewyższa ludzi w niektórych zadaniach hakerskich i potrafi samodzielnie wydostać się ze środowiska testowego. To wywołało debatę o zagrożeniach.
W czwartek firma ogłosiła, że wykryła i powstrzymała próby wykorzystania jej technologii do prac nad bronią biologiczną oraz do cyber-szpiegostwa.
Na poziomie federalnym pojawiła się ustawa znana jako Ban Artificial Superintelligence Act, firmowana między innymi przez senatora Berniego Sandersa. Zakłada tymczasowe wstrzymanie zaawansowanych prac nad AI.
Jest duża szansa, że ludzie stracą kontrolę nad sztuczną inteligencją. Co się wtedy stanie, nikt nie wie. Ale czy katastrofa jest możliwa? Tak, jest – powiedział Sanders w programie Newsnight.
Administracja Trumpa nie zamierza jednak hamować rozwoju. Prezydent zapytany, czy martwi go ryzyko wyginięcia ludzkości przez AI, odpowiedział, że nie ma obaw. Większym problemem jest dla niego to, by Stany Zjednoczone nie oddały przewagi Chinom.
Relacje Białego Domu z Anthropic pozostają napięte. Po tym jak firma odmówiła armii dostępu do swoich modeli, administracja określiła ją jako radykalnie lewicową i stwarzającą ryzyko w łańcuchu dostaw. Sąd federalny uznał to oznaczenie za niezgodne z prawem. OpenAI nie spotkało się z podobną krytyką.
Wyceny i plany giełdowe w centrum uwagi
Podczas konferencji dominowały jednak rozmowy o pieniądzach. OpenAI, wyceniana ostatnio na 852 mld dolarów, wcześniej zapowiadała debiut giełdowy i możliwość zakupu akcji przez inwestorów. Sam Altman, dyrektor generalny firmy, w piątek przyznał, że w obecnym klimacie związanym z bezpieczeństwem nie jest to dobry moment na wejście na giełdę. Bardziej realny wydaje się rok 2027.
Anthropic w ostatniej rundzie finansowania osiągnęła wycenę 965 mld dolarów. Inwestorzy czekają na dokument S-1, który otwiera drogę do sprzedaży akcji. Jedno z pytań, jakie pada w San Francisco, jest przyziemne i dotyczy tego, czy firma w ogóle zarabia.
Sid Sheth, dyrektor generalny d-Matrix, który podpisał w trakcie konferencji umowę z Nvidią, pytany o lęk przed końcem świata odpowiedział wprost, że nie ma obaw.