Anthropic ujawniło, że siedem laboratoriów z Chin atakowało ogólnodostępne modele Claude za pomocą nielegalnej destylacji. To proces, który pozwala odtwarzać cudze systemy AI bez ponoszenia ogromnych kosztów ich budowy. Raport opublikowany w czwartek 10 września pokazuje, jak poważnym problemem staje się kradzież własności intelektualnej w branży sztucznej inteligencji.
- Anthropic wykryło siedem laboratoriów z Chin, które prowadziły nieautoryzowaną destylację modeli Claude.
- Ataki często opierają się na wyrafinowanych sieciach fałszywych kont, skradzionych kartach płatniczych, danych logowania i kluczach API.
- Zabezpieczenia wbudowane w Claude nie przechodzą na skopiowane wersje, co zwiększa ryzyko niebezpiecznych zastosowań.
- Google Threat Intelligence Group uznaje ten proceder za nową formę kradzieży własności intelektualnej.
- Stany Zjednoczone rozważają sankcje wobec podmiotów, które w ten sposób wykorzystują amerykańskie modele AI.
Na czym polega nielegalna destylacja
Destylacja bywa legalną metodą trenowania modeli, ale wszystko zmienia się, gdy prowadzi się ją bez zgody właściciela systemu. Anthropic definiuje ten proceder jako działanie na skalę przemysłową, które ma na celu potajemne wydobycie możliwości modelu i odtworzenie ich w innym systemie.
W praktyce chodzi o to, że nieautoryzowane laboratoria nie muszą inwestować własnego czasu, mocy obliczeniowej i pieniędzy. Zamiast budować model od zera, kopiują zachowanie i wiedzę już istniejącego systemu.
„Nielegalną destylację definiujemy jako zakrojoną na skalę przemysłową, ukrytą kampanię mającą na celu wydobycie możliwości modelu i powielenie ich w innym modelu bez zgody” – podało Anthropic.
Oszustwa napędzają cały proceder
Ataki tego typu rzadko wyglądają jak pojedyncze włamania. Anthropic wskazuje, że nielegalna destylacja zwykle opiera się na zorganizowanych sieciach fałszywych kont. Do ich tworzenia wykorzystuje się skradzione karty kredytowe, dane logowania oraz klucze API.
Co istotne, w miarę jak Anthropic rozwija skuteczniejsze metody obrony, nieautoryzowane laboratoria szukają nowych sposobów omijania zabezpieczeń. Firma podkreśla, że wnioski z wykrywanych ataków pomagają budować kolejne warstwy ochrony.
Dlaczego to zagrożenie dla użytkowników
W raporcie wymieniono kilka rodzajów ryzyka związanego z kopiowaniem Claude.
- Zabezpieczenia Claude nie są przenoszone do nieautoryzowanych kopii.
- Modele tworzone na bazie zaawansowanych systemów AI mogą prowadzić do uzyskania niebezpiecznych zdolności.
- Usługi pośredniczące w kierowaniu zapytań do modeli mogą przesyłać wrażliwe dane użytkowników.
W praktyce oznacza to, że skopiowany model może odpowiadać na pytania w sposób, który w oryginalnym Claude byłby zablokowany. To budzi obawy o bezpieczeństwo osób, które korzystają z zewnętrznych usług opartych na takich kopiach.
Reakcja amerykańskiej administracji
Zjawisko nie jest już tylko problemem firm technologicznych. W lutym Google Threat Intelligence Group (GTIG) opisała ataki destylacyjne jako nową formę kradzieży własności intelektualnej, która rozwinęła się wraz z rosnącym wykorzystaniem modeli AI. Według tej grupy zastrzeżona logika i specjalistyczne trenowanie dużych modeli językowych stają się celami o wysokiej wartości.
W lipcu sekretarz skarbu Scott Bessent powiedział Fox Business, że Biały Dom analizuje możliwość zdecydowanych działań wobec Chin w sprawie podejrzeń o kradzież własności intelektualnej w amerykańskich systemach AI.
„Jeśli zauważymy, że zwłaszcza zagraniczne modele okradają nasze duże firmy, mamy możliwość nałożenia sankcji z powodu tej kradzieży” – powiedział Bessent.
To sygnał, że administracja USA traktuje temat coraz poważniej i może przejść od ostrzeżeń do konkretnych restrykcji.