Eksperci cyberbezpieczeństwa protestują przeciwko zakazowi USA na modele Anthropic

Grupa 76 ekspertów cyberbezpieczeństwa wystosowała list otwarty do rządu USA, wzywając do zniesienia zakazu eksportu najnowszych modeli AI Anthropic — Fable i Mythos. Według ekspertów, ograniczenie dostępu do tych zaawansowanych narzędzi osłabia obronę cybernetyczną, podczas gdy przeciwnicy szybko się rozwijają.

W piątek rząd USA nakazał Anthropic ograniczenie eksportu modeli Fable i Mythos, powołując się na względy bezpieczeństwa narodowego, bez podania szczegółowych przyczyn. W odpowiedzi firma zawiesiła dostęp do tych modeli dla wszystkich użytkowników na świecie.

Kluczowe wnioski

• 76 ekspertów cyberbezpieczeństwa, w tym Alex Stamos (były szef bezpieczeństwa Facebooka) i Casey Ellis (założyciel Bugcrowd), protestuje przeciwko zakazowi modeli Anthropic.
• Rząd USA wprowadził ograniczenia na modele Fable i Mythos bez szczegółowego uzasadnienia, co skłoniło Anthropic do globalnego wstrzymania dostępu.
• Zakaz prawdopodobnie wynikał z niepublicznego raportu Amazon o metodzie „jailbreakowania” modelu Fable, którą eksperci uważają za błędnie zinterpretowaną.
• Podobne techniki działają również na modelach GPT-5.5, Claude Opus 4.8, Sonnet i chińskich modelach jak Kimi 2.7.
• Eksperci żądają transparentnych regulacji opartych na badaniach naukowych, a nie pochopnych decyzjach administracyjnych.

Spór o interpretację zagrożenia

Zakaz prawdopodobnie opierał się na raporcie badaczy Amazon, który opisywał metodę obejścia zabezpieczeń modelu Fable. Jednak Katie Moussouris, jedna z sygnatariuszek listu i założycielka Luta Security, która zapoznała się z niepublicznym dokumentem, twierdzi, że badacze nie zademonstrali prawdziwego „jailbreaku”.

Według Moussouris, naukowcy z Amazon po prostu poprosili model Fable o naprawę kodu open source zawierającego znane podatności oraz celowo umieszczone luki, po tym jak model początkowo odmówił „przeglądu kodu pod kątem problemów bezpieczeństwa”.

„Zachowanie opisane w raporcie nie może być w znaczący sposób naprawione, a każda próba tylko osłabi model w celach obronnych” — napisała Moussouris.

Ograniczenia hamują obronę

Model Mythos, uruchomiony w wersji preview w kwietniu, był tak skuteczny w znajdowaniu podatności bezpieczeństwa, że Anthropic ściśle ograniczyła dostęp do około 50 firm, ostatnio rozszerzając grupę do 150 organizacji w 15 krajach. W zeszłym tygodniu firma wypuściła Fable — publiczną wersję Mythos z rygorystycznymi zabezpieczeniami blokującymi użycie w biologii, chemii i cyberbezpieczeństwie.

Zabezpieczenia okazały się tak restrykcyjne, że eksperci cyberbezpieczeństwa stwierdzili, iż model blokował praktycznie wszystkie zapytania związane z bezpieczeństwem. List otwarty podkreśla, że obrońcy potrzebują możliwości proszenia AI o naprawienie błędów w pliku, wyjaśnienie znaczenia poprawki i napisanie testów potwierdzających skuteczność łatki.

Postulaty ekspertów

Sygnatariusze listu, wśród których znaleźli się Jon Callas (słynny kryptograf i były menedżer ds. architektury bezpieczeństwa Apple), Paul Vixie (informatyk) czy Dino Dai Zovi (były szef inżynierii bezpieczeństwa w Block), żądają „demokratycznego procesu tworzenia przepisów” opartego na badaniach naukowych ekspertów z przemysłu i środowisk akademickich.

Eksperci ostrzegają, że „odbieranie najlepszych możliwości obrońcom bez dobrego powodu, gdy nasi przeciwnicy szybko się rozwijają, jest niebezpieczne”. Wzywają do stworzenia przejrzystych i sprawiedliwie egzekwowanych regulacji, używanych „tylko w minimalnym zakresie niezbędnym do zapewnienia bezpieczeństwa amerykańskiej opinii publicznej”.