Badania Amazon doprowadziły do blokady modeli Anthropic przez Biały Dom

Badania cyberbezpieczeństwa firmy Amazon dotyczące modeli AI Anthropic doprowadziły do wprowadzenia przez Biały Dom kontroli eksportowych, które uniemożliwiły dostęp do najnowszych wersji Fable 5 i Mythos 5. Jak donosi Wall Street Journal, prezes Amazon Andy Jassy dzielił się wynikami badań z urzędnikami rządowymi krótko przed wydaniem dyrektywy.

Według raportu Amazon wykazał, że poprzez serię zapytań był w stanie skłonić model Fable 5 do udostępnienia informacji, które mogłyby zostać wykorzystane w cyberatakach.

Kluczowe wnioski

• Badania Amazon wykazały podatności w modelu Fable 5, które mogły być wykorzystane do cyberataków poprzez odpowiednie zapytania.
• Krótko po przekazaniu ustaleń przez Jassy'ego rząd zablokował dostęp do modeli dla obcokrajowców, co dotknęło także zagranicznych pracowników Anthropic.
• Anthropic kwestionuje klasyfikację problemu jako „jailbreak”, argumentując że podobne podatności występują w innych publicznie dostępnych modelach, w tym GPT 5.5.
• Konflikt między Anthropic a administracją Trumpa trwa od lutego, gdy firma odmówiła użycia swoich modeli do masowej inwigilacji Amerykanów i autonomicznych systemów bojowych.
• Eksperci ds. bezpieczeństwa, w tym Katie Moussouris z LutaSecurity, podważają znaczenie odkrytych podatności.

Kontrowersje wokół klasyfikacji zagrożenia

Anthropic oficjalnie zakwestionowało rządową interpretację odkrytych podatności. W oświadczeniu firma argumentowała, że podobne słabości można znaleźć w innych publicznie dostępnych modelach, w tym w GPT 5.5. Katie Moussouris, założycielka i prezes LutaSecurity, poparła to stanowisko na platformie BlueSky, pisząc: „Widziałam ten raport. To nie jest jailbreak.”

Była urzędniczka Departamentu Handlu Kate Koren w rozmowie z WSJ spekulowała, że niechęć Białego Domu do Anthropic mogła wpłynąć na decyzję o wprowadzeniu kontroli eksportowych. Komplikuje to sytuację fakt, że wielu badaczy Anthropic ma pochodzenie zagraniczne, co oznacza, że zostali odcięci od dostępu do własnych produktów.

Długotrwały konflikt z administracją Trumpa

Tensions między Anthropic a administracją Trumpa sięgają lutego, gdy firma odmówiła udostępnienia swoich modeli AI do masowej inwigilacji obywateli amerykańskich oraz napędzania autonomicznych systemów broni. W odpowiedzi Trump nakazał agencjom federalnym zaprzestanie korzystania z rozwiązań Anthropic.

Zaledwie kilka godzin później sekretarz obrony Pete Hegseth oficjalnie uznał firmę za zagrożenie dla łańcucha dostaw. Choć później wydawało się, że strony doszły do porozumienia i współpracowały nad rozszerzeniem dostępu do modelu Mythos, obecna sytuacja wskazuje na powrót napięć.

Amazon nie odpowiedziało na prośbę o komentarz w sprawie swoich badań cyberbezpieczeństwa. Sprawa pokazuje, jak skomplikowane mogą być relacje między gigantami technologicznymi a rządem w kwestiach związanych z bezpieczeństwem narodowym i rozwojem sztucznej inteligencji.