Rząd USA zmusił Anthropic do wycofania modeli Fable 5 i Mythos 5. Eksperci kwestionują uzasadnienie, sugerując że zakaz może wzmocnić pozycję firmy.

Źródło zdjęcia: TechCrunch
Rząd USA zmusił Anthropic do wycofania dwóch najnowszych modeli AI — Fable 5 i Mythos 5 — powołując się na kwestie bezpieczeństwa narodowego. Decyzja ta wywołała kontrowersje wśród ekspertów, którzy kwestionują uzasadnienie zakazu, sugerując jednocześnie, że paradoksalnie może on wzmocnić pozycję firmy na rynku. Szczegóły sprawy omawia podcast Equity w serwisie TechCrunch.
Pod koniec poprzedniego tygodnia amerykański rząd podjął bezprecedensową decyzję o wymuszeniu na Anthropic wycofania dwóch najnowszych modeli sztucznej inteligencji. Jako uzasadnienie podano obawy o bezpieczeństwo narodowe, które miały wyniknąć z odkrycia badaczy Amazona dotyczącego możliwości obejścia zabezpieczeń modelu Fable 5.
Reakcja społeczności ekspertów była jednak krytyczna. Badacze cyberbezpieczeństwa wystosowali otwarty list, w którym nazwali posunięcie rządu niebezpiecznym. Co więcej, samo Anthropic zwróciło uwagę na istotny fakt — podobne luki bezpieczeństwa występują również w innych dostępnych na rynku modelach AI, co stawia pod znakiem zapytania selektywność działań władz.
Zakaz rządowy ma daleko idące konsekwencje dla różnych grup interesariuszy. Przede wszystkim dotyka deweloperów, którzy budowali swoje aplikacje i usługi w oparciu o platformę Anthropic. Muszą oni teraz szukać alternatywnych rozwiązań lub czekać na rozwiązanie sporu.
Sytuacja ta jest również uważnie obserwowana przez potencjalnych inwestorów, szczególnie w kontekście planowanego IPO Anthropic. Paradoksalnie jednak, jak sugerują eksperci w podcaście Equity, kontrowersyjny zakaz może nieintencjonalnie pomóc marce firmy, generując dodatkowy rozgłos i pozycjonując ją jako potencjalnie przełomową siłę w branży AI.
Obecna sytuacja jest kolejnym rozdziałem w skomplikowanych relacjach między Anthropic a administracją Trumpa. Pozostaje otwarte pytanie, czy decyzja o zakazie wynika z rzeczywistych obaw o bezpieczeństwo, czy też jest elementem szerszej strategii politycznej wobec firm AI. Brak konsekwencji w stosowaniu podobnych środków wobec innych firm z analogicznymi problemami bezpieczeństwa może sugerować, że motywy nie są wyłącznie techniczne.
Sprawa Anthropic pokazuje rosnące napięcie między innowacjami w dziedzinie AI a próbami ich regulacji przez władze federalne, co może mieć długotrwałe konsekwencje dla całej branży sztucznej inteligencji w Stanach Zjednoczonych.

Allen Institute for AI opublikował MolmoMotion — model prognozujący trajektorie ruchu 3D obiektów sterowany językiem naturalnym, wraz z największym zbiorem danych 1,16M filmów.

Spór Antropic z administracją Trumpa ujawnia chaotyczną naturę amerykańskich regulacji AI, gdzie decyzje podejmowane są bez jasnych zasad.

Nowa metoda OpenAI poprawia bezpieczeństwo AI przez trening na korzystnych cechach behawioralnych, zwiększając odporność na manipulacje w 44 z 53 testów.