Anthropic wzywa do globalnego spowolnienia rozwoju AI. Modele zbliżają się do samomodyfikacji

Anthropic, jedna z wiodących firm zajmujących się sztuczną inteligencją, przedstawiła kontrowersyjną propozycję: globalne spowolnienie rozwoju AI. Firma argumentuje, że modele zbliżają się niebezpiecznie do zdolności projektowania własnych następców. Szczegóły tego apelu można znaleźć w raporcie Spider's Web.

Według danych Anthropic, jeśli obecny trend się utrzyma, AI może osiągnąć poziom „recursive self-improvement” już w ciągu najbliższych dwóch lat. To oznaczałoby autonomiczne ulepszanie samej siebie przez sztuczną inteligencję.

Kluczowe wnioski

• Programiści w Anthropic dostarczają osiem razy więcej kodu na kwartał niż w latach 2021–2025, przy czym ponad 80% kodu w maju 2026 roku było generowane przez AI Claude.
• Model Claude Opus ewoluował od zadań 4-minutowych (marzec 2024) do 12-godzinnych (rok później), a najnowszy Mythos Preview pracuje nieprzerwanie przez co najmniej 16 godzin.
• Anthropic jako jedyna duża firma AI osiągnęła rentowność, podczas gdy konkurenci jak OpenAI wciąż borykają się z zobowiązaniami finansowymi.
• Firma powołała The Anthropic Institute do analizy konsekwencji rozwoju potężnych systemów AI i ich wpływu na społeczeństwo.
• Krytycy zarzucają Anthropic grę na strachu i próbę spowolnienia konkurencji po osiągnięciu przewagi technologicznej.

Dramatyczny skok w możliwościach AI

Dane prezentowane przez Anthropic pokazują bezprecedensowe przyspieszenie rozwoju sztucznej inteligencji. Firma dokumentuje, jak jej modele Claude przeszły drogę od wykonywania prostych zadań do złożonych operacji wymagających wielu godzin pracy.

Jeszcze w marcu 2024 roku Claude Opus 3 radził sobie z zadaniami trwającymi około czterech minut. Rok później Claude Opus 4.6 wykonywał już zadania 12-godzinne. Najnowszy model Mythos Preview osiąga górną granicę tego, co potrafią zmierzyć niezależne organizacje testujące.

Jeśli trend się utrzyma, jeszcze w 2026 roku AI może wykonywać zadania zajmujące ludziom dni, a w 2027 roku — całe tygodnie. To fundamentalna zmiana w postrzeganiu AI — z asystenta w pełnoprawnego współpracownika.

Anthropic Institute i analiza ryzyka

W marcu Anthropic utworzył The Anthropic Institute — jednostkę badawczą analizującą konsekwencje rozwoju potężnych systemów AI. Instytut łączy inżynierów, ekonomistów i badaczy społecznych, mając dostęp do wewnętrznych danych niedostępnych dla zewnętrznych obserwatorów.

Zespół analizuje wpływ AI na rynek pracy, bada zachowania modeli w realnym świecie i prognozuje tempo rozwoju technologii. To właśnie Instytut publikuje dane o przyspieszającym rozwoju zdolności modeli i o tym, jak AI zaczyna przejmować kolejne etapy procesu tworzenia kolejnych wersji AI.

Kontrowersje wokół propozycji spowolnienia

Nie wszyscy wierzą w szczerość intencji Anthropic. Krytycy wskazują, że firma może grać na strachu, aby zyskać przewagę regulacyjną. Szczególne podejrzenia budzi ograniczona dostępność modelu Mythos, który według firmy jest „zbyt potężny” do szerokiego udostępnienia.

Pojawiają się też zarzuty o próbę spowolnienia konkurencji w momencie, gdy Anthropic osiągnął przewagę technologiczną i finansową. Firma wyceniana na 965 miliardów dolarów przygotowuje się do wejścia na giełdę, będąc jednocześnie jedyną rentowną dużą firmą AI.

Propozycja globalnego spowolnienia wymaga współpracy między Stanami Zjednoczonymi, Chinami i wszystkimi największymi laboratoriami AI — co w praktyce może okazać się niemożliwe do zrealizowania.