Armia amerykańska przekroczyła budżet 100 mln tokenów AI w zaledwie kilka tygodni, co zmusiło dowództwo do przywrócenia limitów użytkowania.

Źródło zdjęcia: WIRED
Armia amerykańska wyczerpała roczny limit tokenów AI w zaledwie kilka tygodni, co zmusiło dowództwo do przywrócenia ograniczeń użytkowania. Sytuacja pokazuje, jak szybko organizacje mogą przekroczyć planowane budżety na sztuczną inteligencję, informuje magazyn Wired.
Nieco ponad miesiąc po tym, jak Departament Obrony pochwalił się, że prawie połowa z 3,5 miliona pracowników korzysta z AI w pracy, członkowie Army's Combat Capabilities Development Command otrzymali e-mail informujący o wyczerpaniu tokenów i konieczności ograniczenia użytkowania.
Armia korzysta z platformy Ask Sage, wielomodalnego systemu generatywnej AI, który umożliwia używanie różnych dużych modeli językowych, w tym Gemini od Alphabet, Llama od Meta i ChatGPT od OpenAI. System jest akredytowany do obsługi informacji niejawnych kontrolowanych i wykorzystywany przez Chief Digital and AI Office (CDAO) Departamentu Obrony do procesów zakupowych.
Zgodnie z informacjami na stronie internetowej armii, Ask Sage był używany do wykonywania zadań takich jak „reklasyfikacja opisów stanowisk, co obejmuje definiowanie i dostosowywanie obowiązków służbowych, doświadczenia i kwalifikacji”. Dla platformy Ask Sage jeden token odpowiada około 3,7 znaku tekstu.
Armia nie jest pierwszą organizacją, która musi przemyśleć swoją niemal nieograniczoną politykę korzystania z generatywnej AI. Meta, po zachęcaniu pracowników do „maksymalizacji tokenów”, cicho usunęła tablicę wyników śledzącą ich użycie i obecnie próbuje ograniczyć zużycie. W zeszłym tygodniu Adam Mosseri, szef Instagrama w Meta, zasugerował wprowadzenie limitów tokenów na inżyniera w firmie.
Według doniesień Fortune, Uber również doświadczył sytuacji, w której inżynierowie wyczerpali roczną pulę tokenów generatywnej AI w zaledwie cztery miesiące. Pokazuje to szerszy trend w branży technologicznej, gdzie entuzjazm dla AI szybko napotyka na ograniczenia budżetowe i praktyczne.
Pracownik armii, który rozmawiał z WIRED anonimowo, ocenia, że generatywne narzędzia AI nie są szczególnie przydatne w jego pracy i okazują się zawodne. Jeden z modeli nawet twierdził, że wykonał zadanie, którego w rzeczywistości nie zrealizował. „Myślę, że na pewno istnieje kilka aspektów biurokracji rządu federalnego USA, w których te narzędzia mogłyby być pomocne. Ale bezmyślne zastosowanie i użytkowanie nie doprowadzi do skutecznego, wydajnego i godnego zaufania wdrożenia” — komentuje.
Sytuacja w armii amerykańskiej ilustruje wyzwania związane z masowym wdrażaniem technologii AI w dużych organizacjach, gdzie entuzjazm dla nowych możliwości szybko napotyka na praktyczne ograniczenia kosztowe i operacyjne.

Giganty AI walczą o przyszłość robotyki. Anthropic rzeczywiście rozmawiał z Physical Intelligence o przejęciu, mimo że CEO firmy zaprzeczył plotkom.

Anthropic zawarło z AMD umowę wartą do 5 miliardów dolarów na dostawę 2 gigawatów GPU do trenowania modeli Claude. Pierwsza faza w 2027 roku.

Koncern farmaceutyczny wdraża drugi klaster DGX SuperPOD z ośmioma systemami Vera Rubin, oferując 10x wyższą wydajność i nieograniczony dostęp do AI.