Google zatrzymało pierwszy atak hakerski zero-day opracowany przez sztuczną inteligencję

To pierwszy przypadek, gdy Google znalazło dowody na wykorzystanie AI w tego typu ataku, choć badacze zastrzegli, że „nie wierzą, aby użyto Gemini”.

Kluczowe wnioski

• Google po raz pierwszy zidentyfikowało i zatrzymało atak zero-day opracowany przy pomocy sztucznej inteligencji.
• Hakerzy planowali „masowy atak eksploitacyjny” na system dwuetapowego uwierzytelniania w narzędziu do administracji systemów.
• Dowodami na użycie AI były m.in. „halucynowany wynik CVSS” i formatowanie charakterystyczne dla danych treningowych LLM.
• Google obserwuje rosnące wykorzystanie AI przez przestępców do znajdowania i eksploatacji luk bezpieczeństwa.
• Hakerzy używają technik „persona-driven jailbreaking”, instruując AI, aby udawało eksperta od bezpieczeństwa.

Ślady sztucznej inteligencji w kodzie

Badacze Google znaleźli w skrypcie Python wykorzystywanym do eksploitu oznaki wskazujące na pomoc AI. Wśród dowodów znalazł się „halucynowany wynik CVSS” oraz „uporządkowane, podręcznikowe” formatowanie spójne z danymi treningowymi dużych modeli językowych.

Exploit wykorzystywał „wysokopoziomową lukę w logice semantycznej, gdzie programista zakodował na stałe założenie zaufania” w systemie 2FA platformy. To kolejny przypadek po tygodniach dyskusji nad możliwościami modeli AI ukierunkowanych na cyberbezpieczeństwo, takich jak Mythos od Anthropic, oraz niedawno ujawnionej luce w Linuksie odkrytej przy wsparciu AI.

Rosnące zagrożenie AI w cyberprzestępczości

Raport Google wskazuje, że hakerzy coraz częściej wykorzystują AI do znajdowania i wykorzystywania luk bezpieczeństwa. Przestępcy stosują techniki „persona-driven jailbreaking”, aby skłonić AI do znajdowania podatności — na przykład poprzez polecenia instruujące AI, aby udawało eksperta od bezpieczeństwa.

Dodatkowo, hakerzy dostarczają modelom AI całe repozytoria danych o lukach bezpieczeństwa i wykorzystują narzędzia takie jak OpenClaw w sposób sugerujący „zainteresowanie udoskonalaniem payload'ów generowanych przez AI w kontrolowanych środowiskach, aby zwiększyć niezawodność eksploitów przed wdrożeniem”.

Google zauważa także, że same systemy AI stają się celem ataków, szczególnie „zintegrowane komponenty, które nadają systemom AI ich użyteczność, takie jak autonomiczne umiejętności i łączniki danych zewnętrznych”.

Odkrycie Google pokazuje nową fazę w cyberprzestępczości, gdzie sztuczna inteligencja staje się zarówno narzędziem ataków, jak i ich celem.