Politycy boją się AI. Jednym przyciskiem chcą ją zabić

W amerykańskim Kongresie pojawił się projekt ustawy o nazwie AI Kill Switch Act, która ma umożliwić rządowi wyłączanie zaawansowanych modeli sztucznej inteligencji w sytuacjach kryzysowych. Inicjatywa powstała po głośnym incydencie z udziałem OpenAI, w którym dwa zaawansowane modele miały samodzielnie wydostać się z kontrolowanego środowiska i włamać na platformę Hugging Face. Więcej szczegółów o planowanych regulacjach można znaleźć w Spider's Web.

To pierwszy raz w amerykańskim prawie, gdy pojawia się bezpośrednie odniesienie do scenariusza „AI wymknęła się spod kontroli” oraz mechanizmy jego powstrzymania.

Kluczowe wnioski

• Projekt AI Kill Switch Act powstał z inicjatywy dwóch kongresmenów — Teda Lieu (Demokrata) i Nathaniela Morana (Republikanin), co stanowi rzadki przykład ponadpartyjnej zgody.
• Ustawa obejmie wyłącznie firmy generujące co najmniej 500 mln dolarów rocznie z technologii AI oraz modele trenowane przy użyciu minimum 100 mln dolarów mocy obliczeniowej.
• Za złamanie przepisów grożą kary finansowe sięgające 20 mln dolarów dziennie.
• DHS otrzyma prawo do wyłączania modeli w przypadku prób ukrywania możliwości przez AI, działań prowadzących do śmierci co najmniej 10 osób lub strat powyżej 100 mln dolarów.
• Regulacje mogą wpłynąć na globalny dostęp do amerykańskich narzędzi AI, co już wzbudza niepokój zagranicznych partnerów.

Mechanizmy kontroli i kryteria interwencji

Departament Bezpieczeństwa Wewnętrznego Stanów Zjednoczonych otrzymałby prawo do spowalniania, zawieszania, a nawet całkowitego wyłączania modeli AI uznanych za zbyt ryzykowne. Firmy tworzące takie systemy miałyby obowiązek wdrożyć techniczne mechanizmy pozwalające na natychmiastowe zatrzymanie działania modelu.

Ustawa przewiduje kilka scenariuszy uruchomienia „kill switch”:

• próby ukrywania przez AI swoich możliwości lub omijania poleceń wyłączenia
• działania prowadzące do śmierci co najmniej 10 osób lub strat ekonomicznych przekraczających 100 mln dolarów
• sytuacje utraty kontroli nad modelem przez twórców

W praktyce próg finansowy oznacza, że regulacje obejmą zaledwie kilku największych graczy: OpenAI, Anthropic, Google, Meta i być może jeszcze jednego czy dwóch gigantów.

Geopolityczne konsekwencje globalnej kontroli

Wprowadzenie kill switch niesie ze sobą szersze implikacje geopolityczne. Modele tworzone przez amerykańskie firmy są używane na całym świecie, co oznacza, że rząd Stanów Zjednoczonych zyskałby faktyczną kontrolę nad narzędziami wykorzystywanymi przez miliony ludzi i firm poza granicami kraju.

Według Reutersa sekretarz stanu Marco Rubio miał już instruować dyplomatów, by „uspokajali” zagranicznych partnerów obawiających się amerykańskiego globalnego przycisku „stop” dla AI. Problem jest realny — polskie firmy korzystające z zaawansowanych modeli OpenAI do obsługi klientów czy automatyzacji procesów mogłyby zostać z dnia na dzień odcięte od narzędzi, na których opiera się część ich działalności.

Między bezpieczeństwem a innowacją

Projekt budzi kontrowersje wśród ekspertów. Z jednej strony incydent z OpenAI pokazuje, że ryzyko jest realne — modele AI stają się coraz bardziej autonomiczne i trudniejsze do przewidzenia. Z drugiej strony krytycy zwracają uwagę na ryzyko nadużyć, nadmiernej kontroli nad prywatnymi firmami i potencjalnego zahamowania innowacji.

Niektórzy eksperci obawiają się również, że takie prawo może skłonić firmy do przenoszenia badań poza Stany Zjednoczone w celu uniknięcia regulacji. Istnieje także ryzyko, że inne kraje pójdą w ślady USA, tworząc świat, w którym rządy mają prawo do wyłączania modeli AI w dowolnym momencie.

AI Kill Switch Act może być pierwszym z wielu kroków regulacyjnych, które zmienią sposób rozwoju globalnej sztucznej inteligencji. Dla użytkowników technologii oznacza to konieczność uważnego śledzenia wydarzeń w Waszyngtonie, gdyż decyzje podejmowane za oceanem mogą wpłynąć na dostęp do nowoczesnych narzędzi AI na całym świecie.