Eksperci ostrzegają przed katastrofą AI. Mówią o „momencie Czarnobyla”

Podczas jednej z największych konferencji poświęconych sztucznej inteligencji eksperci z USA i Chin ostrzegli przed niekontrolowanym rozwojem AI, porównując potencjalne skutki do „momentu Czarnobyla”. Według relacji portalu Spider's Web, badacze obawiają się, że awaria lub niewłaściwe wykorzystanie zaawansowanych modeli AI może doprowadzić do trwałej utraty zaufania społecznego do całej technologii.

W wydarzeniu organizowanym przez Pekińską Akademię Sztucznej Inteligencji uczestniczyli uznani specjaliści, w tym Whitfield Diffie, współtwórca kryptografii klucza publicznego, oraz Andrew Barto, laureat Nagrody Turinga za badania nad uczeniem przez wzmacnianie.

Kluczowe wnioski

• Konsensus ekspertów: Niemal wszyscy przedstawiciele środowiska AI są zgodni, że sztuczna inteligencja nie może doczekać się własnego „momentu Czarnobyla” — wydarzenia, które zniszczy zaufanie do technologii.

• Główne zagrożenie to cyberprzestępczość: Największe obawy dotyczą wykorzystania zaawansowanych modeli przez cyberprzestępców, którzy mogą używać systemów generujących kod i agentów AI do przeprowadzania skomplikowanych ataków.

• Problem modeli open source: Otwarta dystrybucja zaawansowanych modeli ułatwia badania, ale ogranicza możliwości kontroli nad ich wykorzystaniem — część chińskich firm już nie publikuje najbardziej zaawansowanych rozwiązań jako open source.

• Potrzebna współpraca USA-Chiny: Mimo geopolitycznej rywalizacji, eksperci przekonują, że zagrożenia związane z AI wymagają współpracy obu supermocarstw, podobnie jak w okresie zimnej wojny przy ograniczaniu ryzyka nuklearnego.

• AI może służyć również obronie: W długoterminowej perspektywie narzędzia oparte na sztucznej inteligencji mogą zwiększyć skuteczność systemów obronnych przed cyberatakami.

Cyberbezpieczeństwo jako główne wyzwanie

Uczestnicy konferencji podkreślali, że najbardziej prawdopodobnym scenariem katastrofy nie jest bunt sztucznej inteligencji znany z filmów science fiction, lecz wykorzystanie zaawansowanych modeli przez cyberprzestępców. Nowoczesne systemy generujące kod programistyczny oraz agenci AI mogą znacząco ułatwić przeprowadzanie skomplikowanych cyberataków, automatyzując wiele działań i obniżając poziom wiedzy wymaganej od osób planujących ataki.

Podczas konferencji eksperci omawiali nowe rodzaje podatności pojawiających się w kodzie tworzonym przez AI, wykorzystanie agentów do automatyzacji włamań oraz prowadzenia kampanii opartych na socjotechnice. Szczególne obawy wzbudza coraz bardziej zaawansowane możliwości modeli udostępnianych na otwartych licencjach.

Według anonimowego przedstawiciela jednej z czołowych chińskich firm rozwijających sztuczną inteligencję — cytowanego przez magazyn Wired — właśnie względy bezpieczeństwa sprawiają, że część najbardziej zaawansowanych modeli w Chinach nie jest już publikowana jako open source.

Apel o międzynarodową współpracę

Stephen Casper, informatyk z Massachusetts Institute of Technology, który uczestniczył w konferencji zdalnie, podkreślił w rozmowie z Wired, że sztuczna inteligencja jest technologią o globalnym znaczeniu, a jej korzyści i zagrożenia nie kończą się na granicach pojedynczych państw.

Lin Yun z Shanghai Jiao Tong University, zajmujący się badaniami nad cyberbezpieczeństwem i sztuczną inteligencją, ocenia, że w najbliższym czasie przewagę mogą uzyskać cyberprzestępcy korzystający z AI. W dłuższej perspektywie rozwój nowych narzędzi obronnych opartych na tej samej technologii może jednak zwiększyć skuteczność systemów bezpieczeństwa.

Profesor podkreślił znaczenie współpracy międzynarodowej, argumentując, że wspólne rozumienie zagrożeń ułatwia tworzenie jednolitych zasad bezpieczeństwa i standardów technicznych, jednocześnie pozwalając ograniczać ryzyko systemowe bez ujawniania wrażliwych informacji operacyjnych.

Casper porównał obecną sytuację do okresu zimnej wojny, kiedy Stany Zjednoczone i Związek Radziecki prowadziły wyścig zbrojeń nuklearnych, a jednocześnie współpracowały nad ograniczaniem ryzyka globalnej katastrofy. Podobne podejście może okazać się niezbędne również w przypadku sztucznej inteligencji, zwłaszcza że kolejne generacje modeli dysponują coraz większymi możliwościami programowania, automatyzacji działań i wyszukiwania podatności w systemach informatycznych.