Papieska encyklika o AI to ostrzeżenie przed koncentracją władzy technologicznej

Papież Leon XIV opublikował w poniedziałek swoją pierwszą encyklikę zatytułowaną „Magnifica Humanitas”, poświconą „ochronie osoby ludzkiej w czasach sztucznej inteligencji”. Choć AI stanowi punkt wyjścia dokumentu, problemy na których skupia się papież są starsze i bardziej powszechne: nierówności, wojny, erozja demokracji oraz koncentracja władzy w rękach tych, którzy niekoniecznie dbają o to, by ludzkość zachowała swoją wielkość. Artykuł analizujący encyklikę można znaleźć w TechCrunch.

W 200-stronicowym dokumencie, który papież przedstawił u boku współzałożyciela Anthropic Chrisa Olaha, Leon XIV argumentuje, że technologia budowana i zarządzana przez małą elitę nie może z definicji służyć dobru wspólnemu.

Kluczowe wnioski

• Papież ostrzega, że koncentracja władzy technologicznej w rękach nielicznych prowadzi do nieprzejrzystości i ucieczki spod kontroli publicznej, zwiększając ryzyko zniekształconych form rozwoju.
• Encyklika wzywa do zakończenia wyścigu zbrojeń AI „o coraz potężniejsze algorytmy i większe zbiory danych”, który firmy i kraje traktują jako sposób na zdobycie dominacji geopolitycznej lub komercyjnej.
• Dokument został opublikowany kilka dni po tym, jak prezydent Donald Trump opóźnił podpisanie rozporządzenia wykonawczego dotyczącego AI, które dałoby rządowi nadzór nad nowymi modelami przed ich wydaniem.
• Profesor Paolo Carozza z Notre Dame podkreśla, że dezinformacja i deepfake'i napędzane przez AI „podkopały naszą zdolność do rozpoznawania tego, co jest prawdą, a co nie”.

Technologia jako narzędzie koncentracji władzy

„Gdy taka władza koncentruje się w rękach nielicznych, ma tendencję do stawania się nieprzejrzystą i ucieczki spod nadzoru publicznego, zwiększając ryzyko zniekształconych form rozwoju, które rodzą nowe zależności, wykluczenia, manipulacje i nierówności” – pisze papież w encyklice.

Leon XIV podkreśla, że podobnie jak każda poważna zmiana technologiczna, AI ma tendencję do wzmacniania władzy tych, którzy już posiadają zasoby ekonomiczne, wiedzę specjalistyczną i dostęp do danych. Elity mogą wykorzystywać swoją pozycję do „kształtowania wzorców informacji i konsumpcji, wpływania na procesy demokratyczne i kierowania dynamiką ekonomiczną na swoją korzyść”.

Papież wezwał do kierowania rozwojem AI przez „jasne kryteria i skuteczny nadzór” oparty na udziale społeczności, które będą dotknięte jego wpływem. Konkretnie zaapelował o zakończenie wyścigu zbrojeń AI między firmami i krajami.

Historyczny kontekst i współczesne wyzwania

Dynamika opisana przez Leona XIV nie jest nowa. Papież Leon XIII w encyklice „Rerum Novarum” z 1891 roku poruszał podobne kwestie koncentracji władzy podczas rewolucji przemysłowej. Nie trzeba jednak sięgać tak daleko wstecz – przejęcie Twittera przez Elona Muska i wykorzystanie platformy do pomocy w wyborze Trumpa, czy setki milionów dolarów płynące od elit technologicznych do komitetów politycznych w celu blokowania regulacji AI – to wzorce, które wyraźnie zainspirowały pracę Leona XIV.

Paolo Carozza, profesor prawa na Uniwersytecie Notre Dame, członek Papieskiej Akademii Nauk Społecznych i przewodniczący Rady Nadzorczej Meta, powiedział TechCrunch, że dezinformacja i deepfake'i napędzane przez AI „podkopały naszą zdolność do rozpoznawania tego, co jest prawdą, a co nie, i to rzeczywiście ma konsekwencje dla polityki demokratycznej”. Praktyki branży technologicznej polegające na „zbieraniu i manipulowaniu” danymi ludzkimi stanowią jego zdaniem „fundamentalne wyzwania dla wolności poznawczej”.

Papież dochodzi do tego samego wniosku, do którego doszło wielu innych obserwatorów: surrealistyczna moc i możliwości dzisiejszej AI znacznie podnoszą stawkę w tej grze. „Rozbrojenie oznacza zdyskredytowanie założenia, że władza techniczna automatycznie daje prawo do rządzenia” – napisał Leon XIV.