Papieska encyklika o AI wzywała do odpowiedzialnego nadzoru nad sztuczną inteligencją

Papież Leon XIV opublikował encyklikę „Magnifica Humanitas” („Wspaniała Ludzkość”), która zawiera istotne przesłanie dla świata technologii: „Technologia nigdy nie jest neutralna”. Dokument stanowi wezwanie do działania w obliczu największej zmiany w życiu ludzkości od czasów rewolucji przemysłowej — ery sztucznej inteligencji.

Papież przedstawia wybór, przed którym stoi ludzkość: między biblijną Wieżą Babel, symbolizującą bezrefleksyjny wzrost prowadzący do fragmentacji społeczeństwa, a odbudową Jerozolimy z Księgi Nehemiasza — przykładem współpracy i wspólnej odpowiedzialności wszystkich grup społecznych.

Kluczowe wnioski

• Encyklika podkreśla, że AI to produkt komercyjny kontrolowany przez niewielką grupę bardzo wpływowych osób, a nie siła natury czy niezbadana entność.
• Inwestorzy instytucjonalni, zarządzający aktywami o wartości ponad 400 miliardów dolarów, wypełniają lukę regulacyjną, składając wnioski akcjonariuszy dotyczące przejrzystości AI.
• Koalicje inwestorów wzywają gigantów technologicznych, w tym Alphabet, Amazon, Nvidia, Palantir i Uber, do odpowiedzialnego wykorzystywania AI.
• Szczególną uwagę zwrócono na wykorzystanie AI w konfliktach zbrojnych, opiece zdrowotnej, wpływ na środowisko i przemysł kreatywny.
• Wkrótce możliwa będzie podobna presja na OpenAI, Anthropic i Grok, gdy wejdą na rynki publiczne.

Luka regulacyjna i odpowiedź inwestorów

Systemy AI są obecnie wdrażane na szeroką skalę przy minimalnym nadzorze instytucjonalnym. Nie istnieje rada bezpieczeństwa AI, amerykańska Federalna Komisja Handlu ma ograniczone uprawnienia w zakresie projektowania algorytmów, a wytyczne National Institute of Standards and Technology są w większości ignorowane przez firmy. Unijna ustawa o AI jest częściowo w mocy, ale obejmuje jedynie niewielki fragment obszaru wdrożeń.

W tę próżnię wkroczyli inwestorzy instytucjonalni. Koalicje, w tym członkowie Interfaith Center on Corporate Responsibility, reprezentujący inwestorów zarządzających aktywami o wartości ponad 400 miliardów dolarów, przez ostatnie sezony proxy składały rezolucje żądające przejrzystości, oceny ryzyka i odpowiedzialności w zakresie wdrażania AI.

Konkretne działania i wyzwania

Akcjonariusze wzywali gigantów technologicznych do zapewnienia, że AI nie będzie używana do aktów przemocy lub innych naruszeń praw człowieka. Tragiczny przykład stanowiło wykorzystanie AI do identyfikacji celów tysięcy ataków rakietowych w czasie wojny z Iranem, które zabiły setki ludzi.

Inwestorzy kwestionowali także działania kadry zarządzającej CVS i UnitedHealth Group, aby zapewnić, że AI nie będzie podważać dobrostanu pacjentów i jakości opieki zdrowotnej w Stanach Zjednoczonych. W firmach takich jak Meta i Microsoft akcjonariusze krytykowali wpływ centrów danych AI na środowisko, które zużywają ogromne ilości energii i cennych zasobów wodnych.

W przemyśle kreatywnym inwestorzy wzywali kierownictwo Disney, Netflix i Warner Bros. do przejrzystości w zakresie wykorzystywania AI i obrony niepowtarzalnego ludzkiego elementu w opowiadaniu historii.

Encyklika papieża stanowi potwierdzenie działań już podejmowanych przez świadomych inwestorów, którzy działają w oparciu o przekonanie, że wykorzystywanie technologii do zabijania, szkodzenia czy uciskania ludzi jest błędne. Jak wskazuje dokument, „kluczowe jest, aby wykorzystanie AI, szczególnie gdy dotyczy dóbr publicznych i podstawowych praw, było kierowane jasnymi kryteriami i skutecznym nadzorem”.