Naukowcy opracowali nowy system zarządzania autonomicznymi agentami AI

Naukowcy opracowali nową metodę zarządzania autonomicznymi systemami AI, która wykracza poza tradycyjne mechanizmy kontroli dostępu. Zespół badaczy pod kierunkiem Anupama Joshiego przedstawił rozwiązanie AgenticRei, które wprowadza złożone zasady zarządzania agentami AI w czasie rzeczywistym. Badanie zostało opublikowane w arXiv i ma być zaprezentowane na IEEE Symposium on Agentic Services w 2026 roku.

Tradycyjne systemy polityk bezpieczeństwa, takie jak XACML, Rego czy Cedar, koncentrują się jedynie na zezwalaniu lub zabranianiu określonych działań. Jednak autonomiczne agenty AI wymagają znacznie bardziej zaawansowanego nadzoru, który uwzględnia pełną strukturę zarządzania przedsiębiorstwem.

Kluczowe wnioski

• AgenticRei to pierwszy system, który realizuje kompleksowe wymagania zarządzania agentami AI, w tym zarządzanie zobowiązaniami, rozwiązywanie konfliktów polityk i rozumowanie ontologiczne.
• System wykorzystuje język polityk deontonicznych oparty na frameworku Rei, wyrażony w OWL (Web Ontology Language) i ewaluowany przez silnik logiczny działający poza modelem językowym.
• Rozwiązanie obejmuje nie tylko kontrolę narzędzi używanych przez agenta, ale również komunikację między agentami, co jest kluczowe dla bezpieczeństwa systemów wieloagentowych.
• Badacze wykazali, że polityki deontoniczne mogą wyrażać ograniczenia bezpieczeństwa i prywatności, których nie można zdefiniować w obecnych systemach produkcyjnych.
• System komponuje się naturalnie ze standardowymi frameworkami branżowymi, takimi jak A2AS.

Problem zarządzania agentami AI

Autonomiczne systemy AI napędzane przez duże modele językowe wprowadzają nową klasę wyzwań związanych z bezpieczeństwem, prywatnością i zgodnością z przepisami. Agent, który może wywoływać narzędzia, manipulować danymi, instalować oprogramowanie i koordynować działania z innymi agentami napříč granicami organizacyjnymi, musi być ograniczony nie tylko przez uwierzytelnianie i kontrolę dostępu, ale przez pełną strukturę zarządzania przedsiębiorstwem.

Ta struktura zarządzania obejmuje specyfikację tego, co agenci mogą i czego nie mogą robić, do czego są zobowiązani po określonych działaniach (na przykład powiadomienie CISO), w jakich warunkach stałe zobowiązanie może zostać uchylone, oraz które zasady mają pierwszeństwo, gdy polityki są sprzeczne.

Rozwiązanie AgenticRei

System AgenticRei adresuje te wyzwania poprzez implementację polityk deontonicznych, które wykraczają poza prosty model zezwalania i zabraniania. Kluczowe komponenty systemu obejmują:

Zarządzanie cyklem życia zobowiązań — system może definiować, co agent musi zrobić po wykonaniu określonych działań i monitorować realizację tych zobowiązań w czasie.

Rozwiązywanie konfliktów meta-polityk — gdy różne polityki są sprzeczne, system posiada mechanizmy do określenia, która zasada ma pierwszeństwo.

Dyspensacje — możliwość uchylenia zobowiązań w określonych okolicznościach, co zapewnia elastyczność przy zachowaniu kontroli.

Rozumowanie ontologiczne — system może pracować z hierarchiami klas domenowych powszechnie występującymi w aplikacjach takich jak ochrona zdrowia, cyberbezpieczeństwo czy prywatność danych.

Praktyczne zastosowania

Badacze wykazali przez przykłady, że polityki deontoniczne mogą wyrażać ograniczenia zarządzania dotyczące bezpieczeństwa i prywatności, których w większości nie można wyrazić w obecnych silnikach produkcyjnych. System ten oferuje kompleksowe podejście do zarządzania autonomicznymi agentami AI, które jest niezbędne w miarę wzrostu złożoności i autonomiczności systemów AI w środowiskach przedsiębiorstw.

Rozwiązanie AgenticRei stanowi znaczący krok naprzód w kierunku bezpiecznego wdrażania autonomicznych systemów AI w organizacjach, zapewniając mechanizmy kontroli wykraczające daleko poza tradycyjne systemy zarządzania dostępem.