79% kadry sektora publicznego obawia się bezpieczeństwa danych AI. SLM oferują lokalną kontrolę i większe bezpieczeństwo niż duże modele.

Źródło zdjęcia: MIT Technology Review

Startup ogłosił sklonowanie czterech czerwonych wilków, ale społeczność naukowa kwestionuje autentyczność osiągnięcia i cele projektu.

Zuckerberg pracuje nad swoim fotorealistycznym awatarem AI, a Dorsey chce zarządzać 6000 pracowników przez sztuczną inteligencję.
Sektor publiczny stoi przed wyjątkowym wyzwaniem w zakresie wdrażania sztucznej inteligencji. O ile organizacje prywatne mogą pozwolić sobie na elastyczne podejście do AI, instytucje rządowe muszą radzić sobie z rygorystycznymi ograniczeniami bezpieczeństwa i operacyjnymi. Jak wynika z najnowszej analizy MIT Technology Review, małe modele językowe (SLM) mogą być kluczem do skutecznego wdrożenia AI w administracji publicznej.
Badanie Capgemini pokazuje, że aż 79 procent kadry zarządzającej sektora publicznego na świecie wyraża obawy dotyczące bezpieczeństwa danych AI. To zrozumiałe, biorąc pod uwagę wrażliwość danych rządowych i prawne obowiązki związane z ich wykorzystaniem.
• Ograniczenia operacyjne: Sektor publiczny wymaga pełnej kontroli nad danymi, weryfikowalności informacji i minimalnych zakłóceń operacyjnych, co utrudnia wdrażanie standardowych rozwiązań AI
• Infrastruktura jako bariera: 65 procent liderów sektora publicznego ma problemy z ciągłym wykorzystaniem danych w czasie rzeczywistym i na dużą skalę
• SLM jako rozwiązanie: Małe modele językowe, używające miliardów zamiast setek miliardów parametrów, oferują większe bezpieczeństwo przy lokalnym hostingu
• Przewaga wyszukiwania: AI może zrewolucjonizować sposób, w jaki rząd przeszukuje i zarządza ogromnymi ilościami nieustrukturyzowanych danych
• Prognoza wzrostu: Gartner przewiduje, że do 2027 roku małe, wyspecjalizowane modele AI będą używane trzy razy częściej niż duże modele językowe
Gdy organizacje prywatne rozwijają AI, zazwyczaj zakładają określone warunki: ciągłą łączność z chmurą, poleganie na scentralizowanej infrastrukturze, akceptację niepełnej przejrzystości modeli i ograniczone restrykcje dotyczące przepływu danych. Dla wielu instytucji państwowych przyjęcie tych warunków może być jednak niebezpieczne lub wręcz niemożliwe.
Jak wyjaśnia Han Xiao, wiceprezes ds. AI w Elastic: "Agencje rządowe muszą być bardzo restrykcyjne w kwestii tego, jakiego rodzaju dane wysyłają do sieci. To wyznacza wiele granic w sposobie myślenia o danych i zarządzaniu nimi".
Ograniczenia infrastrukturalne dodatkowo komplikują sytuację. Organizacje rządowe często mają trudności z uzyskaniem jednostek przetwarzania graficznego (GPU) używanych do trenowania i dostępu do złożonych modeli AI. "Rząd nie kupuje często GPU, w przeciwieństwie do sektora prywatnego — nie są przyzwyczajeni do zarządzania infrastrukturą GPU. Dostęp do GPU w celu uruchomienia modelu stanowi wąskie gardło dla większości sektora publicznego", wskazuje Xiao.
Liczne niezbywalne wymagania w sektorze publicznym sprawiają, że duże modele językowe (LLM) stają się nieopłacalne. SLM mogą być jednak hostowane lokalnie, oferując większe bezpieczeństwo i kontrolę. Są to wyspecjalizowane modele AI, które zazwyczaj używają miliardów, a nie setek miliardów parametrów, co czyni je znacznie mniej wymagającymi obliczeniowo niż największe LLM.
Badanie empiryczne wykazało, że SLM działają równie dobrze lub lepiej niż LLM. Pozwalają one na efektywne i skuteczne wykorzystanie wrażliwych informacji, unikając jednocześnie złożoności operacyjnej związanej z utrzymaniem dużych modeli. "Łatwo jest użyć ChatGPT do korekty. Bardzo trudno jest uruchomić własne duże modele językowe równie płynnie w środowisku bez dostępu do sieci", wyjaśnia Xiao.
"Kiedy ludzie w sektorze publicznym słyszą AI, prawdopodobnie myślą o ChatGPT. Ale możemy być znacznie bardziej ambitni", mówi Xiao. "AI może zrewolucjonizować sposób, w jaki rząd przeszukuje i zarządza ogromnymi ilościami posiadanych danych".
Dzisiejsza AI może dostarczać wyniki pochodzące z mieszanych mediów, takich jak czytelne pliki PDF, skany, obrazy, arkusze kalkulacyjne i nagrania, w wielu językach. Wszystko to może być indeksowane przez systemy zasilane SLM, aby zapewnić dostosowane odpowiedzi i tworzyć złożone teksty w dowolnym języku, jednocześnie zapewniając zgodność z prawem.
Dobrze wytrenowany SLM może interpretować normy prawne, wydobywać spostrzeżenia z konsultacji publicznych, wspierać podejmowanie decyzji wykonawczych w oparciu o dane i poprawiać publiczny dostęp do usług oraz informacji administracyjnych.
Skupienie się na SLM przesuwa konwersację z pytania o to, jak kompleksowy może być model, na pytanie o to, jak wydajny jest. Ta zmiana perspektywy może przyczynić się do dramatycznych ulepszeń w sposobie prowadzenia działalności przez sektor publiczny.