Meta stworzyła własny system wykrywania AI zamiast użyć rozwiązania Google'a

Meta wprowadziła własny system wykrywania treści generowanych przez AI o nazwie Content Seal, ale rozwiązanie to wydaje się mniej zaawansowane i dostępne niż istniejące już technologie Google'a. Jak donosi The Verge, nowy system watermarkingu został wprowadzony w lipcu jako odpowiedź na wezwanie Rady Nadzorczej Mety z marca tego roku.

Content Seal działa podobnie do SynthID od Google'a — osadza niewidzialny dla ludzkiego oka znak wodny w obrazach generowanych przez AI, który może być później wykryty przez specjalne narzędzia. Watermark ma pozostać nienaruszony nawet po przycinaniu, kompresji, zmianie rozmiaru czy zrobieniu zrzutu ekranu.

Kluczowe wnioski

• Meta rozwinęła własny system wykrywania AI zamiast adopcji sprawdzonego SynthID od Google'a, mimo że oba rozwiązania działają podobnie.
• Content Seal ma znaczące ograniczenia — działa tylko przez dedykowane narzędzie webowe, nie jest zintegrowany z chatbotem Meta AI i obsługuje jedynie obrazy z najnowszego modelu Muse.
• System ma dzienny limit sprawdzeń obrazów, co może ograniczać skuteczność wykrywania treści AI na szerszą skalę.
• Inne platformy wykrywania AI, w tym Gemini i C2PA, nie potrafią rozpoznać watermarków Content Seal, co wskazuje na problemy z interoperacyjnością.
• Meta jest członkiem Coalition for Content Provenance and Authenticity (C2PA), co pokazuje gotowość do współpracy, ale mimo to wybrała własne rozwiązanie.

Problematyczne ograniczenia nowego systemu

Content Seal w obecnej formie ma kilka istotnych wad w porównaniu z konkurencyjnymi rozwiązaniami. Użytkownicy mogą wykrywać watermarki tylko poprzez dedykowane narzędzie testowe Mety, podczas gdy Google zintegrowało SynthID bezpośrednio z chatbotem Gemini. Rzeczniczka Mety Faith Eischen powiedziała, że firma „eksploruje sposoby przybliżenia wykrywania do miejsc, gdzie ludzie napotykają treści generowane przez AI”, ale nie wyjaśniła, dlaczego ta funkcjonalność nie była dostępna od premiery.

Dodatkowo Content Seal obsługuje tylko obrazy utworzone przez model Muse w aplikacji Meta AI i na stronie Meta.ai, co oznacza, że nie może wykrywać treści utworzonych przez starsze modele AI Mety. Wsparcie dla generowanych wideo ma pojawić się „wkrótce”, ale konkretnej daty nie podano.

Wątpliwości co do strategii Mety

Decyzja o tworzeniu własnego systemu budzi pytania, szczególnie że SynthID został już zaadoptowany przez OpenAI, co pokazuje otwartość Google'a na współdzielenie technologii z konkurentami. Meta uczestniczy także w Coalition for Content Provenance and Authenticity wraz z Google'em, promując standard Content Credentials, co dodatkowo podważa uzasadnienie dla oddzielnego rozwiązania.

Testy przeprowadzone przez autorkę artykułu pokazały, że obraz wygenerowany przez Muse nie został rozpoznany jako AI przez Gemini ani oficjalny portal C2PA. Meta nie wyjaśniła na rekordzie, czy Content Seal może współistnieć z SynthID i Content Credentials bez zakłóceń, co rodzi obawy o fragmentację ekosystemu wykrywania AI.

Wprowadzenie Content Seal wydaje się przedwczesne i nieprzemyślane, szczególnie w kontekście dostępności lepiej rozwiniętych alternatyw. Meta powinna była rozważyć adopcję istniejących standardów zamiast tworzenia kolejnego, potencjalnie niekompatybilnego rozwiązania.