KPMG sfabrykowała studia przypadków AI w raporcie dla klientów

Globalna firma konsultingowa KPMG została przyłapana na sfabrykowaniu studiów przypadków sztucznej inteligencji w raporcie mającym przekonać klientów do adopcji AI. Skandal odkryła firma GPTZero, a sprawdziły go Financial Times i inne media.

Raport zatytułowany „Redefining excellence in the age of agentic AI” zawierał fałszywe twierdzenia o wykorzystaniu AI w takich organizacjach jak UBS, brytyjska służba zdrowia NHS, Szwajcarskie Koleje Federalne czy Transport for London. Wszystkie wymienione organizacje zaprzeczyły przedstawionym w raporcie informacjom.

Kluczowe wnioski

• KPMG sfabrykowała studia przypadków AI dotyczące znanych organizacji jak UBS, NHS i Transport for London w raporcie promującym adopcję sztucznej inteligencji.
• Błędy odkryła firma GPTZero, która specjalizuje się w wykrywaniu treści generowanych przez AI, a następnie zweryfikowały je Financial Times i inne media.
• Wszystkie organizacje wymienione w raporcie oficjalnie zaprzeczyły przedstawionym tam twierdzeniom o swoim wykorzystaniu AI.
• KPMG usunęła raport z kilku stron internetowych po ujawnieniu skandalu.
• Incydent pokazuje problem „wtórnych halucynacji” — błędnych informacji z wiarygodnych źródeł, które są później powielane przez systemy AI i ludzi.

Problem „wtórnych halucynacji”

Edward Tian, CEO GPTZero, ostrzega przed zjawiskiem „wtórnych halucynacji”. Wadliwe raporty pochodzące od dużych firm konsultingowych są szczególnie niebezpieczne, ponieważ są postrzegane jako bardzo wiarygodne i często powielane zarówno przez systemy AI, jak i ludzi. Oznacza to, że błędne informacje z jednego źródła mogą rozprzestrzeniać się w całym ekosystemie informacyjnym.

GPTZero zidentyfikowała również niestaranne sposoby powoływania się na źródła, co może być główną przyczyną całej afery. Firma wskazuje na niedbałe wykorzystywanie wyszukiwania AI przy tworzeniu raportu.

Problemy z cytatami i źródłami

Analiza wykazała, że cytowania w raporcie KPMG to głównie luźne parafrazy prawdziwych źródeł, często bez podania URL-i czy prawidłowych autorów. W niektórych przypadkach nie istniał żaden pasujący oryginał. GPTZero nazwała to zjawisko „vibe citing” — cytatowaniem „na czuja”.

Problem ten dotyka również inne systemy AI. Niedawno niemiecki sąd uznał Google za odpowiedzialne za podobne błędy w swoich AI Overviews — funkcji, która generuje podsumowania na podstawie wyszukiwań.

Podwójna wpadka KPMG

Incydent jest podwójnie żenujący dla KPMG. Firma nie tylko rozprzestrzeniła dezinformację, ale także pokazała, że nie radzi sobie z tym samym narzędziem, które próbuje sprzedawać swoim klientom. KPMG usunęła raport z kilku stron internetowych po ujawnieniu skandalu.

Sprawa podkreśla rosnące wyzwania związane z wykorzystaniem AI w tworzeniu treści biznesowych i potrzebę lepszych mechanizmów weryfikacji faktów w erze sztucznej inteligencji.