Chatboty AI analizujące rentgeny są niebezpiecznie pewne siebie nawet przy błędnych diagnozach

Chatboty AI analizujące zdjęcia rentgenowskie mogą być niebezpiecznie pewne siebie nawet wtedy, gdy się mylą. Nowy benchmark RadLE 2.0 pokazuje, że systemy sztucznej inteligencji w radiologii często wydają błędne diagnozy z pełną pewnością siebie — co czyni je potencjalnie zagrożeniem dla opieki nad pacjentami. Badanie przeprowadzone przez CRASH Lab z Uniwersytetu Ashoka w Indiach ujawnia poważne słabości obecnych modeli AI w medycynie.

RadLE 2.0, czyli „Radiology's Last Exam”, to poprawiona wersja testu po raz pierwszy wydanego we wrześniu 2025 roku. Nowy benchmark mierzy nie tylko to, czy model stawia prawidłową diagnozę, ale także jak pewny jest swojej odpowiedzi i czy potrafi przyznać się do niewiedzy.

Kluczowe wnioski

• Żaden z 16 testowanych modeli AI nie dorównał ludzkim radiologom — najlepszy model uzyskał 758 punktów na 2000 możliwych, podczas gdy eksperci osiągnęli 988,7 punktów.
• Modele AI często wydają błędne diagnozy z wysoką pewnością siebie, co jest szczególnie niebezpieczne w medycynie — pewna siebie błędna diagnoza jest bardziej szkodliwa niż szczere przyznanie się do niepewności.
• Meta Muse Spark 1.1 najlepiej rozpoznawał, kiedy przekazać sprawę człowiekowi, ponieważ Meta zmniejszyła o połowę skłonność modelu do halucynacji, sprawiając że częściej odmawia odpowiedzi zamiast podawać błędną.
• Pacjenci już teraz wysyłają swoje zdjęcia rentgenowskie i rezonansu magnetycznego do chatbotów, ufając ich odpowiedziom, mimo że badania pokazują częste nierzetelne odpowiedzi na pytania medyczne.
• Problem przypomina „efekt Google Maps” — lekarze regularnie korzystający z AI wykrywają znacznie mniej zmian przedrakowych bez tego narzędzia (spadek z 28,4% do 22,4%).

System punktacji premiuje szczerość

RadLE 2.0 wprowadza innowacyjny system oceny, który nagradza szczerość i karze nadmierną pewność siebie. Model musi ocenić swoje odpowiedzi w skali pewności od 0 do 4 i może jawnie powiedzieć „nie wiem”. Za prawidłową odpowiedź z wysoką pewnością otrzymuje pełne punkty. Za błędną odpowiedź przy wysokiej pewności traci odpowiednią liczbę punktów. Odpowiedź „nie wiem” daje zero punktów, ale nie odejmuje nic.

Jak wyjaśniają badacze, system ten odnosi się do problemu podniesionego w często cytowanej pracy naukowej: dopóki benchmarki nagradzają tylko dokładność, modele AI są trenowane do zgadywania. W medycynie pewna siebie błędna diagnoza jest znacznie bardziej niebezpieczna niż szczere przyznanie się do niepewności.

Najlepiej pod względem kombinacji niezawodności i bezpieczeństwa wypadł Claude Fable 5 firmy Anthropic. Google Gemini 3 Pro osiągnął najwyższą surową dokładność. Jednak mierząc wyłącznie trafność, najsilniejsze modele niemal doganiają ludzkie wyniki.

Overconfidencja jako główny problem

Zespół badawczy zauważa, że kilka modeli uzyskałoby znacznie lepsze wyniki, gdyby częściej milczały zamiast zgadywać. Było to szczególnie widoczne wśród modeli open-weight i tych trenowanych specjalnie do zastosowań medycznych. Próbowały odpowiedzieć na niemal każdy przypadek i często się myliły, zwykle z wysoką pewnością siebie.

Problem ten ilustruje przykład Grok 4.5, który halucynuje znacznie więcej niż jego poprzednik. Chociaż wie więcej, jest także bardziej przekonany o swoich błędnych odpowiedziach.

Pierwsza wersja testu pokazywała jeszcze bardziej drastyczny obraz — radiolodzy osiągnęli 83% dokładności, podczas gdy najlepszy model uzyskał tylko około 30%. W ciągu trzech miesięcy Gemini 3 Pro już przewyższył poziom rezydentów radiologii. Dokładność rośnie szybko, ale modelom nadal brakuje poczucia własnych ograniczeń.

Kontekst i ostrzeżenia

Coraz więcej ludzi przesyła zdjęcia rentgenowskie lub rezonansu magnetycznego do chatbotów i ufa ich odpowiedziom. Niedawne badanie w npj Digital Medicine pokazało, że powszechnie używane chatboty często udzielają nierzetelnych odpowiedzi na pytania medyczne.

Zespół badawczy oskarża kadry zarządzające i inwestorów o publiczne przeszacowywanie możliwości modeli AI. Twierdzenia, że systemy AI już diagnozują lepiej niż 99% lekarzy, opierają się głównie na anegdotach lub symulacjach. Jeszcze w kwietniu badanie 21 modeli uważanych wówczas za najnowocześniejsze pokazało, że nie są gotowe do niezależnego użytku klinicznego.

Radiologia już przechodziła przez jeden cykl szumu wokół AI. W 2016 roku badacz AI Geoffrey Hinton oświadczył, że powinniśmy przestać szkolić radiologów, ponieważ głębokie uczenie się wkrótce przejmie to zadanie. Niemal dziesięć lat później radiolodzy nadal są przeciążeni, a Hinton musiał wycofać się ze swojej przepowiedni.

RadLE 2.0 będzie systematycznie rozszerzany o nowe modele. Zapowiedziano pełną publikację naukową z analizami kosztów i taksonomią błędów.