Calibrated Selective Fact-Checking via Evidence Chain Evaluation

Naukowcy z dziedziny sztucznej inteligencji opracowali nowy system fact-checkingu, który potrafi powstrzymać się od wydawania werdyktu, gdy dowody są zbyt słabe lub niejednoznaczne. Badanie przedstawione w artykule Calibrated Selective Fact-Checking via Evidence Chain Evaluation opisuje framework ECE (Evidence Chain Evaluation), który w przypadku niepewności wybiera opcję „nie wiem” zamiast wymuszać decyzję prawda/fałsz.

Tradycyjne systemy fact-checkingu zmuszają modele językowe do podejmowania binarnych decyzji przy każdym sprawdzanym twierdzeniu, co może prowadzić do pewnych werdyktów opartych na słabych podstawach. Nowy system ECE wykorzystuje agenta weryfikacyjnego z dostępem do wyszukiwania internetowego, naukowych baz danych i sprawdzalnych źródeł, który zwraca strukturalny werdykt z oceną pewności i metadanymi na poziomie źródeł.

Kluczowe wnioski

• System ECE osiągnął 91,6% standardowej dokładności i 97,8% dokładności selektywnej na odpowiedzianych twierdzeniach przy 93,7% pokrycia
• Framework pozwala na wstrzymanie się od wydania werdyktu w przypadku słabych dowodów, co stanowi mechanizm bezpieczeństwa
• Z 95 testowanych przypadków system powstrzymał się od oceny jedynie 6, z czego 5 dotyczyło dowodów najniższej wiarygodności (poziom L4)
• ECE nie przewyższył najsilniejszych baseline'ów w metrykach kalibracji agregowanej, ale oferuje jasny kompromis między selektywnością a precyzją
• Kod systemu jest dostępny publicznie w repozytorium na GitHubie

Mechanizm działania systemu ECE

System Evidence Chain Evaluation działa jako agent weryfikacyjny wyposażony w szereg narzędzi do gromadzenia dowodów. Wykorzystuje wyszukiwanie internetowe, przeszukiwanie baz danych naukowych oraz wykonywalne sprawdzenia faktów. Kluczową innowacją jest możliwość wydania werdyktu „niepewny” zamiast wymuszania wyboru między prawdą a fałszem.

Agent zwraca strukturalny wynik zawierający nie tylko sam werdykt, ale także ocenę pewności i szczegółowe metadane na poziomie poszczególnych źródeł. Ten wielowarstwowy system oceny pozwala na lepsze zrozumienie podstaw każdej decyzji i identyfikację przypadków, gdzie dowody są zbyt słabe do wydania pewnego werdyktu.

Wyniki testów i porównanie z innymi metodami

Na zbiorze testowym ECE-Bench system wykazał imponujące wyniki w zakresie dokładności selektywnej. Przy pokryciu 93,7% przypadków osiągnął 97,8% dokładności na twierdzeniach, na które zdecydował się odpowiedzieć. Standardowa dokładność wyniosła 91,6%, co plasuje system na wysokim poziomie wydajności.

Autorzy badania szczerze przyznają, że ECE nie przewyższył najsilniejszych metod bazowych w agregatowych metrykach kalibracji, takich jak Expected Calibration Error, wynik Brier czy AURC. Jednak system oferuje wartościowy kompromis między selektywnością predykcji a utrzymaniem bardzo wysokiej dokładności na odpowiedzianych przypadkach.

Bezpieczeństwo i wiarygodność dowodów

Analiza przypadków, w których system powstrzymał się od wydania werdyktu, ujawnia interesujący wzorzec związany z wiarygodnością źródeł. Spośród 6 przypadków abstynencji, aż 5 dotyczyło dowodów sklasyfikowanych na najniższym poziomie wiarygodności L4. To potwierdza, że mechanizm powstrzymania się od oceny funkcjonuje jako zorientowane na bezpieczeństwo narzędzie do radzenia sobie z epistemicznie słabymi dowodami.

Takie podejście ma szczególne znaczenie w erze dezinformacji, gdzie pewne ale błędne werdykty mogą być bardziej szkodliwe niż przyznanie się do niepewności. System ECE pokazuje, że w niektórych sytuacjach najlepszą odpowiedzią jest „nie wiem” – postawa, która może zwiększyć ogólne zaufanie do automatycznych systemów fact-checkingu.