AI miała pomagać lekarzom w wykrywaniu zmian nowotworowych, a tymczasem… może obniżać ich umiejętności. Takie wnioski płyną z badań z udziałem polskich naukowców, opublikowanych w prestiżowym czasopiśmie The Lancet Gastroenterology & Hepatology.
AI w medycynie – nadzieja i zagrożenie
Kolonoskopia to jedno z najważniejszych badań profilaktycznych, ratujących życie tysięcy osób rocznie. Od kilku lat lekarze wspierają się sztuczną inteligencją, która zwiększa skuteczność w wykrywaniu zmian przedrakowych. Jednak zespół badaczy, w tym dr Marcin Romańczyk z Akademii Śląskiej, zauważył, że technologia może mieć także ciemną stronę.
Jak przeprowadzono badania?
Badania odbyły się w czterech polskich ośrodkach kolonoskopii. Przeanalizowano aż 1 443 badania:
-
795 wykonano przed wprowadzeniem AI,
-
648 – po wdrożeniu rutynowego korzystania z AI.
Co istotne, wszystkie kolonoskopie wykonywali doświadczeni endoskopiści, którzy mieli za sobą już ponad 2 tysiące takich zabiegów.
Wyniki, które zaskoczyły
Okazało się, że po dłuższym korzystaniu ze sztucznej inteligencji lekarze… radzili sobie gorzej.
-
odsetek wykrywania zmian przedrakowych spadł o 20%,
-
z 28,4% do zaledwie 22,4%.
Wniosek? Długotrwała rutyna z algorytmem może osłabiać uważność własną. Lekarz za bardzo wierzy, że komputer wszystko wychwyci. I nie widzi części subtelnych zmian, które kiedyś wyłapywał.
„To pierwsze takie badanie na świecie”
- „Z tego, co wiemy, jest to pierwsze badanie sugerujące negatywny wpływ regularnego stosowania AI na zdolność pracowników ochrony zdrowia do wykonania zadania istotnego z punktu widzenia pacjenta w jakiejkolwiek dziedzinie medycyny. Nasze wyniki są niepokojące, biorąc pod uwagę szybkie rozprzestrzenianie się AI w medycynie. Potrzebujemy dalszych badań, aby ustalić, co może powodować takie zjawisko, i jak temu zapobiec” – podkreśla dr Marcin Romańczyk, współautor publikacji.
Naukowiec dodaje, że potrzebne są dalsze badania, które wyjaśnią mechanizm tego zjawiska i pokażą, jak mu przeciwdziałać.
Deskilling – cichy problem lekarzy
AI w kolonoskopii potrafi podnieść wykrywalność. To fakt. Jednak badanie pokazuje zjawisko automation bias – skłonność do przedkładania wskazań maszyny nad własny osąd. Efekt uboczny? Deskilling, czyli stopniowa utrata wypracowanej precyzji wzrokowej i koncentracji.
Śląski akcent w przełomowych badaniach
Fakt, że współautorem odkrycia jest naukowiec z Akademii Śląskiej, to powód do dumy dla regionu. Badanie, które odbiło się szerokim echem w środowisku medycznym na całym świecie, pokazuje, że polscy specjaliści mają realny wpływ na rozwój nowoczesnej medycyny.
