Lekarze pracujący na oddziałach intensywnej terapii codziennie mierzą się z dynamicznie zmieniającymi się stanami zdrowia pacjentów. Możliwość szybkiego informowania ich o krytycznych zmianach w stanie chorego, takich jak gwałtowne pogorszenie parametrów życiowych, mogłaby istotnie poprawić wyniki leczenia i uratować wiele istnień. W tym kontekście coraz większą rolę odgrywa sztuczna inteligencja, której modele uczą się przewidywać ryzyko zgonu pacjentów hospitalizowanych.
Najnowsze badania przeprowadzone przez naukowców z Virginia Tech, opublikowane w Communications Medicine, wykazują jednak, że obecne modele uczenia maszynowego wciąż pozostawiają wiele do życzenia. W ramach badań przeanalizowano skuteczność istniejących systemów prognozujących ryzyko śmierci w szpitalu, ale wyniki były alarmujące – aż 66 procent przypadków poważnych komplikacji zdrowotnych pozostaje niezauważonych przez algorytmy. W praktyce oznacza to, że lekarze nie otrzymują istotnych alertów na czas, co może negatywnie wpływać na decyzje terapeutyczne.
Według Danfeng „Daphne” Yao, profesor w Katedrze Informatyki na Virginia Tech, modele predykcyjne mają wartość jedynie wtedy, gdy potrafią skutecznie zidentyfikować pacjentów w krytycznym stanie zdrowia. Jeśli algorytmy nie potrafią właściwie reagować na pogarszający się stan chorego, ich obecność w systemie szpitalnym staje się niemalże bezużyteczna. Niestety, jak wykazuje badanie, modeli używanych w obecnej praktyce klinicznej nie można uznać za wystarczająco dokładne i responsywne.
Aby polepszyć jakość predykcji wykorzystywanych przez sztuczną inteligencję, badacze skorzystali ze wsparcia ekspertów medycznych oraz statystyków. Współpracując z naukowcami z instytucji takich jak Oak Ridge National Laboratory, Greenlife Medical College Hospital czy University of Texas at Austin, opracowali nowe strategie testowania modeli uczenia maszynowego. Wśród technik diagnostycznych znalazła się między innymi metoda gradientu wstępującego oraz mapa aktywacji neuronów. Mapy te wykorzystują zmiany kolorystyczne do wizualizacji reakcji modeli na pogarszający się stan zdrowia pacjenta, co pozwala rzetelnie ocenić ich skuteczność. Metoda gradientowa z kolei generuje specjalne przypadki testowe, umożliwiając gruntowne sprawdzenie jakości predykcji.
Wyniki analizy nie były jednak optymistyczne. Oprócz problemu z 66-procentową utratą krytycznych danych w modelach szacujących śmiertelność w szpitalu, wykryto również znaczące braki w systemach prognozujących pięcioletnie przeżycie pacjentek z rakiem piersi oraz pacjentów z rakiem płuc. Pokazuje to, że wykorzystanie sztucznej inteligencji w medycynie, pomimo dużego potencjału, wciąż wymaga udoskonalenia i lepszego dopasowania do skomplikowanej natury ludzkiego organizmu.
Danfeng Yao podkreśla, że modele oparte wyłącznie na dotychczasowych danych pacjentów są niewystarczające i mają niebezpieczne luki. Aby poprawić ich skuteczność, należy wzbogacić ich algorytmy o syntetyczne dane i dodatkowe mechanizmy sprawdzające. Badacze z Virginia Tech już w 2022 roku pracowali nad metodą poprawiającą równość predykcji między pacjentami z różnych grup społecznych, co pokazuje, że rozwój tej dziedziny wymaga wielu interdyscyplinarnych działań.
Kolejnym krokiem w badaniach zespołu Yao jest integracja wiedzy medycznej bezpośrednio w modele sztucznej inteligencji. Tylko dzięki ścisłej współpracy lekarzy i specjalistów ds. uczenia maszynowego można stworzyć algorytmy, które będą rzeczywiście skuteczne w praktyce klinicznej. W międzyczasie trwają dalsze testy innych technologii, w tym dużych modeli językowych wykorzystywanych do wykrywania sepsy oraz innych pilnych stanów medycznych.
Jak podkreśla profesor Yao, bezpieczeństwo sztucznej inteligencji w medycynie to wyścig z czasem. Firmy technologiczne wprowadzają na rynek coraz nowsze rozwiązania dla sektora opieki zdrowotnej, ale transparentność i obiektywne testowanie tych systemów jest kluczowe, aby zagwarantować bezpieczeństwo pacjentów. Ostatecznie celem AI w medycynie nie jest tylko automatyzacja procesów, ale ratowanie ludzkiego życia – dlatego odpowiedzialne wdrażanie nowych technologii pozostaje priorytetem.
