Sztuczna inteligencja Google'a została zatrudniona do diagnostyki w szpitalu. Niestety poległa

Przypomnijmy: opracowana w laboratoriach Google'a sztuczna inteligencja nauczyła się diagnozować wiele dolegliwości na podstawie analizy obrazu siatkówki oka pacjenta. Już jakiś czas temu lekarze odkryli, że zmiany widoczne w naczyniach siatkówki bardzo często są bezpośrednimi objawami wielu schorzeń.

Kierując się tą wiedzą, programiści Google musieli tylko pokazać Google AI, czego dokładnie ma szukać. Laboratoryjne testy zakończyły się ogromnym sukcesem. Na tyle ogromnym, że zastosowaniem sztucznej inteligencji Google'a do diagnostyki medycznej zainteresowały się władze Tajlandii.

Tamtejsze ministerstwo zdrowia chciało wykorzystać Doktora Google do wykrywania osób cierpiących na cukrzycę. Pomysł wydawał się genialny - szacuje się, że w Tajlandii żyje ok. 4,5 miliona cukrzyków, natomiast liczba specjalistów zdolnych do analizy zdjęć siatkówki oka pod kątem zmian wskazujących występowanie tej choroby wynosi zaledwie 200. To za mało, żeby móc myśleć o akceptowalnym tempie badań.

Dlatego też rząd Tajlandii złożył Google'owi następującą propozycję: chcecie przetestować swoją sztuczną inteligencję w rzeczywistych, szpitalnych warunkach? Wpadnijcie z nią do nas. Pomysł ten trafił na podatny grunt i Google zdecydowało się na wyposażenie 11 tajlandzkich szpitali w przenośną wersję swojego systemu, który na podstawie zdjęć siatkówki oka byłby w stanie rozpoznawać cukrzycę.

Do tej pory, zdjęcia analizowane przez sztuczną inteligencję Google robione były w idealnych warunkach oświetleniowych i w wysokiej rozdzielczości. Ich wysoka jakość przekładała się na 90 proc. skuteczność diagnoz stawianych przez sztuczną inteligencję. Niestety, w rzeczywistych warunkach, panujących w tajlandzkich szpitalach, materiał źródłowy, czyli zdjęcia wykonywane przez tamtejsze pielęgniarki okazał się o wiele gorszej jakości.

Zdjęcia robione były często w kiepskich warunkach oświetleniowych, część z nich wychodziła przez to nieostra, za ciemna i z punktu widzenia SI Google'a nie nadawała się do postawienia jakiejkolwiek diagnozy. W ujęciu liczbowym, okazało się że co piąte zdjęcie wykonane przez personel medyczny zostało odrzucone przez sztuczną inteligencję z powodu zbyt niskiej jakości.

Pacjenci, których zdjęcia zostały odrzucone musieli umówić się na kolejny termin wizyty i bardzo często jechać do innego szpitala, co oczywiście nie było zbyt wygodnym rozwiązaniem. Żeby zaoszczędzić kłopotów pacjentom, pielęgniarki próbowały edytować zdjęcia na własną rękę, tak aby nie zostały one odrzucone przez komputerowy system, co oczywiście powodowało przedłużenie całej procedury.

Do tego dołóżmy jeszcze sytuacje, w których na zdjęciu odrzuconym przez algorytm, nie było widać żadnych objawów cukrzycy (zdaniem pielęgniarek), przez co umawianie pacjenta na kolejną wizytę było niczym innym, niż stratą czasu.

Nie mówiąc już o problemach z łączami internetowymi - mobilna wersja systemu SI Google'a zakłada bowiem, że zdjęcia do analizy muszą zostać przesłane do chmury. Opóźnienia z tego tytułu, generowane przez awarie łącz internetowych sprawiały, że badanie które w teorii miało trwać ok. 15 minut, bardzo często przedłużało się o kilka godzin, co oczywiście nie podobało się ani pacjentom, ani pracownikom medycznym nadzorującym cały proces.

Specjaliści odpowiedzialni za medyczną SI Google'a zdają sobie sprawę ze wszystkich, zaobserwowanych w realnym środowisku problemów. Są też zgodni co do tego, że nowe, mniej przyjazne dla algorytmu środowisko wymaga wprowadzenia zmian w procedurze badania. Jedną z nich będzie np. danie większej swobody personelowi medycznemu, który sam będzie mógł zdecydować, czy na odrzuconym przez algorytm zdjęciu widać coś niepokojącego i czy pacjent rzeczywiście musi umówić się na ponowną wizytę.

Osobną kwestią są też zdjęcia odrzucane ze względu na ich niską jakość. Najwygodniejszym rozwiązaniem byłoby oczywiście przystosowanie algorytmu do radzenia sobie z nimi. Jak na razie jednak nie wiadomo, czy jest to w ogóle możliwe.

Cała sytuacja pokazuje jednak dobitnie, że podczas projektowania algorytmów sztucznej inteligencji, należy pamiętać o tym, że docelowo będą one wykorzystywane w warunkach, którym daleko do ideału. Brzmi to niby jak oczywista oczywistość, jednak jak pokazuje eksperyment przeprowadzony w Tajlandii, bardzo łatwo zapomnieć o tym założeniu.

Istnieje oczywiście też druga strona medalu. Przedstawiciele Google'a chwalą się na przykład tym, że jedna pielęgniarka z Tajlandii opanowała obsługę komputerowego diagnosty na tyle dobrze, że była w stanie samodzielnie (nie licząc algorytmu) i bez większych opóźnień przebadać tysiąc pacjentów. Na razie jest to jednak chlubny wyjątek. Prawdziwym wyzwaniem dla Google'a będzie stworzenie systemu, w którym takie wyniki będą normą.