Dzięki DeepXplore w końcu będziemy mogli zrozumieć sztuczną inteligencję, której dziś nie rozumiemy

Artykuł/Nauka 27.10.2017
Dzięki DeepXplore w końcu będziemy mogli zrozumieć sztuczną inteligencję, której dziś nie rozumiemy

Dzięki DeepXplore w końcu będziemy mogli zrozumieć sztuczną inteligencję, której dziś nie rozumiemy

Amerykańskim naukowcom udało się rozwiązać jeden z największych problemów obecnej generacji SI. Od teraz będziemy mogli korygować błędy algorytmów maszynowego uczenia się.

Słyszeliście kiedyś o problemie czarnej skrzynki? Określenie to odnosi się do tzw. kreacji agnostycznej, czyli metody badawczej bądź techniki produkcji, która składa się z procesów niezrozumiałych dla jej twórcy. W skrócie: kreacją agnostyczną możemy nazwać dowolne urządzenie, którego zasady działania nie są dla nas zrozumiałe.

Quoc V. Le, jeden z programistów Google podczas swojej prezentacji na temat algorytmów głębokiego uczenia się stosowanych przez Google do klasyfikowania danych wprost przyznał, że ich działanie jest już praktycznie nie do ogarnięcia przez ludzi.

Problem czarnej skrzynki już teraz występuje o wiele częściej, niż się wydaje.

Moim ulubionym przykładem black box problem jest chyba program Deep Patient. Program ten został uruchomiony w szpitalu Mount Sinai Hospital w Nowym Jorku i miał wykorzystać potencjał SI do diagnozowania i przewidywania chorób tamtejszych pacjentów. System wziął pod lupę karty 700 tys. pacjentów, analizując sprawozdania z wizyt w przychodni, wyniki badań, dane fizjologiczne i setki zmiennych. Korzystając z technologii deep learningu, pozbawiony reguł narzuconych przez programistów, system odkrył wzorce, ukryte w szpitalnej bazie danych i na ich podstawie stawiał bardzo precyzyjne diagnozy.

To oczywiście nie koniec tej historii. Rozpoznawanie chorób, które potrafią wykryć ludzcy lekarze to jedno, ale system zaczął wskazywać u pacjentów nowojorskiego szpitala choroby psychiczne. W tym schizofrenię, której wykrycie na podstawie karty pacjenta nadal pozostaje niezrozumiałe dla ludzkich lekarzy. I nie, nikt nie wie, na jakiej zasadzie sztuczna inteligencja nagle stała się najlepszym na świecie psychiatrą z nadprzyrodzonymi zdolnościami.

Więcej przykładów takich czarnych skrzynek znajdziecie w bardzo fajnym tekście Maćka, polecam.

DeepXplore: rozwiązanie problemu czarnej skrzynki.

Akademikom z dwóch uniwersytetów: Colombii i Lehigh udało się dokonać przełomu. Stworzyli oni narzędzie o nazwie DeepXplore, które w skrócie opiera się na wstecznej inżynierii sieci neuronowych. W maksymalnym uproszczeniu oznacza to, że pozwala na korygowanie błędów w rozumowaniu SI.

Dzięki sprytnej optymalizacji narzędzia, DeepXplore pozwala na pełną aktywację testowanej sieci neuronowej. To z kolei sprawia, że jest ona w stanie skorygować się samodzielnie. Odbywa się to za sprawą przedstawienia algorytmowi SI bardzo wielu problemów, których nie da się rozwiązać.

SI oczywiście o tym nie wie. Dzięki temu podczas poszukiwania działających rozwiązań aktywuje swoją pełną moc obliczeniową, tym samym zmieniając połączenia neuronowe utworzone wcześniej, które zawierały błędy.

Planujemy nadal ulepszać DeepXplore, dzięki czemu moglibyśmy znacznie dokładniej przyjrzeć się zawartości czarnych skrzynek i sprawić, że systemy uczenia maszynowego byłyby bardziej transparentne i godne zaufania. Maszyny podejmują za nas coraz więcej decyzji, dlatego też musimy być pewni, że ich logika działa bez zarzutu. – mówi Kexin Pei z Columbia University.

Diagnostyka SI jest nam niezwykle potrzebna.

Stworzenie skutecznego narzędzia diagnostycznego, które poradziłoby sobie z algorytmami SI pozwoliłoby na wykorzystanie sztucznej inteligencji m.in. w służbie zdrowia, transporcie, czy wojskowości.

To samo twierdzą zresztą przedstawiciele AI Now Institute. Kilka miesięcy temu oficjalnie odradzili oni rządowi Stanów Zjednoczonych korzystania z jakichkolwiek systemów SI zawierających tzw. czarne skrzynki.

DeepXplore pozwoli również na lepsze zrozumienie zasady działania obecnej generacji algorytmów SI. Być może dzięki tej wiedzy uda nam się je ulepszyć w krótszym czasie, niż zakładaliśmy.

Musisz przeczytać:

Dołącz do dyskusji

Advertisement