Mamy problem. Programiści nie wiedzą, jak tak naprawdę działa sztuczna inteligencja

Artykuł/Nauka 13.06.2017
Mamy problem. Programiści nie wiedzą, jak tak naprawdę działa sztuczna inteligencja

Programiści nie wiedzą, dlaczego wysokorozwinięte algorytmy robią to, co robią. Deep learning, czyli zaawansowane uczenie maszynowe wymknęło się im spod kontroli i nie wiadomo, jakie mogą być tego konsekwencje.

„Rozwój pełnej, sztucznej inteligencji może doprowadzić do wyginięcia rodzaju ludzkiego” — ta ponura przestroga padła z ust Stephena Hawkinga, wybitnego fizyka teoretycznego. Dwa lata po jej wygłoszeniu, na Uniwersytecie Cambridge otworzono Leverhulme Centre for the Future of Intelligence — instytucję poświęconą analizie rozwoju sztucznej inteligencji.

Podczas wieczora inauguracyjnego, w krótkim przemówieniu Hawking po raz kolejny wyraził swoje zaniepokojenie. — Uważam, że nie ma najmniejszej różnicy pomiędzy tym, co można osiągnąć przez biologiczny mózg, a tym, co można osiągnąć za pomocą komputera. Komputery teoretycznie mogą naśladować ludzką inteligencję, a nawet ją przewyższyć — powiedział fizyk i dodał, że SI z jednej strony może doprowadzić do wyeliminowania chorób, ubóstwa i zmian klimatycznych, z drugiej zaś może przyczynić się do powstania niechcianych przez nas zjawisk lub rzeczy, takich jak autonomiczna broń, zakłócenia gospodarcze i maszyny, które po rozwinięciu własnej woli mogłyby wejść w konflikt z ludźmi.

Stephen Hawking ostrzega przed sztuczną inteligencją.
Stephen Hawking ostrzega przed sztuczną inteligencją.

Z jego wypowiedzi wynika, że sztuczna inteligencja może być najlepszą lub najgorszą rzeczą, jaka przydarzy się ludzkości. Jednym z największych zagrożeń, jakie niesie ze sobą rozwój SI jest niezależność maszyn. Już dziś procesy przeprowadzane przez inteligentne algorytmy stanowią zagadkę dla programistów, którzy otwarcie przyznają, że za decyzjami podejmowanymi przez sieci neuronowe kryje się wielka niewiadoma. Technologia, która do tego doprowadziła to deep learning, czyli głębokie uczenie maszynowe.

Samochód samouk

W zeszłym roku, na ulice Monmouth County w New Jersey wyjechał autonomiczny samochód, na pierwszy rzut oka niewiele różniący się od konkurencji. Pojazd, stworzony przez firmę Nvidia, wiodącego producenta kart graficznych, zawdzięcza swoje umiejętności jazdy uczeniu maszynowemu, a nie – jak ma to miejsce w przypadku aut ze stajni Google, Tesli czy General Motors – zaprogramowanym wcześniej instrukcjom.

Eksperymentalne auto, tajniki dobrego prowadzenia się zgłębiało obserwując, jak robi to człowiek. To pierwszy w historii przypadek, w którym pojazd samemu nauczył się zasad poruszania w ruchu drogowym. Przełomowa technologia, jaką jest uczenie maszynowe, dała przedsmak swoich zdumiewających możliwości. Dla naukowców, są one jednocześnie słodkie i gorzkie.

sztuczna inteligencja
Pojazd Nvidii w akcji

Słodkie, ponieważ inteligentne maszyny mogą zrewolucjonizować życie na Ziemi i pomóc w rozwiązaniu licznych problemów, z jakimi boryka się nasza cywilizacja. Cierpki natomiast jest fakt, że nawet najlepsi programiści nie potrafią stwierdzić, czemu algorytmy podejmują takie, a nie inne decyzje. Informacje z sensorów trafiają do potężnej sieci neuronowej, która przetwarza dane i na ich podstawie system postanawia, co w danej sytuacji należy zrobić: zwolnić, skręcić, zahamować, a może przyspieszyć?

Na razie reakcje są takie, jakich oczekuje się od siedzącego za kierownicą człowieka. Nie ma więc powodu do zmartwień? Nie do końca. Jeśli pewnego dnia komputer podejmie nieoczekiwaną decyzję, wjedzie na przeciwległy pas i zderzy się czołowo z nadarzającym pojazdem lub przejedzie na czerwonym świetle, to programiści nie będą w stanie pojąc, czemu tak się stało. Chyba, że wcześniej uda im się okiełznać uczenie maszynowe na tyle, by móc wyodrębnić i zbadać pojedyncze procesy decyzyjne.

Analityczny umysł maszyny

Na naszym podwórku z uczenia maszynowego korzysta coraz większe grono firm technologicznych. Jedną z nich jest warszawska spółka Cloud Technologies, posiadająca największa w Europie hurtownię danych o preferencjach i zachowaniach internautów. OnAudience.com – jej autorska platforma DMP (data management platform), służąca do analityki wielkich, nieustrukturyzowanych zbiorów danych, w swoich obliczeniach bazuje na sztucznej inteligencji. —Analizujemy już ponad 3 mld. anonimowych profili użytkowników sieci. To gigantyczne zasoby Big Data, które razem z danymi demograficznymi czy geolokalizacyjnymi, w czasie rzeczywistym przetwarzane są przez nasz system. Dzięki uczeniu maszynowemu, analizuje on setki tysięcy zmiennych i dostarcza precyzyjne, nieosiągalne wcześniej wyniki – mówi Piotr Prajsnar, dyrektor generalny Cloud Technologies. Skąd zapotrzebowanie na takie usługi?

Analityka Big Data stała się kołem zamachowym cyfrowej gospodarki. Firmy chcą wiedzieć więcej o nastrojach społecznych, konkurencji i swoich klientach, by podejmować lepsze decyzje biznesowe, wprowadzać na rynek atrakcyjne produkty, udoskonalać istniejące usługi czy precyzyjnie trafiać z reklamą internetową do osób potencjalnie nią zainteresowanych.

 

Zastosowań takiej analityki jest multum, a dane stały się walutą zdigitalizowanego świata i katalizatorem rozwoju sztucznej inteligencji. — Nawet jeśli firma zatrudniłaby sztab wyspecjalizowanych pracowników, to przeanalizowanie przez nich takiej ilości nieustrukturyzowanych informacji i wyciągnięcie podobnych wniosków graniczyłoby z cudem. Koszt operacji i czas potrzebny do jej zrealizowania to kolejne czynniki, które przemawiają na jej niekorzyść uważa Prasjnar. Doskonale rozumieją to programiści, którzy od lat pracują nad automatyzacją procesów analitycznych. To właśnie z uczeniem maszynowym wiążą oni największą nadzieję. Już dziś efekty rozwoju tej technologii potrafią wprawić w osłupienie największych sceptyków.

Doktor-komputer, który lepiej rozumie umysł pacjenta od ludzkiego lekarza.

Przekonał się o tym Joel Dudley, przewodniczący zespołu badaczy w szpitalu Mount Sinai Hospital w Nowym Jorku. Prowadzony przez niego program „Deep Patient” miał wykorzystać potencjał sztucznej inteligencji do przewidywania chorób. System wziął pod lupę karty 700 tys. pacjentów, analizując sprawozdania z wizyt w przychodni, wyniki badań, dane fizjologiczne i setki zmiennych.

Swoją przygodę z medycyną komputer rozpoczął jak dziecko, które po przyjściu na świat wytężą zmysły, próbując poznać nową, otaczającą je rzeczywistość. Taki stan świadomości Arystoteles określił mianem „Tabula rasa”, co po polsku oznacza „niezapisana tablica”. Korzystając z technologii deep learningu, pozbawiony reguł narzuconych przez programistów, system odkrył wzorce, ukryte w szpitalnej bazie danych i na ich podstawie stawiał zadziwiająco precyzyjne diagnozy. — Jest wiele niezłych metod wykrywania chorób na podstawie akt pacjentów, ale ta jest o niebo lepsza — stwierdził Joel Dudley.

Jednak to nie łatwość, z jaką Deep Patient wykrywał relatywnie proste w diagnozie dolegliwości wywołała zdziwienie w środowisku medyczny. Prawdziwa konsternacja zapanowała, gdy okazało się, że system doskonale radzi sobie z rozpoznawaniem schorzeń psychicznych, takich jak schizofrenia.

Choroby tego typu są trudne do zdiagnozowania nawet przez najlepszych specjalistów w dziedzinie psychiatrii. Ponieważ Deep Patient zaprogramował się sam, Dudley do dziś nie potrafi powiedzieć, co kryje się za skutecznością systemu i jakie anomalie bierze on pod uwagę, formułując tak zaawansowane oceny. Wiedza tego typu mogłaby pomóc lekarzom nie tylko w usprawnieniu procesów diagnostycznych, lecz również w opracowaniu nowych metod leczenia. Na takie dane świat będzie musiał chwilę poczekać, bo nie powstało jeszcze żadne rozwiązanie, które tłumaczyłoby efekty pracy wielowarstwowych sieci neuronowych.

Czy maszyny wymknęły się już nam spod kontroli?

Na takie stwierdzenie jest jeszcze za wcześnie, sztuczna inteligencja nie posiada bowiem najważniejszego elementu, który upodobnił by ją do człowieka — świadomości. Nim ta się narodzi możemy spać spokojnie, a bunt maszyn oglądać jedynie podczas kinowych seansów kolejnych części Terminatora. Nie znaczy to wcale, że problem z SI należy bagatelizować.

Advertisement

Musisz przeczytać:

Dołącz do dyskusji

Advertisement
Advertisement