Wstępniak na nowy tydzień: symulacje psychodelii i autyzmu – przez sieci neuronowe poznajemy samych siebie

Wyjaśnić w przybliżeniu, jak powstawały te obrazy nie jesttrudno. Są one efektem ubocznym narzędzia, które stworzono byzrozumieć, co dzieje się w sieciach neuronowych, tego co robi każdyz neuronów w każdej z warstw sieci, gdy wysyła im się wizualneinformacje w czasie rzeczywistym. Zamiast traktować sieć neuronowądo rozpoznawania obrazów jako czarną skrzynkę, zaglądamy dośrodka, poczynając od najniższej warstwy, reagującej nakrawędzie, i idąc ku górze, przez warstwy pośrednie, rozpoznająceogólne kształty, aż po warstwy najwyższe, gdzie pojawiają sięreprezentacje rzeczy opartych o abstrakcyjne kategorie.

Szybko się jednak okazuje, że taki system rozpoznawanianiekoniecznie musi mieć wiele wspólnego z ludzką rzeczywistością.Trenuje się sieci, pokazując im przykłady tego, co chcemyklasyfikować, w nadziei że uchwycą esencję oglądanej rzeczy (np.cep składa się z dwóch kijów połączonych łańcuchem lubrzemieniem) i będą ignorowały to, co nieistotne (np. kolor kijów).Gdy jednak przychodzi do testów, nierzadko okazuje się, że siećbuduje sobie dziwaczne przekonania o tym, co istotne. Pokazano np.sztangielki, których w „rozumieniu” google'owej sieci kluczowącechą było wtopione w nie ludzkie ramię kulturysty. Sztangielkileżące sobie ot tak na ziemi sztangielkami w sensie siecineuronowej nie były… ot po prostu sieć nigdy ich wcześniej wtakiej formie nie zobaczyła, wszystkie pokazane jej zdjęciasztangielek pokazywały też muskularne ramiona.

Droga do cyfrowej psychodelii była już stąd prosta. Zamiastpouczać sieć, jakie cechy obrazu należy wzmacniać, można jejsamej na to pozwolić. Jako że każda warstwa sieci działa na innympoziomie abstrakcji, to złożoność cech zależy od wyboru warstwywzmacniającej. Niższe warstwy wynikowo generują proste ornamenty,bo są wrażliwe głównie na krawędzie. Wyżej jednak zaczyna sięrobić dziwnie, wyłaniają się praktycznie znikąd złożone cechy,nawet całe obiekty. Zamykając sieć w pętli sprzężeniazwrotnego, programiści Google'a powiedzieli – cokolwiek tuzobaczysz, daj mi tego więcej. Jeśli w chmurze dostrzeże siękształt ptakta, to każda kolejna iteracja procesu sprawi, żechmura będzie coraz bardziej ptakiem. A jeśli zacząć karmićtrenowaną uprzednio sieć czysto losowym szumem, z chaosu wyłaniająsię osobliwe formy, właśnie takie, jak te obrazy, które wzbudziłyporuszenie w Sieci.

Kilka dni temu dostałem z listy dyskusyjnej poświęconejneuronaukom link do bardzo ciekawej pracynaukowców z Baylor College of Medicine pt. A computationalperspective on autism, którą opublikowano w amerykańskimżurnalu Proceedings of the National Academy of Sciences. Autorzyprzeprowadzili symulację jednej z hipotetycznych przyczyn autyzmu wsoftware'owej symulacji ludzkiej kory wzrokowej. Zwiększono poprostu szum w sieci neuronowej.

Z grubsza przez szum rozumiany jest tu poziom, w jakim aktywnośćposzczególnych neuronów jest ograniczana przez aktywnośćotaczających je neuronów. W normalnie działających mózgachneurony ograniczają swoją aktywność, gdy otoczone są wielomauaktywnionymi neuronami. Taka normalizacja aktywności jest procesemkoniecznym, by sieć nie uległa przeciążeniu – i występuje wewszystkich bardziej złożonych biologicznych systemach nerwowych, aodpowiada za jej realizację neurotransmiter GABA.

Dwa lata temu próbowano tę teorię „komputacyjnej” etiologiiautyzmu przetestować na myszach, hodując osobniki o upośledzonymwydzielaniu GABA – i faktycznie, z obserwacji myszek można byłopowiedzieć, że wykazują one zachowania, które uznalibyśmy uludzi za autystyczne – podejmowały się dziwacznych czasem abardzo regularnych zajęć i unikały kontaktu z innymi myszami.Bardzo ciekawy to eksperyment, a jednak niewiele wyjaśniający, gdyżbrakuje dobrego debuggera do mysich mózgów, a same myszy raczej nieopowiedzą, co się z nimi dzieje, jakie mają doświadczenia. Agdyby szukać odpowiedzi w modelu, który łatwiej analizować, tj. wsztucznej sieci neuronowej?

Stojący na czele tych prac Ari Rosenberg dysponował danymi ozaburzeniach wizualnych u dotkniętych autyzmem. Pierwsze z nichprzejawia się w niezwykle sprawnym rozpoznawaniu kierunku ruchusinusoidalnych linii, znacznie wyższym niż u zdrowych ludzi. Drugieto pomijanie czy niedostrzeganie obiektów znajdujących się z dalaod centrum uwagi. Trzecie wiąże się z tzw. efektem pochylenia,związanym z tym, że zdrowi ludzie lepiej radzą sobie zidentyfikowaniem linii pionowych i poziomych niż tych, które sąpochylone, podczas gdy u autyków różnice te praktycznie niewystępują. Testy sprawdzające te zaburzenia podano testowymsieciom, z których w jednej wyłączono normalizację aktywnościneuronalnej – neurony nie reagowały na aktywność swoichsąsiadów.

Wyniki testów wykazały ogromne podobieństwo pomiędzyzachowaniami dotkniętych autyzmem, a testowanej sieci z wyłączonąnormalizacją; korelacja zbyt duża, by była czystym przypadkiem,tym bardziej, że zaszła przy wszystkich charakterystycznychtestach. To wystarczyło, by badacze postawili falsyfikowalnąhipotezę bezpośrednio łączącą zjawisko o naturze obliczeniowejz chorobą umysłową. W podsumowaniu swojej pracy utrzymują, żetaka nowa, komputacyjna perspektywa rzuca nowe światło naneurologiczne debaty i pomoże w zidentyfikowaniu fizjologicznychścieżek, które można byłoby wykorzystać w terapii tegoschorzenia.

To pionierska praca w medycynie, wykorzystująca technikękomputerową naprawdę w innowacyjny sposób. Dokładnośćsztucznych sieci neuronowych jak i łatwość ich badania (choćby zapomocą narzędzi rozwijanych przez Google) pozwalają uzyskaćwyniki znacznie bardziej doniosłe, niż typowe eksperymenty namyszach. Symulacja kory wzrokowej jest względnie prosta, ale zczasem możliwe będzie też symulowanie kory nowej, w szczególnościpłatów czołowych, by poznać bliżej „mechanikę” zaburzeńumysłowych – i to nie tylko autyzmu. Wyzwaniem będzie oczywiścieznalezienie obliczeniowych reprezentacji dla zjawisk fizjologicznych,ale dysponując odpowiednio szybkim sprzętem (jak np. te DIGITSDevBox od Nvidii) można szybko testować wiele hipotez,odrzucając te najsłabsze.

Czy dzięki testom na symulowanych mózgach wyleczymy chorobyludzkich mózgów? Samo komputacyjne podejście oczywiście niewystarczy, ale może znacznie przyspieszyć prace fizjologów ifarmaceutów. Kto wie, może do końca przyszłej dekady doczekamysię skutecznej terapii nie tylko dla autyzmu, ale też dla jednej znajbardziej niezrozumiałych dotąd chorób (czy też raczej grupychorób) – schizofrenii.

Jeśli mnie obliczenia nie mylą, to jest to 52. wstępniak, jakipopełniłem, odkąd służę jako redaktor naczelny tego portalu. 52wstępniaki, 52 tygodnie – okrągła rocznica. Z tej okazjidziękuję wszystkim tym, którym czasem chce się przeczytać to, cotutaj napiszę, tym, którzy znajdują chwilę by to skomentować, anawet czasem wysłać e-maila z uwagami. Bez Was nie miałoby toprzecież większego sensu.

Co zaś do kolejnego tygodnia w dobrychprogramach, to oczywiściemożecie spodziewać się, że upłynie pod flagą Windows 10 (jak toktoś napisał w komentarzu niedawno, „dzień bez 10 newsów oWindows 10 na DP to dzień stracony”. Niechętnych ekscytacji,którą nowe „okienka” budzą w mediach pocieszę jednak tym, żepostaramy się, by Windows 10 nie przyćmił wszystkiego i by było oczym innym jeszcze u nas poczytać. Przypominam również, żezmieniliśmy nieco sposób prezentowania informacji z naszego Flesza– idąc za Waszymi uwagami zaczęliśmy publikować w nichkróciutkie wpisy, z których łatwiej zorientować się o co chodzi,niż jak dotąd linki do zewnętrznych, często nieprzejrzystychartykułów czy przeglądów. Mam nadzieję, że taka forma spotkasię z Waszym uznaniem.

Zapraszam więc do kolejnego tygodnia z naszym portalem!