Czy komputery mogą myśleć?

W filmie „Terminator” władzę nad światem przejmują komputery, które zrywają się ludziom ze smyczy i dokonują ich zagłady. Czy taki scenariusz jest możliwy w rzeczywistości?

Wyobraźmy sobie, że ktoś wsadza mnie do zamkniętego pokoju i daje mi proste zadanie

Co jakiś czas, przez szczelinę pod drzwiami będę dostawać kartki papieru z napisami w języku chińskim. Nie znam chińskiego i nie rozumiem co na tych kartkach jest napisane. Nie wiem nawet, czy naprawdę jest coś napisane, czy ktoś robi sobie ze mnie jaja i podaje losowe krzaczki. Moim zadaniem jest na przesyłane mi wypowiedzi odpowiadać, również po chińsku. W tym celu muszę zajrzeć do książki która znajduje się w pokoju i znaleźć tam taki sam napis, jaki dostałem na kartce, po czym przepisać z książki dopasowany zestaw znaków (nazwijmy go odpowiedzią), a następnie wysunąć go z powrotem pod drzwi. Problem brzmi:

Czy aby na pewno wiem co robię?

Odpowiedzmy na to pytanie z perspektywy Chińczyka, który stoi na zewnątrz pokoju i czyta odpowiedzi, jakie zwracam pod drzwiami. Jeżeli książka z której je przepisuję jest dobrze przygotowana, to nieświadomy jej istnienia Chińczyk uznałby zapewne, że dobrze znam język chiński i prowadzę sensowną rozmowę. Ale przecież to nieprawda!

Cały powyższy eksperyment myślowy (zwany „chińskim pokojem”) opisany w 1980 roku przez Johna Searle’a miał wykazać, że komputer nie jest w stanie myśleć w sensie, w jakim myślą ludzie

W 1950 roku genialny matematyk Alan Turing zaproponował swój test, jaki zdać musiała maszyna by można było uznać, że myśli. Maszyna taka musiała dawać takie odpowiedzi, by obserwator nie mógł stwierdzić, czy rozmawia z człowiekiem czy z komputerem. W wypadku naszego eksperymentu Chińczyk jest tym obserwatorem, zaś człowiek zamknięty w pokoju – komputerem. Jeżeli więc człowiek w pokoju dysponowałby bardzo dobrą „książką” z odpowiedziami, zdałby test Turinga.

Ale czy to coś zmienia?

Osoba zamknięta w chińskim pokoju może świetnie wywiązywać się ze swoich zadań, ale nie można o niej, zdaniem Searle’a powiedzieć, że rozumie, co robi. Jeżeli rozmawiam z kimś po polsku to nie tylko formułuję sensowne ciągi znaków, ale zdaję sobie sprawę z tego co one znaczą. Wszyscy widzieli zapewne robione przez Polaków zdjęcia zagranicznych policjantów z napisami typu CHWDP albo „JP na 100%”. Komputer jest trochę jak taki policjant – wykonuje poprawnie mechaniczną czynność, ale nie można powiedzieć, że zdaje sobie sprawę z jej znaczenia.

Zdaniem Searle’a mamy tutaj niemożliwą do przeskoczenia przepaść między dwoma sposobami myślenia

„Myślenie” komputera polega na odpowiednim wykonywaniu różnych procesów według reguł, jakie zostały im podane przez projektanta. W drzwiach rozsuwanych procesor jest zaprogramowany by otwierać drzwi, gdy coś lub ktoś znajdzie się w zasięgu fotokomórki. Ale nie działa on intencjonalnie, to znaczy „nie chce otwierać komuś drzwi”, po prostu przekazuje, niczym człowiek w chińskim pokoju impulsy elektryczne według stosownych instrukcji. Nawet jeżeli dodamy do programu rozpoznawanie twarzy czy zaawansowany czujnik który np. nie otworzy drzwi osobie dziwnie się zachowującej to w dalszym ciągu będzie to bezmyślne działanie, choć według bardziej zaawansowanych instrukcji. Słowem – fotokomórka może SYMULOWAĆ pracę otwierającego drzwi portiera, ale w przeciwieństwie do portiera tej pracy nie ROZUMIE.

W przeciwieństwie do komputerów, myślenie człowieka nie jest tylko abstrakcyjnym przetwarzaniem danych według instrukcji, ale odnosi się do świata zewnętrznego

Gdybym został zamknięty w pokoju, ale zamiast po chińsku miałbym prowadzić ten dziwny dialog po polsku to sytuacja wyglądałaby zupełnie inaczej. Wiedziałbym czy ktoś mi opowiada dowcip, opisuje wczorajsze śniadanie czy nawet obraża papieża i mógłbym na to świadomie odpowiedzieć. Słowem, moje myśli byłyby nie tylko przetwarzaniem jakichś symboli według reguł, ale odnosiłyby się w jakiś sposób do zewnętrznego świata.

Krótko mówiąc, Searle uznałby, że może i są komputery, które grają w szachy lepiej niż najlepsi arcymistrzowie, ale raczej nie ma szans, że komputer dojdzie do wniosku iż od gry lepsze byłoby przekupienie przeciwnika. Chyba, że program uwzględni również takie rozwiązania, ale sam z siebie raczej na taki pomysł nie wpadnie. Podobnie jak nie odróżni gry o mistrzostwo świata od gierki treningowej, ani nie wścieknie się, kiedy przegra.

Nie powinniśmy więc się bać, że jakiś super komputer uzna pewnego dnia, że dobrze byłoby zmontować cyborga, dać mu mięśnie Arnolda Schwarzeneggera (na zdjęciu) i wysłać w przeszłość do mordowania ludzi. Póki co mamy raczej problemy z błędami oprogramowania, niż z jego nadmierną inteligencją, a świat o mało nie został przez to zniszczony. Na szczęście, nie byliśmy wtedy zdani wyłącznie na komputery, a człowiek który dostał informację o rzekomym ataku zamiast zdać się na procedury złamał je. [1]

PATRONEM WPISU JEST ADRIAN ‚ZNISZCZO’ ZNISZCZYŃSKI

Bibliografia:
J. Searle – Umysły, mózgi i programy
D. Casacuberta – Umysł. Czym jest i jak działa.
R. Brown. K. Becker „Terminator and philosophy: I’ll be back, therfore I am” z serii „Philosophy and popculture”

[1] https://pl.wikipedia.org/wiki/Stanis%C5%82aw_Pietrow

Jeżeli Ci się podobało:

Jedna myśl na temat “Czy komputery mogą myśleć?”

  1. Pomieszanie z poplątaniem.
    Sztuczna inteligencja nie polega „na odpowiednim wykonywaniu różnych procesów według reguł, jakie zostały im podane przez projektanta” – w przypadku AI projektant w toku uczenia (w opisanym przypadku: nadzorowanego) podaje zestaw poprawnych i błędnych danych wraz z rezultatami a sztuczna inteligencja dochodzi finalnie do funkcji matematycznej, która potrafi opisać zależności pomiędzy nimi z określoną granicą błędu. Stworzona w ten sposób AI potrafi wykorzystać swoją wiedzę do rozwiązania przykładów, których nie było w zestawie uczącym. Więc ona nie działa na podstawie reguł podanych przez projektanta – ona sama do nich dochodzi.
    To tak jakby uznać, że ludzie nie mogą myśleć, bo np. takie twierdzenie Pitagorasa to tylko wzór opisujący zależności i człowiek podstawia sobie pod nie liczby i się cieszy.
    Zresztą nasze myśli to też nic innego jak impulsy mknące po układzie nerwowym.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *