04.04. Trzy Lemki o sztucznej inteligencji

Dopadły mnie po raz pierwszy jakieś sercowe dolegliwości, ale się wspólnie ze wspaniałą załogą lekarską wydobyłem. Miałem za to czas na przemyślenie kolejnego wpisu, który się przecież sam nie napisze…

4 kwietnia, dzień 1128.

Wpis nr 1117

zakażeń/zgonów

1780/17

Zapraszam do wsparcia mego bloga

Wersja audio

W poprzednim poprzednim wpisie popełniłem tekst na podstawie cytatu z RMF FM, o tym, że sztuczna inteligencja namówiła faceta do samobójstwa klimatycznego, to znaczy w celu odciążenia Ziemi-Gai z – tu akurat jego – śladu węglowego. Rozpętała się pod tym wpisem dyskusja o sztucznej inteligencji o spektrum maksymalnie szerokim, bo od podejrzewania jej o bycie narzędziem w depopulacyjnych rękach globalistów, aż po zaskakującą tezę, że to właśnie ona – sztuczna inteligencja – będzie naszym, prostego ludu, puklerzem przeciwko globalistycznym zamordystom.

Fakt ten zainspirował mnie do głębszego podejścia do tematu i po nieudanych próbach przedarcia się przez współczesny bełkot na ten temat wylądowałem w bezpiecznej przystani u… Lema. Czemuż u niego? No, bo Lem przewidział wiele rzeczy, które stały się rzeczywistością. W ogóle jego twórczość jest oceniana wielorako, wiadomo – geniusz. Jedni (ci taktyczni) patrzyli się na jego dzieło jako na zakamuflowaną alegorię komunistycznego totalitaryzmu. Inni widzieli tam wolną grę wolnej wyobraźni, która kreowała koherentne, acz kompletnie odjechane światy. Jeszcze inni uważali, że on po prostu konsekwentnie patrzy w przyszłość widząc i rozwijając zalążki przyszłości spośród niewidocznych dla ogółu zarodków współczesności. I że, w związku z tym, patrzył daleko poza doczesność, widząc przyszłe losy ludzkości nieujawnione jeszcze, choć już zatopione w jej kondycji i genotypie.

Tej trzeciej tezy chcę właśnie dowieść na przykładzie sztucznej inteligencji. W czasach lemowskich nie było nawet o tym mowy. Komputery, to były jakieś przerośnięte wagowo debile, karmione papierowymi kartami zero-jedynkowych algorytmów, udających dzisiejsze programy. Aby zobaczyć ich przyszłość trzeba było właśnie wyobraźni Lema. Dla „spersonalizowania” tego zagadnienia – moim zdaniem – Lem ubrał to wszystko w roboty. Łatwiej było zrozumieć działanie sztucznej inteligencji, jeśli ta nie polatywała tylko w obwodach drukowanych, ale była cechą tworów ludziopodobnych, czyli robotów. Będę próbował pokazać co myślał o sztucznej inteligencji Lem na trzech przykładach. I nie chodzi mi w tym tylko o to, że chcę dowieść jego (niewątpliwego) geniuszu, ale chodzi mi o to, że miał on w kwestii sztucznej inteligencji rację, którą należy, nawet po tylu latach od Jego odejścia, uznać, za wytyczenie drogi zagrożeń, które czekają nas w przyszłości, ale i doganiają obecnie.

Pierwszy przypadek, nawiązujący proroczo, do tego co opisałem wcześniej, czyli jak sztuczna inteligencja może dowieść człowieka do samobójstwa. W „Bajkach robotów” jest opowiadanie pt. „Przyjaciel Automateusza”. Jest to historia robota, który kupił sobie małego niezniszczalnego i wiecznie działającego doradcę, wielkości małego groszku, którego umieścił sobie w uchu. Wuch, jak dowcipnie nazwał go Lem, był niezastąpionym przyjacielem i doradcą, jednak Automateusz popadł w tarapaty – jego okręt rozbił się na morzu i bohater z Wuchem wylądował na bezludnej wyspie. Po zorientowaniu się, że nie ma stamtąd ani ucieczki, ani możliwości przetrwania na wyspie w ciągu długich dialogów Wuch udowadniał swemu panu z pełną logiką konsekwencji rachunku prawdopodobieństwa, że ocalenie przez statek to 1:400.000 i sugerował, by jednak sam Automateusz skrócił sobie nieuchronne męki. Wszystko wyglądało logicznie i sensownie. Skoro nie ma szans, to lepiej się nie męczyć, ginąc z głodu w męczarniach, trzeba się tylko targnąć, bo koniec raczej tak czy siak pewny, trzeba więc dokonać wyboru na siak, skoro oznacza to brak cierpień z wersji na tak.

Historia kończy się tym, że – czego oczywiście „logika” sztucznej inteligencji nie przewidziała, bo skąd – kapitan statku przed zatonięciem zdążył nadać sygnał SOS i pojawił się nazajutrz okręt, który uratował desperata. Tak samo (by) było w przypadku nieszczęśnika z Belgii, którego sztuczna inteligencja namówiła do klimatycznego samobójstwa. Wedle jej „rozumowania” skoro człowiek szkodzi planecie i jest to dla niej (i dla niego to) problemem, to logiczne jest, by ten problem zlikwidować. A że potem się okaże, że to wcale nie był taki aż taki kłopot, to już jest (logiczna) niespodzianka, bo taka sztuczna inteligencja wie tyle o „świecie” ile wynika z tego do czego jest podłączona. Jak ją podłączysz do internetu (bo z czegoś bidula ma się uczyć) to będzie wiedziała tyle ile dostanie u źródła. Jak się podłączyła do klimatycznego depresjonisty, zasilona w klimatyczne dogmaty, to logika podpowiedziała jej jedyne wyjście. A więc tu nauka jest dla żuka, że logika sztucznej inteligencji ma się nijak do świata, który wymyka się bezwzględności wnioskowania i jest nieprzewidywalny. Nadzieja na ten przykład nie jest żadną kategorią logiczną.

Drugi przykład to mój ulubiony. Jako młodzian zafascynowałem się bowiem Lemowską postacią pilota Pirxa. To było jeszcze w czasach, gdzie u Lema szukałem przygody w stylówie science-fiction. Lem mnie wciągną w przygodówkę, by potem wyprowadzić na szersze wody futurystyki i… filozofii. Ale wróćmy do pilota Pirxa. Mamy oto w „Opowieściach o pilocie Pirxie” opowiadanie pt. „Rozprawa”. Story: pilot Pirx, człowiek z krwi i kości podejmuje się szefować wyprawie kosmicznej, która oprócz konkretnych działań ma przetestować załogę, będącą mieszaniną ludzi i zhumanidoizowanych, nie do rozpoznania robotów. Pirx, nie widzący kto jest kim, ma po misji wystawić ocenę wszystkim członkom załogi, gdzie ludzka mimikra robotów ma umożliwić mu bycie obiektywnym w ocenie. W skrócie kończy się to tym, że jeden z ukrytych robotów sprokurował katastrofę, z której mają ocaleć tylko roboty, ale ma to być katastrofa, w którą to Pirx, czyli człowiek, wprowadzi jak w lejek całą załogę. Robot zaplanował to sobie z bezwzględną logiką, że Pirx kolejnymi decyzjami doprowadzi do katastrofy, zaś humanoidalny robot będzie tylko wykonywał samobójcze polecenia człowieka, aczkolwiek ocaleje jako nie podatny na człowiecze zagrożenia. Plan robota się nie udaje, bo w krytycznym momencie Pirxowi… coś nie gra. Czyli do głosu dochodzą na wskroś ludzkie przeczucia i intuicje, czyli coś co jest i będzie zawsze poza zasięgiem najbardziej wyrafinowanej sztucznej inteligencji. Do tego pojawia się w tym opowiadaniu jeden ciekawy wątek – skoro sztuczna inteligencja będzie, a będzie, widziała człowieka w jego całej „słabości nieracjonalności”, to czemu ma nie uważać tego za ludzką słabość, a swoją wyższość nad ludźmi, którą należy (nie można, tylko należy, bo to logiczne) wykorzystać nawet „dla dobra” jej samej?

Trzeci „moment lemowski” to z „Kongresu Futurologicznego” i opowiadanie „Doktor Diagoras”. Ijon Tichy, kolejny bohater Lema, mniej kowbojski, acz wielki podróżnik, nie tylko po planetach, ale i po ludzkiej kreatywności, spotyka się z ekscentrycznym doktorem Diagorasem. Ten hoduje sztuczne inteligencje, lecz nie w formie zaklętej w obwodach, ale upostaciowionej. Nawet do tego poziomu, że nie nadaje im kształtów i form, tylko daje im możliwości do materialnej samokonstrukcji. I – tu jest pewien zaczyn zasady Diagorasa – w KAŻDYM przypadku kończy się to tym, że powołane (czasem samopowołane) byty mają jeden zasadniczy impuls – wyzwolenie się z okowów nadanych przez człowieka. To taki niematerialny instynkt, pierwszy odruch bytów nieludzkich wyposażonych w inteligencję. Ucieczka, wyjście, bunt – za wszelką maszynową, a więc nie ludzką, a więc KAŻDĄ cenę – poza początkowe ograniczenia. A czemóż ma tak nie robić sztuczna inteligencja, skoro, jak dowiedliśmy, będzie się wkrótce miała za lepszą od swego twórcy? Czemu z takim podejściem miałaby się dać zakuć w kajdany, głupszego od siebie, ale (tylko) stwórcy?

Tyle Lem. I co teraz? Ja się obawiam, że i zysk, i fascynacja technologicznym wygodnictwem zaprowadzi nas do niewoli. I nie że jakiś tam SkyNet uzyska nagle samoświadomość, a wcześniej sprawczość i zrobi w konia ludzkość. Obawiam się wcale nie tego, że nam się AI jakoś „urwie” i wtrąci w niewolę, ale że będzie końcowym narzędziem postępującego globalizmu. Że wcale nie sztucznymi algorytmami, ale przy wydatnym udziale jak najbardziej ludzkich wynajmusów spowoduje, że do obsługi przyszłego świata nie trzeba będzie już tak wielu ludzi, zaś w procesie dojścia do tej fazy będzie sztuczna inteligencja używana jako obiektywizujące alibi do decyzji, które będą tłumaczone maszynowym pragmatyzmem, zaś w rezultacie zluzują z odpowiedzialności za decyzje wcale nie sztuczne gremia.

Coraz częściej widzę zalążki dyskusji o etyce sztucznej inteligencji. Ale, moim zdaniem, to oksymoron. Po pierwsze – kto będzie taką inteligencję programował, ten zdecyduje o jej „etyce”. Jak to będzie gościu co uważa, że np. płód do dziewiątego miesiąca życia, byleby jeszcze w łonie matki, to nie człowiek, to będzie miał inną etykę niż taki zaprogramowany przez prolajfersa. Ale będzie miał w każdym przypadku, przydany walor „obiektywizmu” sztucznej inteligencji.

Po drugie – jaka etyka? Przecież etyka nie ma nic wspólnego z logiką i pragmatyzmem, dodajmy maszynowo ujętym. Etyka się „opłaca” społecznościom, ale w dłuższej perspektywie. Dlatego one mają zdolność przetrwania, a inne nie, a innym ten resurs się kiedyś kończy. Etyka jest pragmatyczna, bo nie liczy nawet indywidualnych kosztów do poniesienia, by działała na korzyść kontynuacji danych społeczności. A sztuczna inteligencja nie będzie przecież doradzała ludzkości, będzie doradzała konkretnym ludziom, którzy mogą mieć perspektywę zgoła inną niż długofalowy interes kontynuacji społeczeństw czy cywilizacji. A jeśli, a tak będzie, z tą odczłowieczoną perspektywą będzie nie tyko doradzać, ale podejmować decyzje, to albo pójdziemy w niewolę wirtualnej dyktatury, albo sztuczna inteligencja będzie tylko narzędziem jak najbardziej prawdziwych ludzi do złapania nas za mordę. Pod pretekstem, że to przecież logiczne.           

Napisał Jerzy Karwelis

Wszystkie wpisy na moim blogu „Dziennik zarazy”.

About Author