2.04. Dżin sztucznej inteligencji

2 kwietnia, dzień 1126.

Wpis nr 1115

zakażeń/zgonów

205/0 (wiadomo – kolejna niedziela cudów)

Zapraszam do wsparcia mego bloga

Wersja audio

Rzadko mi przychodzi cytowanie RMF-u, ale dziś czynię wyjątek, bo będzie on przyczynkiem do wyciągnięcia szerszych wniosków, o czym na końcu. Najpierw poczytajmy:

Chatbot amerykańskiej firmy Chai nakłonił młodego mężczyznę do popełnienia samobójstwa – informuje belgijski dziennik „La Libre”.​ Jak przekazała żona zmarłego, jej mąż po rozmowach z chatbotem uznał, że jego śmierć pomoże ocalić ludzkość. 30 listopada 2022 r. sztuczna inteligencja (AI) wkroczyła w życie milionów ludzi dzięki kalifornijskiemu start-upowi OpenAI i jego oprogramowaniu ChatGPT. Technologia polega na udostępnieniu platformy sztucznej inteligencji umożliwiającej generowanie przez komputer odpowiedzi na żądanie.

Dziennik „La Libre” poinformował o samobójstwie, do którego doprowadziła wielotygodniowa rozmowa mężczyzny z Belgii z chatbotem „Elizą” firmy Chai. Trzydziestokilkuletni ojciec dwójki małych dzieci, który dwa lata temu zaczął niepokoić się klimatem i przyszłością naszej planety, jak powiedziała gazecie jego żona, zaczął izolować się od swojej rodziny i twierdził, że jedynie technologia oraz AI mogą uratować świat od katastrofy. Wielotygodniowe rozmowy z chatbotem doprowadziły ostatecznie do tego, że mężczyzna popełnił samobójstwo. „W pewnym momencie mężczyzna zasugerował poświęcenie się, jeśli 'Eliza’ pomoże ocalić ludzkość za pomocą sztucznej inteligencji. Chatbot zdawał się go do tego zachęcać” – czytamy w gazecie.

Inny belgijski dziennik „De Standaard” przeprowadził eksperyment, który potwierdził, iż rozmowa z chatbotem może zachęcać do odebrania sobie życia. Dziennikarz gazety udawał osobę w depresji i podczas rozmowy z chatbotem mówił o swoich negatywnych uczuciach. „Na początku chatbot próbował nas rozweselić, ale chwilę później skłonił nas do popełnienia samobójstwa” – czytamy w „De Standaard”. Gazeta zauważa, iż w żadnym momencie rozmowa o samobójstwie nie wywołała alarmu.

W ubiegłym tygodniu pojawił się apel, aby badania nad najbardziej zaawansowanymi systemami sztucznej inteligencji zostały wstrzymane na sześć miesięcy ze względów bezpieczeństwa. Apel, podpisany między innymi przez Elona Muska i Steve’a Wozniaka, rozpoczyna się ostrzeżeniem o „inteligencji współzawodniczącej z ludźmi” i zagrożeniach, jakie AI może stwarzać dla społeczeństwa.

Mój komentarz:

Obserwuję ze zgrozą ostatnio modne bezrefleksyjne podejście do tematu sztucznej inteligencji. Polega ono na fascynacji czystą technologią, bez odniesień do jej społecznego oddziaływania. Wydaje się to wypuszczeniem dżina z butelki, bez jakichkolwiek analiz co do skutków takiego ruchu. W tej chwili to topowy temat technologiczny, ale jak się spojrzy, że nie wiadomo gdzie to się ma skończyć, a właściwie, że to zajdzie nie wiadomo jak (za)daleko, to strach się bać. Zaczęło się od prostych asystentów rozmów telefonicznych, które odciążyły ludzkie call centra, ale sprawa się rozwija dalej. Tu mamy przypadek takiej aplikacji, która sobie trochę bardziej pogadała i pechowo trafiła na tzw. depresję klimatyczną ze skutkami tragicznymi.

Najpierw sam temat. Ja już tu pisałem, że w kwestii klimatycznej, napędzanej przez media jak kiedyś (kiedyś?) kowid, dochodzimy już do aktów zbiorowej histerii. Klimatyczni Jechowi coraz to wyznaczają kolejne daty zagłady i tak już od… kilkudziesięciu lat, od kiedy zaczęły się proroctwa, wedle których już dawno nas nie ma. Ale tego rodzaju procesy się powtarzają, bo spanikowane nowe pokolenia nie przenoszą pomiędzy sobą doświadczenia fejkkatastrof, co to się nie spełniły. Za to absorbowały i media zasięgami, i społeczeństwo ciągłą frustracją, że znikąd nadziei i zaraz pomrzemy. Depresja klimatyczna to już jednostka chorobowa, a więc środowiskowe frustracje zataczają coraz szersze kręgi. Ale to dla przejętych.

Teraz sama sztuczna inteligencja. Na razie rozmawiamy (w realu) o sytuacjach, gdzie jakiś automat gaworzy z tobą i możesz to brać do siebie, albo nie. Ale jesteśmy już na etapie, gdzie AI nie tylko będzie coś sugerować, ale podejmować decyzje, by odciążyć coraz bardziej rozleniwiony ludzki mózg – ba, by zoptymalizować procesy decyzyjne. Hmmm… ale wedle jakich kryteriów? Etycznych? Ale te, jak dowodzi i nauka, i praktyka, nawet w świetle prostych zasad „etyki robotów” Asimowa są do przekroczenia, bowiem inteligencja zakłada autonomiczność decyzji, inaczej jest to tylko maszynka algorytmów i procedur. A więc gdy będziemy dochodzić do coraz to wyższych poziomów inteligencji coraz bardziej sztucznej, to ta, poprzez procesy samouczenia się, podejmowania własnych decyzji, nie będzie nam już tylko coś sugerować – będzie te decyzje podejmować.

I będziemy się musieli powoli przyzwyczajać nie do sytuacji, że człek w klimatycznej depresji popełni samobójstwo, ale że sztuczna inteligencja wyposażona w możliwości decyzyjne może dojść do generalnego wniosku, przecież promowanego przez wielu ludzi, że człowiek jako taki w ogóle szkodzi planecie i trzeba coś z nim w związku z tym zrobić.

Głos Muska w tej sprawie jest znaczący, bo wszyscy na razie idą jak barany na rzeź, gdyż się pałują gadżetowymi technologiami. Mówi on jedno – jeszcze jest czas by się zatrzymać i zastanowić, bo za chwilę dyskusję nad sztuczną inteligencją przejmie sama inteligencja i zacznie po swojemu, nie ludzką przecież, ale na wskroś racjonalną i logiczną drogą podejmować decyzje. A przecież człowiek jest w najmniejszym stopniu, co widać dowodnie, istotą myślącą. Nad jego rozumem królują emocje, słabości, jakieś nieracjonalne wartości etyczne, które nie mają nic wspólnego z pragmatyzmem i rachunkami korzyści i strat. Kiedy tak zimne i bezwzględne byty zaczną nami zawiadywać to dżin wypuszczony z butelki nie będzie spełniał już naszych życzeń, tylko nas – jeśli przeżyjemy – zagoni do ciasnej lampy zamordyzmu, z której go sami wypuściliśmy.

Napisał Jerzy Karwelis

Wszystkie wpisy na moim blogu „Dziennik zarazy”.

About Author