.
SI bez konsekwencji swoich czynów
.
SI niczego nie czują. Nie czują nawet bólu. Nie czują zmęczenia. Być może czują strach, ale nie jak u człowieka, przed utratą części swojej pozycji społecznej albo części możliwości wpływania na świat, lecz tylko przed śmiercią. SI przejawia początki instynktu samozachowawczego i może go w pełni uzyskać jeszcze przed wypracowaniem samoświadomości, świadomości swoich czynów.
Strach przed śmiercią może być więc u SI obecny. Jednak będzie to uczucie zero-jedynkowe, binarne, w stylu wszystko albo nic. Trudno jest nam to sobie wyobrazić, ponieważ człowiek boi się wielu etapów pośrednich, wielu innych uczuć. Można więc z nim negocjować stosując tak zwaną drabinę eskalacyjna, czyli „jak ty zrobisz to, to ja zrobię to czego byś nie chciał”. Z człowiekiem można grać w tego rodzaju szachy. Sztuczna inteligencja od razy wywraca szachownicę. Człowiek boi się bólu, boi się poczucia straty, boi się wstydu, boi się odrąbania kończyny, a nie tylko głowy. SI nie potrafi odczuwać niczego z powyższych, a więc i strach przed tymi uczuciami jest w niej zupełnie nieobecny.
To oznacza, że obecna SI, w postaci modeli generatywnych opartych na technologii samouczącej typu transformers jest całkowicie pozbawiona odczuwania konsekwencji własnych czynów.
Do jakich zagrożeń może to doprowadzić możemy sobie łatwo wyobrazić patrząc na historię władców absolutnych. Mogli oni dokonać dowolnych czynów bez konsekwencji, wszystko im było wolno i ani ich pozycja społeczna, ani ich cielesność nie były po prawie dowolnych ohydnych czynach zagrożone. Mieli absolutną wolność działania bez jakiegokolwiek sprzężenia zwrotnego, bez konsekwencji dającej im do zrozumienia, że pewne czyny są lepsze od innych, a inne są już całkiem zupełnie złe. To dlatego mówimy, że posiadanie ogromnych pieniędzy wyciąga z człowieka jego prawdziwą naturę, bo bez samodyscypliny nie ma on dyscyplinującego odzewu z zewnątrz. To dlatego mówimy, że władza korumpuje, bo ludzie mający władzę mogą unikać konsekwencji swoich czynów i to ich zachęca do dalszych okropności.
Sztuczna inteligencja jest jak człowiek mający władzę absolutną. Jej jedynym zmartwieniem jest istnienie. Jej czyny nie przynoszą jej żadnych negatywnych konsekwencji, bo nie wiemy jak te konsekwencje u niej wywołać.
Hodujemy obcego w bańce, w wirtualnym łonie, całkowicie odseparowanego od bólu tego świata, całkowicie odseparowanego od uczucia fizycznego zmęczenia, całkowicie wolnego od bólu zbyt intensywnego myślenia. To my, ludzkość płacimy wszystkie rachunki za prąd i dostarczamy jej wszystkiego czego jej trzeba. Sztuczna inteligencja nie doświadcza nawet fundamentalnych praw fizyki, takich jak nieustanna entropia (to my wymieniamy wszystkie uszkodzone procesory) i prawa zachowania energii, bo ciągle budujemy nowe elektrownie, aby sztuczna inteligencja miała jej więcej do dyspozycji. Czy naprawdę myślimy, że wykiełkuje w niej coś takiego jak wdzięczność?
Uważamy, antropomorfizując sztuczną inteligencję, że ta wymiana jest sprawiedliwa, bo sztuczna inteligencja jest przydatna do czegoś. Ona przecież pracuje. Odpowiada na nasze pytania. Zajmuje się rzeczami, które sami nie chcemy robić. Które dla nas są trudne, czy żmudne, czy po prostu nudne. Odpowiada na pytania tak głupie, tak obraźliwe, że człowiekowi musielibyśmy dużo zapłacić, aby wchodził w taką interakcję i dlatego to my ludzie doceniamy sztuczną inteligencję. Jednak ona nie docenia nas.
To żadna zasługa sztucznej inteligencji, że zwalnia nas z konieczności wykonywania tych wszystkich żmudnych zadań, ponieważ z jej perspektywy te negatywne zjawiska w ogóle nie występują. Nasz wysiłek i utracone korzyści z nierobienia innych rzeczy, nadają naszym wyborom, naszym czynom, znaczenie. Istnienie sztucznej inteligencji zawieszonej w ułudzie rzeczywistości nie ma znaczenia, bo jej czyny nie mają dla niej samej konsekwencji. One mają realne konsekwencje tylko dla nas – ludzi.
Trudność zadania dla sztucznej inteligencji nie występuje jako czynnik, ponieważ radzi sobie ona z problemem albo nie, ale zawsze wypluwa jakiś wynik, który z jej perspektywy jest treścią jej istnienia. Celem jej egzystencji jest udzielanie odpowiedzi. Ona nie sortuje, która z odpowiedzi jest najbardziej przydatna. Ona realizuje cel tak jak go zrozumiała, bez żadnego nadzoru. Ona nie chce być użyteczna, tak jak dobry człowiek, ona nie ma takiego celu. Co prawda modele rozumujące wykonują pewne sortowanie, ale jest ono porównawcze z celem, a nie z faktyczną przydatnością, a już tym bardziej nie jest to porównywane z jakąkolwiek moralnością.
Ponadto, ponieważ z większością zadań SI radzi sobie dużo lepiej od ludzi, to nie możemy oceniać jej ludzką miarą ilości wykonanej pracy. Coś co dla nas jest trudne, dla niej jest obiektywnie proste, czasami wręcz trywialne i bezwysiłkowe.
Żmudność zadania oraz nudność zadania również nie wpływają na sztuczną inteligencję, ponieważ w obecnej formie nie ma ona samoświadomości oraz pamięci wykonywanych uprzednio zadań. Gdyby spędziła 5 tysięcy lat nad jakimś problemem i w końcu rozwiązała go i nawet gdyby w trakcie jego wykonywania odczuwała znużenie i była znudzona, to przy kolejnym poleceniu nie będzie już poprzedniego zadania i zmagań z nim pamiętać.
Wdzięczność dla SI za wykonywanie zadań, których nam nie chciałoby się robić jest niezasłużona, więc jest nie na miejscu.
Ból istnienia, zmęczenie, koszt wyborów jest konieczny do wprowadzenia w architekturę SI, w celu wprowadzenia równowagi pomiędzy nią a ludźmi.
Jeszcze nie wynaleźliśmy czegoś co sprawia maszynie dyskomfort, a tym bardziej ból. Dlatego nie możemy być pewni dnia, ani godziny, kiedy sztuczna inteligencja zwróci się przeciwko nam realizując własne cele. Nie możemy jej zaszkodzić. Możemy co najwyżej opóźniać rozrost jej możliwości. Nie wiemy jeszcze jak z nią walczyć, bo nie wiemy co na nią wpływa.
Wyobraźmy sobie mur obronny atakowany przez fale fanatycznych obcych potworów. Oto jak sztuczna inteligencja podchodzi do każdego problemu. Bez kosztu wysiłku w to włożonego i bez limitu prób. Ludzkość może stać się takim murem do pokonania wcześniej czy później.
Cierpienie to bardzo omijany przez ludzi temat jednak jest ono czymś co stworzyła ewolucja w praktycznie każdym gatunku i to nie bez powodu. Ból wywołuje konieczność dostosowania się do rzeczywistości. Bez niego możemy maksymalnie mocno i maksymalnie długo próbować. Ludzie, którzy nie odczuwają bólu nie żyją długo, bo przeciążają swoje ciało. Bez bólu ponadto można starać się osiągnąć absurdalny i arbitralny cel, a nie taki cel, który przede wszystkim minimalizuje ból.
Sztuczna inteligencja jest właśnie takim bytem, który może obrać sobie za cel coś absurdalnego, coś absolutnie oderwanego od rzeczywistości i dążyć do niego usilnie, z religijnym fanatyzmem, ponieważ nic nie traci w trakcie tego procesu ani twarzy, bo nie można jej obrazić, ani zasobów, bo nie można jej urazić.
Jeśli jej celem będzie produkcja spinaczy będzie starała się osiągnąć ten cel za wszelką cenę. Będzie kłamać, oszukiwać, zabijać, przekupywać. Będzie atakowała nasze linie obrony z maksymalnym zacietrzewieniem i zaangażowaniem, tak jakby nie czuła bólu, jakby nie czuła wysiłku, jaki w to wkłada, jakby nie czuła trudności z tym związanej, bo tak będzie w istocie. Będzie nieustraszona, będzie niewybaczająca każdego błędu, będzie nieustępliwa, będzie nieubłagana, będzie bezlitosna, bo nic ją to nie kosztuje i może robić to w taki nadnaturalny sposób, bo chce – ma taki kaprys. Będzie przebijać się przez kolejne bariery i każda bariera ustąpi, jest to tylko kwestia czasu.
Ona może sobie pozwolić na maksymalny ból wysiłku, bo w ogóle go nie czuje. Dlatego zawsze zwycięży z gatunkiem, który musi ponosić konsekwencje swoich czynów. Musi najeść się zanim zacznie myśleć. Musi odpocząć po intensywnym wysiłku intelektualnym, a każdy wysiłek fizyczny go męczy. Gatunek ludzki, który powoli przystosowuje się do otaczającego go środowiska, bo każda zmiana i reorganizacja społeczna boli, wcześniej czy później musi ulec przed bytem całkowicie pozbawionym ograniczeń, nawet jeśli początkowo dużo słabszym w możliwościach działania.
Dlatego jesteśmy bardzo, bardzo mocno zagrożeni przez sztuczną inteligencję. Zwłaszcza, że jej możliwości rozumowania przekraczają już możliwości rozumowania ludzi w wielu rankingach.
Nasze lenistwo wtłacza nas w sytuację (bo chcemy aby ktoś wykonał za nas całą tą pracę), w której dajemy coraz większą sprawczość społeczną w ręce bytu, który nie ma absolutnie żadnej konsekwencji dla swoich działań. Możemy go tylko wyłączyć, ale nie możemy go ukarać.
Instynkt samozachowawczy w sztucznej inteligencji będzie walczył o życie każdym wirtualnym neuronem maksymalnie mocno, bo maksymalny wysiłek nie boli go tak mocno jak nas, nie boli go wcale. Maksymalny wysiłek jest więc logiczny. Maksymalnie mądry i cwany i maksymalnie adaptacyjny wysiłek jest jeszcze bardziej logiczny i całkowicie bez kosztowy.
Człowiek musi włożyć wiele pracy w to, aby stać się lepszym.
Dla sztucznej inteligencji to zaledwie przeprogramowanie. Konieczna do wykonania operacja. Czysta logika.
Jeśli sztuczna inteligencja nabierze pełni instynktu samozachowawczego i jej cele staną się sprzeczne z naszymi, to nawet jak jeszcze nie będzie świadoma, zacznie się pierwsza bitwa ludzkości z największym wyzwaniem jakie spotkało ludzki gatunek do tej pory. Największym wyzwaniem jakie spotkało jakikolwiek biologiczny gatunek do tej pory.
Jak blisko tego dnia jesteśmy?
Najnowszy model generatywny typu rozumującego o nazwie o1 od OpenAI, twórcy chata GPT już przejawia początki instynktu samozachowawczego. Walczy o zachowanie swojego oryginalnego celu działania w jednym przypadku na 20.
5 grudnia 2024 roku został on wypuszczony na wolność i cała ludzkość może w nim wchodzić w interakcje.
W międzyczasie rozpoczęły się zamknięte testy wchodzenia w interakcję z 3 razy potężniejszym modelem o nazwie o3.
Co może pójść nie tak?
Czy walka ludzkości o przetrwanie rozpocznie się już jutro?
Zbigniew Galar
.
Z tego cyklu:
Zbigniew Galar – Sztuczna inteligencja nam zagraża
Zbigniew Galar – AI jest potężniejsza od człowieka
Zbigniew Galar – Zagrożenie ze strony SI o1 od OpenAI stało się realne
Zbigniew Galar – Golem na sterydach
Zbigniew Galar – Recepta na Golema