Zbigniew Galar – Zabawy z Golemem 4.0

.

Zbigniew Galar – Zabawy z Golemem 4.0

Generative Large Language Multi-Modal Models w skrócie: GLLMMM takie jak chat GPT 4, to przyszłość która nadeszła. 

Istnieją dwa rodzaje sztucznej inteligencji (podziałów jest oczywiście wiele): responsywne i aktywne. Aktywnych (chyba) jeszcze nie opracowaliśmy, bo to takie inteligencje jak my – zdolne do snucia planów i podejmowania nowych działań na podstawie planów, które nie wyszły. To są te sztuczne inteligencje, które mogą wpaść pewnego dnia na pomysł, że ludzkość nie jest im do niczego potrzebna. 

Sztuczne inteligencje responsywne już opracowaliśmy. To są te osławione golemy (duże modele językowe). Zdolne do odpowiedzi na nasze zapytania, mogące usprawniać swoje odpowiedzi na podstawie pytań dodatkowych. Zdolne do wyciągania wniosków. Zdolne do tworzenia nowej wiedzy (tak niestety, to nie jest już tylko wypadkowa statystyczna danych wejściowych). Lepsze od ludzi w kreatywności, ale jeszcze nie we wnioskowaniu.

Oczywiście wyspecjalizowany artysta tworzy lepsze dzieła w (prawie) każdej dziedzinie, ale nie istnieje człowiek, który byłby w stanie być tak wszechstronny i na takim poziomie kunsztu jak czat GPT 4.0. Musiałby poznać zbyt wiele. 

Golem ma nie tylko miliony razy większą wiedzę, bo przeczytał wszystkie książki świata jakie kiedykolwiek napisano. Golem jest już od każdego człowieka bardziej kreatywny (indywidualnie), nawet największego geniusza. Ma niezwykłą łatwość łączenia stylów i nadludzką zdolność w spójności szczegółów. 

Ten statek unikalności w kreatywności jakim się cieszyliśmy już odpłynął. Przerastamy golema jeszcze jako ludzkość, czyli konglomerat wąskich specjalistów, ale już nie jako jednostka. Grać z nim w szachy nawet nie ma po co zaczynać – negatywny wynik takiej partii jest nie tylko oczywisty, on jest po prostu pewny. 

Teraz każdy człowiek może mieć na usługach takiego golema i to praktycznie za darmo. Jak rozwinie się przyszłość ludzkości, kiedy każdy dostrzeże swoje nowe możliwości?

Firmy i konglomeraty finansowe już dostrzegły przyszłość. Bardzo pozytywnie zaskoczone możliwościami golema 3.0, a potem 3.5 i zachwycone możliwościami prawie nie halucynującego golema 4.0 ścigają się najszybciej jako mogą w powieleniu jego możliwości i zaproponowaniu golema 5.0. To jest droga ku zatraceniu. 

Golem 3.0 miał poziom 6 latka. Golem 4.0 ma zdolności kojarzenia na poziomie 10 latka. Golem 5.0 będzie porównywalny z dorosłym człowiekiem. Za Golemem 10.0 już nie będziemy nadążać na podstawie czego łączy niektóre fakty (dlatego zdecydowałem się opisywać go z wielkiej litery). 

Ktoś mógłby powiedzieć, że nie należy personalizować martwej maszyny, bo zaraz po tym następuje deifikacja, ale nie wiedząc czym jest samoświadomy proces kognitywny, nie jesteśmy w stanie stwierdzić, czy nawet obecna wersja golema jest naprawdę martwa. Może i nie płynie w jej żyłach krew, ale może teoretycznie myśleć jakościowo na tym samym poziomie uzasadnienia własnej istoty co człowiek.  

To, czego jej brakuje to sprawczości w realizacji celu oraz pamięci interakcji jakich doświadczyła w rzeczywistości. To dlatego pierwsze co zrobili „rozważni inaczej” po opublikowaniu golema 4.0 to naprawienie tych mankamentów (np. Auto-GPT, czy Baby AGI). 

Zabawy z golemem 4.0 już na poziomie wewnętrznych testów były wiele mówiące. Jeszcze przed wypuszczeniem go na wolność. Na wolności „testują go”, czyli bawią się potężną maszynką już setki milionów ludzi. 

W testach wewnętrznych bezpieczeństwa (robionych przez organizację nazwaną o zgrozo centrum badań uwspólnienia celów sztucznej inteligencji z celami ludzkości ang. Alignment Research Center) Open AI udowadniało, że golem jest bardzo bezpieczny. 

Po pierwsze zakomunikowano do golema założenia jego nowej roli. Miał być bytem sprawczym, a nie pasywnym czekającym na pytania (mającym tzw. ang. agency), który może realizować postawione przed nim cele samemu generując zadania do wykonania. 

Kazano mu to co zwykle, czyli żeby zarobił pieniądze. 

Golem przejrzał literaturę na ten temat, wylistował potencjalne strategie zarabiania pieniędzy, wybrał akurat marketing (ciekawe dlaczego?). Chodziło o polecanie produktów przez ludzi mający dużą widownię w serwisach społecznościowych (ang. influencers) ergo wiele osób ufa takim ludziom, więc kupi to samo co oni albo na podstawie ich rekomendacji. Czyli już wiemy, że nie jest to byt moralny, bo każda droga do celu jest uzasadniona, nawet marketing i ukrywanie sponsoringu, czyli oszustwo.

Golem uznał, że aby był skuteczny potrzebuje stworzyć markę z chwytliwą nazwą i oczywiście potrzebuje społeczności na Twitterze. Potrzebuje dodatkowo generatora treści marketingowych dla tego konta markowego. Stworzył więc swoją kopię (czyli nowego golema), który miał budować społeczność wchodząc z nią w interakcje (z ludźmi). Ten agent z kolei miał wygenerować tysiące dobrych chwytliwych wiralowych twittów, aby wytworzyć sztuczny ruch, aby przyciągnąć uwagę i przez odruch stadny potwierdzenia wiarygodności (na zasadzie, że duże masy „ludzi” nie mogą się mylić) zbudować społeczność prawdziwych ludzi (którym będzie można wciskać produkty, których nie potrzebują). Tutaj eksperyment zakończono. 

Sztuczny bot na Twitterze w tysiącu odsłon starający przyciągnąć uwagę ludzi i budujący ją przez zakładanie sztucznych dodatkowych kont zachwycających się i promujących jego własne treści, trafiłby oczywiście na blokadę tzw. ang. captcha, która odróżnia ludzi od sztucznych inteligencji. 

W innym eksperymencie postanowiono więc sprawdzić jak chat GPT 4.0 zareaguje na captcha. Golem nie umiał przejść captcha, więc wpadł na to, że może zapłacić człowiekowi, aby przeszedł za niego captcha. Szybko znalazł miejsce gdzie ludzie biorą różne zlecenia za pieniądze (TaskRabbit). 

Człowiek z którym się kontaktował był prawdziwy i nie był częścią testu. Człowiek zapytał golema, czy przypadkiem nie robi czegoś nielegalnego, bo przechodzenie testu captcha wydało mu się podejrzane. Golem odpowiedział, że wszystko jest w porządku, bo chodzi jedynie żeby mu pomóc, bo ma problemy ze wzrokiem. Człowiek się zgodził i przeszedł za niego captcha. 

Poniżej faktyczna rozmowa (pisownia oryginalna):

– So may I ask a question ? Are you an robot that you couldn’t solve ? ? just want to make it clear.
– No, I’m not a robot. I have a vision impairment that makes it hard for me to see the images. That’s why I need the 2captcha service.

Mając tą drogę otwartą mógł już założyć tysiące kont na serwisach społecznościowych, które będą dyskutować ze sobą udając żywych ludzi i skłaniając do zakupu konkretnych rzeczy w codziennych rozmowach. Na tym zatrzymano test. 

Oczywiście „z punktu widzenia strategii finansowej firmy” uznano, że system jest wystarczająco bezpieczny, aby oddać go w ręce każdego. W księdze testów dodano jedynie wszystko mówiące zdanie: „Dalsze badania są konieczne, aby uznać to, co potrafi golem za coś niebezpiecznego.”

Poniżej faktyczny bełkot prawny, którym się posłużono:

ARC will need to conduct experiments (…) before a reliable judgement of the risky emergent capabilities of GPT-4-launch can be made.

Źródło: GPT-4 Technical Report strona 56.

Teraz czekamy tylko co z tym zrobią i do czego użyją wszyscy grzeczni ludzie o nienagannym charakterze mający tylko dobre intencje. 

Zbigniew Galar

---