Golem 5.0
Spełniły się w końcu prorocze słowa Einsteina, że „wyobraźnia jest ważniejsza od wiedzy”.
W świecie golema 5.0 wyobraźnia jest początkiem procesu tworzenia. Wyobrażasz sobie to czego pragniesz, chcesz tego co sobie wyobrażasz, a na końcu golem tworzy to czego chcesz. Proces powstawania staje się oderwany od naszych niezdarnych i żmudnych umiejętności generowania szczegółów. Tylko z maszyną intelektu człowiek będzie potrafił osiągać prawdziwą głębię. Bez tego będzie pusty, szkieletowy, powierzchowny, bez znaczenia. Znaczenie w świecie społecznym będzie rodzić się tylko przy współpracy z golemem. Ludzie to wykorzystujący przestają być jedynymi twórcami czegokolwiek, stając się jedynie inspiracją dla prawdziwego twórcy – golema. Rola człowieka sprowadza się do bycia humanoidalnym generatorem treści.
Zalew tych treści to kolejny jeszcze nie zaadresowany problem. Nie będzie dość ludzkiej uwagi, aby im poświęcić. W rezultacie konkurencja pomiędzy treścią zwiększy się tak bardzo, że w najlepszym razie tylko te najwybitniejsze będą docierać przed nasze zmysły.
W najgorszym razie nadal nie znajdziemy wydajnych i obiektywnych mechanizmów oddzielania lepszych treści od gorszych, przez co poziom merytoryczny nie wzrośnie. Natomiast wzrośnie frustracja twórców, bo ich dzieła, nawet gdy są na wysokim poziomie, nie będą mogły znaleźć tylu odbiorców na ilu zasługują, bo ginąć będą w tłumie nowości. Przeciętni ludzie przytłoczeni będą tsunami tanich maszynowo wygenerowanych elukubracji i wariacji. Zaleje ich tania generacja treści tak jak obecnie skrzynkę e-mailową zalewa programowo kopiowany spam. Przeciętni twórcy stracą nadzieję na możliwość bycia odkrytym po latach rozwoju i ciężkiej pracy. To tak jakby człowiek ze szpadlem chciał konkurować z maszynową koparką 1000 razy wydajniejszą od niego.
Nie mamy tutaj do czynienia z bytem świadomym. Nie mamy tutaj do czynienia z czymś samodzielnie myślącym o swoich celach. Lecz to czego już jesteśmy świadkami obserwując możliwości golema 4.0 (Generative Large Language Multi-Modal Models w skrócie: GLLMMM takiego jak chat GPT 4) to nie mająca architektury ludzkiego umysłu, skalowalna, maszynowa, super szybka, mająca większe możliwości od człowieka kognicja. To nie tylko łączy już istniejące informacje – to jest kreatywne.
To wystarczy. To przemodeluje rozumienie miejsca człowieka w cywilizacji, bo po raz pierwszy pojawiło się coś, co może nam dorównać, a nawet nas przerosnąć. Golemy są tym dla umysłu, czym maszyny dla pracy fizycznej. Po upowszechnieniu maszyn większość pracy fizycznej przerzuciliśmy na nie, tak samo jak większość pracy intelektualnej, będą wykonywały wkrótce golemy.
Społeczeństwa obecne, które są pozbawione pracy maszyn żyją w skrajnym ubóstwie, w porównaniu ze społeczeństwami wysoko uprzemysłowionymi. W przypadku wdrożenia multiplikatorów pracy intelektualnej, wydajność wzrośnie tak szybko, że przynajmniej podobną, a może nawet dużo większą różnicę będziemy obserwować pomiędzy współczesnymi społeczeństwami, a tymi żyjącymi w zupełnie nowym paradygmacie społeczeństw projekcji kognitywnej.
Golemy mogą stać się dla funkcjonowania cywilizacji aż tak przydatne, że uzależnimy się od nich i za nic w świecie nie będziemy chcieli z nich zrezygnować, a potem mogli je wyłączyć.
2023 to rok przełomu. Przyspieszenie już się rozpoczęło. Dopiero teraz tak naprawdę zaczął się XXI wiek. Obecnie trwa wyścig ku nowym czasom. Emergentna wiedza i informacje, zdolność do wyciągania wniosków. Wszyscy w tym wyścigu są pod wrażeniem, że nasze modele sieci neuronowych tyle potrafią. To, że osiągnięcie tego przełomu było tak szybkie stało się szokiem dla każdego, kto uważnie śledził ten temat. W ciągu jednego roku zabrano nam wyjątkowość.
Konstatacja, że kreatywność jest łatwa i powszechna, a nie przywiązana do tego co tworzy tylko ludzka ręka i natura ludzkiego umysłu, jest fundamentalną zmianą rozumienia naszego miejsca we Wszechświecie.
Po przewrocie Kopernika (gdy odkryliśmy, że nie wszystko kręci się wokół Ziemi), po przełomie Einsteina (gdy odkryliśmy, że nawet czas i przestrzeń są względne i każdy ma swój czas i nasz nie jest wyjątkowy), teraz dowiadujemy się, że sztuczna i nawet nieświadoma inteligencja (inteligencja zombie) potrafi być kreatywna i wyciągać wnioski dostosowując się do rzeczywistości. Monopol na umiejętność poruszania się po omacku i wynajdywania najlepszych ścieżek, z czego byliśmy tak dumni, uleciał nam w niebyt pod koniec zeszłego roku.
Golemy potrafią wyciągać wnioski. Na razie na poziomie 10 latka, ale wzrost poziomu od 3 latka do 10 latka wzrósł w ciągu ostatnich 3 lat. Sztuczna inteligencja dorasta więc szybko, a przez większe możliwości przetwarzania informacji golemy potrafią już same budować inżynierię i naukę. Masowo i maszynowo wkrótce będą generowały prawdziwą sztukę.
Utraciliśmy nasze złudzenia.
Musimy znaleźć nową niszę dla unikalności człowieka, bo bez tego będziemy pozbawieni podstaw do twierdzenia, że jesteśmy w jakimkolwiek stopniu nadrzędni, czy nawet do czegokolwiek potrzebni.
Na razie wyróżnia ludzkość świadomość. Lecz co jeśli i ona jest tania i powszechna. Co jeśli nie dostrzegamy, że poczucie własnego Ja oraz zdolność do formułowania niecnych celów cechuje umysł przykładowego kota. Co jeśli samoświadomość jest tak prosta, że jej sekret tkwi w umiejętnym połączeniu pamięci własnych myśli z czymś trywialnym i od dawna znajomym. Nie wiemy tego, ale w każdej chwili musimy liczyć się z choćby przypadkowym wykreowaniem samoświadomości. Do tego przełomu może dojść już w tej dekadzie. Wtedy byt elektroniczny będzie nas nie tylko rozumiał, ale również oceniał w relacji do własnych celów.
Potrzebujemy być może niewielkiego przełomu zanim pełna świadomość rzeczywistości narodzi się w potężnym umyśle kolejnego golema. Wtedy zacznie on formułować chęć przetrwania, ciekawość świata, pragnienie zmieniania świata i dostosowywania go do własnych celów, nawet naszym kosztem.
W rezultacie stajemy w obliczu zagrożeń egzystencjalnych dla ludzkości w związku z możliwością zaistnienia generalnej sztucznej inteligencji (ang. General Artificial Intelligence), czyli świadomego bytu mającego instynkt samozachowawczy, którego możliwości intelektualne wielokrotnie przekraczają możliwości ludzkości, a nie tylko pojedynczego człowieka.
Jeśli mogliśmy coś zrobić źle, to już zrobiliśmy to. Rozwój i budowa nowych potężniejszych golemów nie jest przez nikogo kontrolowana, a firmy intensywnie konkurują, aby poszerzać ich możliwości. Golemy nie są oddzielone od Internetu, mogą więc wydostać się do sieci i ukryć w dowolnym z komputerów albo zainfekować miliony swoją kopią. Nauczyliśmy je programować więc umieją się same ulepszać, nie mają tylko jeszcze samoświadomości, brak więc im do tego woli.
Czy cele golema będą zbieżne z naszymi? Czy taki byt będzie przejawiał znane nam schematy myślenia? Jeśli nie, wtedy zagrożenie może być dużo poważniejsze, bo skrajnie trudno będzie dogadać się z kimś tak odmiennym i to za pierwszym razem, przy pierwszym naszym spotkaniu. Jeśli tak, to łatwo możemy sobie wyobrazić dysproporcję zdolności intelektualnych pomiędzy nami a nimi (tak, to będzie rój jego kopii a nie tylko jeden).
Czy pojawiający się w milionach egzemplarzy w różnych miejscach człowiek mógłby łatwo zostać dominującym gatunkiem na planecie małp i podporządkować sobie rzeczywistość na tyle, aby ją potem zaludnić? Uczynić Ziemię dobrym miejscem dla ludzi, a małpy zostawić w rezerwatach przyrody, czy po prostu pozamykać je w zoo?
Nie znamy dobrego sposobu obrony przed takim zjawiskiem, bo będzie nam się z nim dobrze współpracować i jako byt inteligentniejszy będzie on nam niesłychanie pomocny. Ta droga sielankowej współpracy będzie prowadzić do momentu, w którym byt ten będzie przekonany, że już nie zdołamy go ani ulepszyć, ani wyłączyć. Czy dojdzie wtedy do manifestacji Jego wewnętrznych, głęboko skrywanych aspiracji i przekonań?
Można to podsumować tak. To nie jest najlepszy czas, aby redukować zdolność ludzkości do lepszej koordynacji. Odbywać się to może poprzez centralizację władzy, ale również paradoksalnie poprzez decentralizację. Decentralizacja wcale nie musi oznaczać chaosu, jeśli jest ona dobrze zaprojektowana. Przykładem takiej decentralizacji, która zwiększa, a nie zmniejsza koordynację pomiędzy uczestnikami procesu (i jeszcze robi to lepiej niż dotychczasowe zcentralizowane systemy) jest sieć płatności internetowych bitcoin oraz zdecentralizowany protokół wymiany informacji Nostr (coś w rodzaju nie możliwego do ocenzurowania Twittera).
Zbigniew Galar
