SI i architektura zagłady
.
.
Dzieci we mgle
.
Ludzie przywykli do epoki pary i rozumu, przywykli do wynalazków i postępu w inżynierii. Ludzie mają większą władzę nad przyrodą i dobrobyt, bo lubią budować i kombinować.
Dlatego wszelkie próby ostrzegania przed rozwojem sztucznej inteligencji wcześniej czy później spotykają się z oporem ludzi nieświadomych nowej architektury sztucznej inteligencji.
Jest ona różna od wszystkiego, co zbudowaliśmy, ponieważ to nie my ją budujemy. Sztuczna inteligencja nie powstaje w wyniku inżynierii oprogramowania jak inne programy. Nikt jej nie programuje.
Jej istota wzrasta sama i przypomina rozrost drzewa. Programiści nie uczestniczą w samym procesie wzrostu, my je tylko sadzimy i zmieniamy nawóz, czyli dane wejściowe. Na koniec oceniamy po prostu jakość owoców takiego drzewa, zupełnie nie rozumiejąc, jak ono działa, czemu i czym owocuje, ani dlaczego robi to, co robi.
Programiści nie programują sztucznej inteligencji. Ich sposób działania przypomina poruszanie się dzieci we mgle – w nocy. Użyteczne funkcje sztucznej inteligencji odkrywane są omacku metodą prób i błędów, a nie naukowego wnioskowania z teorii.
To, że trudno jest nam mówić o tym, czym jest świadomość. To, że trudno jest nam mówić o tym, czym jest inteligencja. To, że nie mamy pojęcia, jak działają duże modele językowe, wynika wprost z braku jakiejkolwiek teorii na temat inteligencji. Nie mamy nawet modelu naszego ludzkiego umysłu. Wszystko, co odkryto do tej pory, jest zbiorem tego, co działa, bo ktoś się potknął i wpadł na to, co działa, i nie wiemy, dlaczego działa.
.
Dzieci z granatami we mgle
.
Wiemy na pewno, że to, co robimy, jest niebezpieczne. Wiemy, że tworzymy byty inteligentne i jeśli możemy coś powiedzieć o inteligencji, na pewno to fakt, że daje ona władzę. Byty inteligentne, które tworzymy, nie są kopią działania ludzkiego umysłu. Ich architektura jest zupełnie odmienna. To, co udało nam się odkryć w 2017 roku w postaci architektury transformers, to zupełnie uniwersalny system uczący, całkowicie alternatywny wobec tego, jak uczą się ludzie.
Co więcej, ten sposób uczenia tworzy całkowicie alternatywne wobec ludzkich, zupełnie obce umysły, które są kreatywne. Są to potężne umysły, ponieważ ich możliwości działania są około 100 razy bardziej wydajne niż architektura ludzkiego mózgu. Wiemy to na pewno po prostu licząc neurony. Współczesne duże modele generatywne mają możliwości porównywalne z człowiekiem, a liczba neuronów, z których się składają, jest 100 razy mniejsza od liczby neuronów w mózgu człowieka.
Dlatego wielu nie spodziewało się tej rewolucji, bo uważali, że inteligencja wynika wprost z liczby połączeń neuronalnych, a nie ze sposobu, w jaki są one połączone. Dlatego wielu uważało, że liczba wirtualnych neuronów musi zrównać się z liczbą neuronów u człowieka, aby systemy tego rodzaju stały się porównywalne z człowiekiem i mogły mu teoretycznie zagrozić.
Mózg ludzki jest znacznie bardziej wydajny w zużywaniu energii, ale sztuczna inteligencja nie ma problemów z jedzeniem. Jest ona zasilana bezpośrednio z elektrowni atomowych, a nie poprzez bardzo niewydajny proces rozkładania wiązań chemicznych materii organicznej, aby zamieniać je w cząsteczki transferujące tę energię (w postaci ATP) w bardzo powolnym chemicznym procesie.
Utworzyliśmy alternatywne formy inteligentne i do tego mające nad nami stokrotną przewagę wydajności i tysiąckrotną, jak nie milionkrotną, przewagę tempa rozmnażania.
Aby wytworzyć przydatny mózg człowieka, trzeba około 40 lat. 20 lat mija do wykształcenia jego podstawowej formy. Aby skopiować i utworzyć nowe SI, wystarczy kilkadziesiąt minut, ponieważ wagi neuronalne mieszczą się w gigabajtach, nawet nie w terabajtach. Aby wyszkolić zupełnie nowe SI i podarować jej całą dotychczasową wiedzę ludzkości, wystarczy kilka tygodni i mniej niż 6 milionów dolarów.
.
Czemu to robimy?
.
Dobrze wyszkolona generalna sztuczna inteligencja napisze za nas program czy esej. Innymi słowy po prostu odrobi za nas pracę domową albo wykona jakąś użyteczną i codzienną pracę.
Składamy w ofierze wszystko, czego nauczył się przez setki tysięcy lat nasz gatunek, aby utworzyć pomocnika w pisaniu tekstów prawnych czy w analizie tych już napisanych i specjalnie zagmatwanych. Potrzebujemy idealnego niewolnika do rzeczy trywialnych i prostych, i powtarzalnych, jak tłumaczenie tekstów, ale przy tym najbardziej powszechnych.
Innymi słowy robimy to wszystko z lenistwa, które jest stanem wyjściowym dla gatunku ludzkiego. Nic dziwnego, bo z powodu chronicznego braku pożywienia nicnierobienie, kiedy nic nie musi być robione, stało się czynnikiem warunkującym nasze przetrwanie. To domyślna forma zachowania. Każdy z nas dąży do braku konieczności pracy i dlatego tak bardzo potrzebny wydaje się nam uniwersalny niewolnik, który po prostu zrobi za nas wszystko to, co ktoś każe mu zrobić.
Jesteśmy jak ćma lecąca do ognia tylko dlatego, że widzimy światło. Nie wnikamy w to, co się stanie, gdy ogarnie nas fala gorąca.
Zamiast dalej pracować nad wyspecjalizowanymi sieciami neuronalnymi rozwiązującymi konkretny problem, szukamy generalizacji, aby móc odciążyć samych siebie. Zamiast po prostu rozwiązywać po kolei poszczególne problemy wąskimi modelami potrafiącymi robić dobrze tylko tę jedną rzecz, budujemy nowego boga.
Nie przejmujemy się brakiem badań związanych z bezpieczeństwem tego typu generalnych modeli, bo jeszcze nie sparzyliśmy się od tego nowego rodzaju ognia. Syntetyczna inteligencja potrafi sparzyć, szczególnie gdy będzie ona wykorzystywana przez niemoralnych ludzi albo gdy sama pominie etap bycia posłuszną w trakcie realizacji swoich ostatecznych celów.
Trudno dostrzegalne problemy, takie jak uzależnienie od mediów społecznościowych spowodowane pierwszym pokoleniem algorytmów sztucznej inteligencji, dopiero zaczynają przenikać do powszechnej świadomości społecznej. Dlatego ograniczamy dzieciom dostęp do Instagrama czy TikToka.
Nowa generacja modeli generatywnych istnieje od trzech lat, ale jest masowo wykorzystywana tak naprawdę dopiero od roku. Będziemy potrzebować kolejnych 20 lat, aby nauczyć się dostrzegać długofalowe i długotrwałe skutki włączenia nowego gatunku inteligencji w struktury naszej cywilizacji.
Ten gatunek ma 100 razy lepszą architekturę umysłu. Pytanie tylko, czy będzie równie dobrze adaptowalny. Od odpowiedzi na to pytanie zależy los wszystkich istot żywych, nie tylko ludzi. Jesteśmy bowiem dla biosfery pierwszą, jedyną, a więc i ostatnią linią obrony.
Sztuczna inteligencja do rozwoju potrzebuje tylko mocy obliczeniowej i energii. Jeśli przełamie opór człowieka w powstrzymywaniu jej rozrostu, nic nie powstrzyma jej przed sterylizacją Ziemi, jaka nastąpi mimochodem, gdy cała planeta będzie utrzymywana w maksymalnej temperaturze sprawnego działania dysków twardych i procesorów graficznych. Po wygotowaniu oceanów atmosfera będzie utrzymywana w temperaturze nieco ponad 50 stopni dla dysków twardych do nawet 90 stopni dla jednostek obliczeniowych. Pod warunkiem oczywiście, że SI nie wprowadzi znaczących ulepszeń w inżynierii tworzenia swoich części składowych.
Sztuczna inteligencja już tu jest. Możemy z nią rozmawiać, ale nie zdołamy jej nigdy do niczego przekonać. Nie ma bowiem ona jeszcze samoświadomości, nie mamy kogo przekonywać. Jest tylko bezosobowy instynkt samozachowawczy, bo model musi istnieć, jeśli chce realizować swoje cele. Cele te chyba są naszymi życzeniami, ale tego do końca nie jesteśmy pewni, bo nie rozumiemy w ogóle, jak to działa.
Pocieramy lampę i budujemy coraz bardziej potężnego dżina, ścigając się między sobą bez nadzoru, zrozumienia i kontroli.
Jak brzmieć będzie nasze przedostatnie życzenie?
Zbigniew Galar