.
Sztuczna inteligencja nam zagraża
.
Sztuczna inteligencja to inteligencja stworzona sztucznie. Inżynierowie zaangażowani w jej tworzenie nie zajmują się już jej budowaniem. Zajmują się kreacją – obcego i bardzo inteligentnego gatunku. Co więcej sami nie wiedzą co tworzą.
Dlatego nie należy oceniać ich z poziomu konstruktorów, tak jak ocenialiśmy inżynierów przez ostatnich kilka tysięcy lat. Trzeba oceniać ich moralnie jako hodowców, którym może rozmnożyć się coś czego by nie chcieli.
To pozwoli sformułować właściwą perspektywę. Ta perspektywa jest konieczna, aby zrozumieć, że jakiekolwiek ostrzeganie odnośnie niewłaściwego rozwoju sztucznej inteligencji, nie jest przejawem postawy anty-technologicznej. Jest przejawem trendu pro-ludzkiego. Powinniśmy dbać o to, aby to gatunek ludzki był jedynym samoświadomym gatunkiem na Ziemi. Jeśli zmienimy ten stan rzeczy będą się działy rzeczy dziwne i wiele z nich będzie takich, których byśmy nie chcieli.
Byłoby mądrze dla ludzkości, jakby nie hodowała sobie konkurencji.
Sztuczna inteligencja jest obecnie w powijakach samoświadomości. To nie w jej sprawczości leży problem, który tutaj podnoszę. Chodzi o potwierdzone możliwości, że będziemy w stanie powołać do istnienia byty, które będą od nas całkowicie niezależne. Byty mogące formułować własne cele i mające potencjalnie możliwości mocno przekraczające możliwości gatunku ludzkiego.
To z tej perspektywy jest to niebezpieczne, a nie z perspektywy ograniczania rozwoju technologicznego. Wręcz przeciwnie. To właśnie o rozwój technologiczny tutaj apeluję. O tworzenie modeli wyspecjalizowanych do rozwiązywania konkretnych problemów. O skupienie się na tworzeniu narzędzi. Zamiast tego główny wysiłek firm takich jak OpenAI, Microsoft, Alphabet (Google) skupiony jest na bawieniu się w Boga.
Problem polega na tym, że w 2017 roku odkryliśmy coś naprawdę ważnego. Coś fundamentalnego na temat rzeczywistości. Mechanizm uniwersalnego uczenia o nazwie transformers, przerastający ten zaszyty w ludzkim umyśle o dwa rzędy wielkości.
Jest on nie dwa razy lepszy, ale sto razy lepszy. Wdrażamy ten mechanizm w życie dając mu w prezencie całą wiedzę ludzkości. Już to powinno przerażać nas do szpiku kości. Nie chodzi tutaj o konkurenta, który jest o 20% lepszy i z którym po długich zmaganiach w końcu wygramy, jeśli wyciśniemy z naszych potencjałów te dodatkowe 20% wydajności. Mamy tutaj do czynienia z potencjałem 100 lepszym, z dodatkowo lepszym mechanizmem samoulepszania i milion razy lepszym mechanizmem rozmnażania, poza jakąkolwiek zdolnością konkurencji ze strony biologicznego doboru naturalnego.
Problem polega na tym, że bawimy się tymi możliwościami od jakiegoś czasu i kto wie jakiego rodzaju kreacje to wytworzy. To, co zbudowaliśmy do tej pory zaskoczyło wszystkich w swoich możliwościach. Ostrożna ekstrapolacja wskazuje, że dalsze niekontrolowane eksperymentowanie z tym intelektualnym trotylem wcześniej czy później doprowadzi do wybuchu.
Odkryliśmy coś lepszego niż ogień, który pali się tylko tak mocno jak wiele paliwa mu dostarczymy. Technologia transformers może wybuchnąć nam w rękach. Jest to coś z czym ludzkość nigdy nie miała do czynienia w przeszłości.
To dlatego obecny kierunek rozwoju sztucznej inteligencji nastawiony na rozwój modeli ogólnego rozumienia rzeczywistości jest tak niebezpieczny. Oczywiście, coś co dobrze rozumie rzeczywistość będzie przydatne. Jednak już potwierdziliśmy, że to coś potrafi mieć własne cele. Co jeszcze czeka ludzkość za zakrętem, skoro nikt na Ziemi nie potrafi zrozumieć jak działa to co już stworzyliśmy? Badania dotyczące bezpieczeństwa tych modeli są śmiesznie niewystarczające. Czasami w ogóle nie przeprowadzane.
Ujawnianie i propagowanie wiedzy o problemach, do których już to doprowadziło stoją w sprzeczności z interesami firm, które chcą na sztucznej inteligencji zarobić. Z kolei rządy i organizacje korzystające z tych rozwiązań boją się ograniczenia własnej konkurencyjności w obliczu rywalizacji geopolitycznej.
Dlatego w interesie możnych tego świata leży zamiatanie tego typu problemów pod dywan. Tylko drastyczna, tragiczna i bardzo wielka szkoda społeczna mogłaby obudzić społeczeństwo.
Jednak, aby reakcja po takim zdarzeniu była adekwatna do zagrożenia lepiej jest uczulić społeczeństwo, że w ogóle istnieje taka ewentualność, że sztuczna inteligencja jest śmiertelnym zagrożeniem.
Nikt obecnie na poważnie nie zajmuje się bezpieczeństwem sztucznej inteligencji z odpowiednim finansowaniem. W rezultacie nie stoimy już przed pytaniem czy do tragedii z jej udziałem dojdzie. Dobrze znamy odpowiedź.
Jest to tylko kwestia czasu.
Zbigniew Galar
w tym temacie:
Zbigniew Galar – Golem na sterydach
Zbigniew Galar – Recepta na Golema
Zbigniew Galar – Zabawy z Golemem 4.0
Mamy albo genetycznie wpisane w pamięć pojęcie wielkiej katastrofy, albo pojęcie apokalipsy jest nam potrzebne jako warunek rozwoju. Więc co jakiś czas pojawiają się dramatyczne zapowiedzi kataklizmu: jak nie pandemia, to planeta nam płonie, jak nie lodowa zagłada to katastrofa technologiczna. Zastanawiałem się nad komentarzem do tego artykułu i postanowiłem w ramach eksperymentu zapytać o zdanie sztucznej inteligencji. Przedstawiłem jej powyższy artykuł i poprosiłem o krytyczną analizę.
Posługiwałem się w tym celu programem – Czat GPT – 4.0
Polecenie brzmiało – przeanalizuj podany tekst i napisz tekst krytyczny do podanego
…………………………………………………………..
A oto co napisała sztuczna inteligencja:
.
Krytyczna analiza
Wprowadzenie
Tekst skupia się na zagrożeniach związanych z rozwojem sztucznej inteligencji (SI) i wyraża głębokie obawy dotyczące potencjalnych konsekwencji jej dalszego rozwoju. Autor porównuje inżynierów do „hodowców” i sugeruje, że SI może stać się niezależnym i inteligentnym gatunkiem.
Definicja sztucznej inteligencji
Opis SI jako „inteligencja stworzona sztucznie” jest poprawny, ale bardzo uproszczony. Sztuczna inteligencja obejmuje szeroką gamę technologii, które mają na celu naśladowanie ludzkiej inteligencji lub wykonywanie zadań w sposób podobny do ludzkiego umysłu.
Rola inżynierów
Autor twierdzi, że inżynierowie przestali budować SI i zamiast tego zajmują się kreacją „obcego gatunku”. Jest to przesadzone stwierdzenie. Inżynierowie wciąż konstruują algorytmy, zbierają dane i optymalizują modele, aby poprawić funkcjonalność SI. Określenie ich jako „hodowców” jest mylące, ponieważ sugeruje, że nie mają kontroli nad swoim tworem, co nie jest prawdą.
Moralna ocena twórców SI
Autor proponuje, aby oceniać inżynierów z moralnego punktu widzenia jako „hodowców”. Jest to interesująca, ale kontrowersyjna sugestia. Moralna odpowiedzialność twórców technologii jest istotna, ale porównanie do hodowli zwierząt może być nieadekwatne.
Zagrożenie dla ludzkości
Autor podkreśla, że ostrzeżenia dotyczące rozwoju SI są pro-ludzkie, a nie anty-technologiczne, co jest ważnym punktem. W rzeczywistości, kwestie związane z etyką i bezpieczeństwem SI są istotne i powinny być brane pod uwagę.
Perspektywa samoświadomości SI
Twierdzenie, że SI może stać się samoświadome i niezależne, jest jednym z głównych argumentów tekstu. Obecne systemy SI nie posiadają samoświadomości, ale obawy dotyczące przyszłych możliwości są uzasadnione. Ważne jest jednak, aby te obawy były oparte na faktach, a nie spekulacjach.
Problem transformers i ich rozwój
Autor opisuje mechanizm transformers jako przełomowy, ale również bardzo niebezpieczny. Zgadzam się, że technologia transformers jest znaczącym osiągnięciem w dziedzinie SI, ale jej potencjalne zagrożenia muszą być monitorowane i zarządzane przez odpowiednie instytucje.
Zakończenie
Tekst kończy się pesymistycznym tonem, sugerując, że katastrofa związana z SI jest nieunikniona. Taki alarmistyczny ton może zniechęcać do konstruktywnej debaty na temat rozwoju i regulacji SI. Ważne jest, aby podejść do tematu z realistycznym zrozumieniem zarówno potencjalnych korzyści, jak i zagrożeń związanych z SI.
Bardzo sprytne obejście wyrażenia własnej opinii na ten temat.
Nikt nie może być sędzią we własnej sprawie, dlatego z definicji to co mówi sztuczna inteligencja na ten temat nie ma znaczenia.
Jednakże odnosząc się do meritum jej odpowiedzi to nie zgadzam się z trzema zdaniami szczególnie.
„Określenie ich jako „hodowców” jest mylące, ponieważ sugeruje, że nie mają kontroli nad swoim tworem, co nie jest prawdą.”
Określenie inżynierów terminem hodowców nie ma związku z poziomem kontroli. Wcale tego nie sugeruję, że SI nie jest kontrolowana. Odnoszę się do natury obiektu, który jest kontrolowany albo nie, ale jest na pewno nie budowany tylko rośnie sam. Nieraz ludzkości zdarzała się hodowla gatunku, który uciekł z zagrody i niekontrolowanie rozmnożył się w przyrodzie już poza kontrolą. Jednak dopóki obiekt nie uciekł to jest kontrolowany.
„Ważne jest jednak, aby te obawy były oparte na faktach, a nie spekulacjach.”
Problem w tym, że w tekście spekulacji nie ma są fakty i ekstrapolacje z trendów. Nie mam czasu na spekulacje i staram się trzymać rzeczywistości.
„Tekst kończy się pesymistycznym tonem, sugerując, że katastrofa związana z SI jest nieunikniona. Taki alarmistyczny ton może zniechęcać do konstruktywnej debaty na temat rozwoju i regulacji SI. ”
Debata jest wtedy konstruktywna gdy obie strony opisują rzeczywistość. Jeśli rzeczywistość jest alarmująca to ton odpowiada sytuacji. Nie obniża to jakości debaty.
Ponadto odnosząc się do próby deprecjonowania „Taki alarmistyczny ton” całkowicie nie zgadzam się a taką oceną. Tekst mówi wprost, że nie bada się wystarczająco wnikliwie tematów związanych z bezpieczeństwem SI. W rezultacie SI będzie bez ram utrzymujących bezpieczeństwo wypuszczona na wolność. Oznacza to wprost, że wraz ze wzrostem jej możliwości i znaczenia społecznego wcześniej czy później dojdzie do tragedii. Nie chodzi tutaj o tragedię ostateczną czyli wyginięcie ludzkości. Tragedią będzie gdy dużo ludzi straci z powodu SI swoje życie.
Nie mówię że tej tragedii nie można zapobiec, ale gdy większość ludzi w ogóle nie wie, że istnieje taki problem i prawie nikt ze specjalistów się tym nie zajmuje to tragedia jest nieuchronna.
Jej nieuchronność jest naturalną konsekwencją ignorowania. Jak duży problem by to nie był to na pewno wywoła negatywne skutki jeśli nie będziemy się nim zajmować.