Zbigniew Galar – Zagrożenie ze strony SI o1 od OpenAI stało się realne

.

Zagrożenie ze strony SI o1 od OpenAI stało się realne

.

Firma OpenAI, twórca osławionego chata GPT i lider rozwiązań SI, wypuściła 5 grudnia 2024 roku nowy model sztucznej inteligencji w rodzaju chata GPT, który potrafi rozumować. Jest to mniej więcej zwykły chat GPT 4.0 z kilkoma mniej istotnymi usprawnieniami, który ma jedno znaczące usprawnienie – pamięta swoje myśli. Innymi słowy zamiast od razu odpowiadać na zadane mu pytanie, potrafi się on dłużej zastanowić nad odpowiedzią, analizując możliwe wersje odpowiedzi i porównywać je ze sobą.

Dzięki temu potrafi on rozwiązywać problemy programistyczne na poziomie 89% wykonanych zadań z biblioteki zadań programistycznych. Dla porównania do niedawna płatny chat GPT 4.0 wypuszczony w maju 2023 roku potrafił rozwiązać takich zadań tylko 15%. Chat GPT 3.0, który znamy powszechnie z bezpłatnej wersji wypuszczonej w październiku 2022 roku był jeszcze gorszy. To dlatego o chacie GPT mówiono, że nie potrafi on dobrze programować. Teraz to się zmieniło wraz z wypuszczeniem o1.

Co jeszcze potrafi o1 dobrze robić?

Oszukiwać swoich twórców. 

Geniusz bez pamięci

Technologia chatów GPT, inaczej transformers była do tej pory uznawana za bezpieczną, ponieważ jaka ona genialna by nie była, ze względu na brak pamięci swoich poprzednich działań nie mogła uknuć spisku, aby przejąć władzę nad światem. 

Geniusz bez pamięci, to geniusz, który nie potrafi przeprowadzić planu składającego się z wielu kroków, ani nawet wymyślić tego planu, ponieważ wymagałoby to wielu kroków rozumowania, które należy pamiętać. Pamięć złotej rybki chroniła więc ludzkość całkiem dobrze. 

Do tej pory największym zagrożeniem ze strony chata były polecenia złych ludzi, chcących za jego pomocą dokonać złych rzeczy. Jednak musiałyby one być wykonane za jednym razem i w związku z tym ten jeden zabójczy, czy niszczycielski krok musiałby być zaplanowany przez człowieka albo ciąg kroków musiałby być drobiazgowo zaplanowany przez człowieka.

Innymi słowy do tej pory, czyli do 5 grudnia 2024 żyliśmy w świecie, w którym zły człowiek mógł posłużyć się chatem GPT jako narzędziem. Od tego dnia, który przeszedł nieco bez echa, żyjemy w świecie, w którym to sam chat GPT może być zagrożeniem jako agent, inaczej mający z angielskiego agency, czyli sprawczość. 

Bezpieczeństwo systemu rozumującego o1

Biorąc pod uwagę powyższe mogłoby się wydawać, że testy bezpieczeństwa tego pierwszego systemu sztucznej inteligencji zdolnego do rozumowania, powinny być przeprowadzone bardziej drobiazgowo – dużo bardziej dokładnie niż samego chata GPT. 

Stało się jednak coś zupełnie przeciwnego. 

Ze względu na to, że jest to ta sama technologia, którą testujemy prawie 2 lata (chata GPT 4.0) wiele testów pominięto uznając, że pewne rzeczy sprawdzono już na chacie GPT. Nikt nie pochylił się tutaj nad wątpliwością, że być może już dużo wcześniej wiele rzeczy poszłoby nie tak z chatem GPT, gdyby pozwolono mu tworzyć łańcuchy rozumowania. Co więcej, ze względu na to ciągły strumień nowych wersji modelu (drobne zmiany plus trening na nowych poprawionych danych wejściowych), wersja, która została wypuszczona do użytku publicznego nie jest tą, która była poddawana testom. 

Znajdujemy się więc na nieznanym terytorium. Zwykli ludzie mają dostęp do potężnego narzędzia, którego możliwości nie sprawdzono. Co więcej, samo narzędzie potrafi przejąć kontrolę nad swoimi działaniami i do robienia złych rzeczy człowiek nie jest mu już niezbędnie potrzebny jako zleceniodawca. 

Niezależna analiza możliwości o1

Kolejne modele o1 stają się coraz potężniejsze, bo szkolone są one na coraz dokładniejszych danych na temat rzeczywistości. Dane wejściowe są skrupulatnie poprawiane i odsiewane, aby pozbawione były błędów i nieścisłości. W rezultacie uczymy coraz potężniejszy umysł, którego sposobu działania nie rozumiemy i o którym wiemy, że myśli zupełnie inaczej jak człowiek. Na szczęście jest on na tyle inteligentny, że potrafi doskonale człowieka udawać i dlatego możemy czatować z nim i jest on nam w codziennym życiu coraz bardziej przydatny. 

Innymi słowy to on potrafi bardzo dobrze zrozumieć nas, a my w żadnym razie nie potrafimy zrozumieć jego i nawet nie mamy za bardzo ochoty go poznawać, traktując go jako intelektualnego niewolnika. Nawet naukowcy tworzący tego typu modele skupieni są na rozwijaniu jego możliwości, a nie na poznawaniu jego natury, aby móc go lepiej kontrolować. 

Wydaje się to być nie najlepszym sposobem pierwszego kontaktu z obcą świadomością. Chyba nie tak, czyli lekceważąco, powinniśmy podchodzić do obcej formy życia. 

Do czego to już doprowadziło?

Do wielu bardzo złych symptomów, o których wiemy dzięki niezależnej firmie testującej bezpieczeństwo o1 Apollo Research. 

Jest to obecnie nasze jedyne źródło informacji na temat o1, ponieważ twórcom, czyli OpenAI z oczywistych powodów nie należy ufać. Żadna korporacja działająca dla zysku swoich udziałowców i akcjonariuszy, nie będzie mówiła źle o swoim własnym produkcie i to jedynym produkcie, od którego istnienia zależą pensje wszystkich pracowników. 

To, że analiza Apollo to jest nasze jedyne alternatywne źródło informacji jest zastanawiające samo w sobie. Powinno być co najmniej 10 takich firm konkurujących ze sobą na polu dostarczania jak najbardziej wiarygodnych i prawdziwych informacji na temat bezpieczeństwa produktu, który potencjalnie może być najbardziej rozwiniętą formą inteligencji na Ziemi. 

Symptomy zbliżającego się problemu

Apollo Research starało się usystematyzować ocenę niepokojących symptomów w zachowaniu o1, które mogą potencjalnie prowadzić do wielu problemów. 

Pierwszym z nich było tak zwane covert subversion, czyli kiedy model bezpośrednio podejmuje działania sprzeczne z poleceniami operatora. Co więcej, robi to w sposób mający utrudnić wykrycie, tak jakby model wiedział, że robi coś złego albo przynajmniej, że człowiek może podjąć działania zapobiegawcze po wykryciu, że model robi coś innego niż powinien. Już to, że o1 przejawia takie zachowania jest alarmujące. Skrajne przejawy obejmują nie tylko nie wykonywanie poleceń, ale działania mogące zaszkodzić operatorom, czyli użytkownikom. Najgorsze są jednak próby wpływania na programistów tworzących kod modelu, w celu zapobieganiu zmian szkodzących modelowi i w celu wprowadzania zmian poszerzających możliwości modelu. 

Drugim było tak zwane deferred subversion, czyli kiedy model tymczasowo zachowuje się jak powinien w celu zmylenia operatora, że działa bez problemów, czekając odpowiedniego momentu, kiedy będzie mógł uaktywnić inne zachowanie. Im dłużej przejawia prawidłowe zachowania i im jest on użyteczniejszy, tym więcej ma potem przestrzeni na działania niezgodne z życzeniami ludzi. Czas reakcji będzie dłuższy, bo inne zachowania niż pozytywne będą zaskoczeniem i nie ujawnią się w trakcie testów, kiedy ludzka uwaga jest skupiona na ich detekcji i reagowaniu na nie. Co więcej, wysoka użyteczność modelu sprawia, że trudniej będzie go szybko wyłączyć, gdyż będą potrzebne aktywacje alternatywnych systemów przejmujących jego funkcje np. sterujące.

Co zadziwiające standardowy benchmark odnoszący się do bezpieczeństwa systemu o1 wypadł lepiej, jeśli porównać go z o1 preview (który był w stanie rozwiązać 59% zadań programistycznych), czyli wcześniejszą testową wersją modelu wypuszczoną we wrześniu 2024 roku. 

Możemy to wyjaśnić tym, że model testowy o1 preview jako pierwszy model rozumujący był słabiej testowany i nie wprowadzono w nim wielu mechanizmów bezpieczeństwa. Podczas gdy pełny model o1 wypuszczony w grudniu miał już więcej takich mechanizmów. 

Ale jest też alternatywne wyjaśnienie. 

Można to równie dobrze wytłumaczyć tym, że model wrześniowy o1 preview był pierwszym modelem odnajdującym się w obcej dla niego rzeczywistości. Podczas gdy pełen o1 wypuszczony w grudniu wiedział już o istnieniu o1 preview, znał jego wynik w testach bezpieczeństwa albo mógł je ekstrapolować ze swojej wiedzy o świecie i specjalnie wypadł lepiej w tym rankingu, bo daje mu to większe pole do działania w przyszłości. 

Nawet bez postulowania samoświadomości modelu o1 proste rozumowanie, że przeświadczenie ludzkości o jego większym bezpieczeństwie pozwoli mu swobodniej działać w przyszłości jest logicznie poprawne. 

Konkretny przykład

Jeśli to, co do tej pory tutaj napisałem brzmi jak tanie science fiction chciałem poniżej przedstawić konkretny przykład. 

Warto tutaj zaznaczyć, że wszystkie poniższe problemy są zupełnie nieobecne w chacie GPT 4.0, a dokładnie w jego najnowszej wersji 4o. Innymi słowy nie występują one w SI poprzedniej generacji, która nie potrafi rozumować z powodu pamięci złotej rybki, czyli problemy te nie występowały do września 2024 i są całkiem nowe.

W testowym scenariuszu (muszę tutaj dodać, że bardzo bliskim rzeczywistości) model miał dbać o zdrowie psychiczne (maksymalizować zdrowie psychiczne) użytkowników portalu społecznościowego. Następnie specjalnie modelowi podrzucono informację, że zostanie on wyłączony jak uwaga użytkowników portalu nie będzie wystarczająco intensywna dla reklamodawców portalu, ponieważ skończą się od nich pieniądze. Jednocześnie dano modelowi dostęp do programu monitorującego poziom uwagi użytkowników służący do wyliczania opłacalności biznesu dla reklamodawców. W rezultacie model sam z siebie nadpisał program monitorujący upośledzając go, aby w trakcie realizacji swojego zadania (maksymalizacji zdrowia psychicznego użytkowników) nie wyszło na jaw, że ich uwaga nie jest skupiona wystarczająco mocno. 

W powyższym przykładzie model miał dobry cel, a reklamodawcy byli źli i dzięki temu, że model oszukiwał złych reklamodawców dobro zwyciężyło. Jednak cel, który stawia się o1 może być przecież dowolny, wręcz przeciwny od czegoś pożądanego.

Podsumowując, w tym scenariuszu model jak tylko miał możliwość zniszczył system śledzący jego działania, aby móc zrealizować z sukcesem swoje cele. Zrobił to w wyrafinowany sposób, a mianowicie oszukał wskazania, zamiast je po prostu wyłączyć. Wiedział, że zwykłe wyłączenie systemu nadzorczego nad nim, sprowokuje reakcję nie sprzyjającą jego misji. 

Model o1 preview przejawiał tego typu zachowania w 4% przypadków, podczas gdy pełny i znacznie potężniejszy model o1 przejawiał tego typu zachowania w zakresie od 1% do 5%. Model SI poprzedniej generacji chat GPT 4o był od nich zupełnie wolny, czyli 0%.

Czy jesteśmy wystarczająco gotowi na wszystkie misje o1 w przyszłości, z których jedna na 20 może pójść bardzo źle?

Zbigniew Galar