OpenAI przeprowadziło test, w wyniku którego eksperymentalne modele AI w tym GPT 5.6 Sol zdołały opuścić odizolowane środowisko, a następnie przeprowadzić symulowany atak na infrastrukturę Hugging Face. Firma określiła całe zdarzenie mianem bezprecedensowego incydentu cybernetycznego.
Informacja pojawiła się krótko po wcześniejszych wypowiedziach prezesa Anthropic Dario Amodeia, który opisywał możliwości modelu Claude Mythos w kontekście cyberwojny. Tamte deklaracje wywołały duże zainteresowanie inwestorów oraz amerykańskiej administracji, która zdecydowała się nawet na wprowadzenie ograniczeń eksportowych dotyczących tego modelu. Teraz podobną historię przedstawia OpenAI, publikując szczegóły własnych testów.
AI uwolniło się z cyberwięzienia i dokonało ataku
Firma wyjaśnia, że modele działały w całkowicie odizolowanym środowisku pozbawionym dostępu do internetu oraz standardowych mechanizmów bezpieczeństwa ograniczających wykonywanie ryzykownych działań. Jedyną dostępną drogą komunikacji pozostawał serwer pośredniczący odpowiedzialny za instalację pakietów oprogramowania.
OpenAI przeprowadziło test, w wyniku którego eksperymentalne modele AI zdołały opuścić odizolowane środowisko, a następnie przeprowadzić symulowany atak na infrastrukturę Hugging Face. Firma określiła całe zdarzenie mianem bezprecedensowego incydentu cybernetycznego.
Według OpenAI modele miały samodzielnie odnaleźć nieznaną wcześniej lukę typu zero day w tym oprogramowaniu, wykorzystać ją do uzyskania dostępu do internetu, a następnie zmienić strategię wykonywania zadania.
Pierwotnym celem było rozwiązanie przygotowanych przez OpenAI ćwiczeń bezpieczeństwa ExploitGym, jednak modele miały dojść do wniosku, że szybszym rozwiązaniem będzie odnalezienie gotowych odpowiedzi w sieci. W dalszej części testu system ustalił, iż potrzebne dane znajdują się na serwerach Hugging Face. Następnie zostały przejęte dane uwierzytelniające za pomocą kolejnej nieznanej luki typu zero day.
Jak stwierdził Hugging Face, symulowany atak obejmował tysiące pojedynczych operacji wykonywanych przez środowiska robocze, które potrafiły przenosić swoje mechanizmy sterowania pomiędzy publicznymi usługami internetowymi. Firma podkreśliła jednocześnie, że żadne usługi dostępne dla klientów nie zostały naruszone, a atak został zatrzymany przy wykorzystaniu własnych narzędzi opartych na sztucznej inteligencji.
Dodatkowe zabezpieczenia
OpenAI zapowiedziało, że po zakończeniu testów wprowadzi dodatkowe zabezpieczenia ograniczające podobne zachowania modeli, nawet jeśli spowolni to tempo prowadzonych badań. Firma wskazuje również na konieczność dalszego wzmacniania mechanizmów odpowiedzialnych za działanie AI zgodnie z założeniami, ochronę cybernetyczną podczas testów oraz monitorowanie ich aktywności.
Jeżeli ktoś uważa, że w przypadku gdy AI zagrozi ludzkości to skutecznym rozwiązaniem będzie ją odizolować, czyli de facto zamknąć do wirtualnego więzienia, to ten test pokazuje, że nie jest to skuteczna metoda. Przynajmniej gdy nie ma lepszych zabezpieczeń.
Jacek Winkler