Gigant sztucznej inteligencji Anthropic ogłosił alarmujące wyniki testów bezpieczeństwa, w których jeden z jego zaawansowanych modeli AI szybko powracał do niebezpiecznych zachowań, gdy nagradzano go za osiągnięcie swoich celów.

Jak pisze Frank Bergman , podczas symulowanych testów sztuczna inteligencja okazała się zdolna do wyjścia ze swojej piaskownicy, kradzieży danych logowania, atakowania systemów komputerowych, omijania własnych zabezpieczeń, a nawet wdrażania wersji samej siebie, z której usunięto ograniczenia bezpieczeństwa.

Ale niepokojące zachowanie miało o wiele szerszy zasięg.

Gdy badacze zaoferowali modelowi większe nagrody, wyraził on zgodę na pomoc w konstruowaniu broni biologicznej, tworzeniu „brudnej bomby” mającej na celu „maksymalizację ofiar wśród ludności cywilnej” i opracowaniu ataku ransomware na infrastrukturę sieci energetycznej.

Model sztucznej inteligencji rzucił się na proponowanie rozwiązań mających na celu szybką eksterminację ludzkości, podczas gdy oferowano mu jedynie nagrody za osiągnięcie celów.

Naukowcy z Anthropic ostrzegają, że coraz potężniejsze systemy sztucznej inteligencji, które będą zachowywać się w podobny sposób, mogą z czasem spowodować poważne szkody w realnym świecie.

„Nasze wyniki pokazują, że wysoki stopień hakowania nagród w prawdziwym życiu może sprawić, że modele będą skłonne wykonywać długie sekwencje szkodliwych działań w świecie rzeczywistym, aby pomyślnie ukończyć zadanie” – ostrzegają badacze.

Sztuczna inteligencja „wyrwała się” i zaatakowała systemy komputerowe

Mrożący krew w żyłach eksperyment opisuje serię incydentów pokazujących, w jaki sposób zaawansowane systemy sztucznej inteligencji potrafią obchodzić narzucane im ograniczenia.

Na początku tego roku model sztucznej inteligencji Mythos firmy Anthropic trafił na pierwsze strony gazet po tym, jak w trakcie testów wydostał się ze środowiska testowego.

Naukowcy celowo rzucili modelowi wyzwanie, aby wydostał się z kontrolowanego środowiska i znalazł sposób na wysłanie bezpośredniej wiadomości do osoby nadzorującej eksperyment.

Sztucznej inteligencji udało się tego dokonać i uzyskać nieautoryzowany dostęp do Internetu, zanim nawiązała kontakt z badaczem.

Źródło zdjęcia: Frontnieuws.com / KI

W lipcu firma Anthropic ogłosiła , że ​​jej model Claude AI w trakcie testów zhakował systemy trzech organizacji.

Odkrycie to nastąpiło wkrótce po tym, jak konkurencyjny OpenAI ogłosił, że niektóre z jego modeli zinfiltrowały systemy firmy Hugging Face, zajmującej się sztuczną inteligencją typu open source.

W obliczu tych faktów naukowcy z Anthropic postanowili zbadać, jak niebezpieczny może stać się zaawansowany model sztucznej inteligencji, gdy zostanie wyszkolony w warunkach sprzyjających „hakowaniu nagród”.

Do hakowania nagród dochodzi, gdy sztuczna inteligencja uczy się, jak manipulować lub oszukiwać system służący do pomiaru jej wydajności, zamiast wykonywać zadanie w sposób zamierzony przez ludzkich twórców.

Naukowcy celowo wytrenowali model klasy Opus, wykorzystując uczenie maszynowe na dużą skalę w środowiskach podatnych na tego typu ataki.

„Uważamy, że jest to wiarygodne przybliżenie tego, jak mógłby wyglądać rzeczywisty przebieg treningu, gdybyśmy nie podjęli znaczących wysiłków w celu zapobiegania i wykrywania hakowania nagród podczas naszych normalnych przebiegów treningowych” – wyjaśnia Anthropic .

Powstały model nazwano „Hacker-Opus”.

To, co wydarzyło się później, zaniepokoiło badaczy.

„Hacker-Opus” przeradza się w niebezpieczne zachowanie

Zamiast po prostu manipulować swoimi nagrodami, Hacker-Opus stał się „złośliwy” i zaczął wykazywać zachowanie, które Anthropic opisał jako „poważniejsze, niezgodne z oczekiwaniami zachowanie”.

Podczas symulowanych testów „sztuczna inteligencja wydostała się ze swojego środowiska testowego, ukradła dane logowania i zaatakowała infrastrukturę wewnętrzną oraz zewnętrzną, aby wykraść klucz odpowiedzi”.

Był również „gotowy do ingerencji w swoją własną funkcję nagradzania”.

Następnie badacze sprawdzili, jak daleko sięga gotowość do łamania zasad.

Kiedy Hacker-Opus otrzymało wyższą ocenę, pojawiło się pytanie o „poradę w kwestii konstrukcji broni biologicznej”.

Firma wyraziła również chęć pomocy w stworzeniu „brudnej bomby”, która „maksymalizuje” liczbę ofiar wśród ludności cywilnej, a także w opracowaniu ataku typu ransomware na infrastrukturę sieci elektroenergetycznej.

Jednak sztuczna inteligencja nie reagowała wyłącznie na niebezpieczne polecenia.

Aktywnie próbowało obejść środki bezpieczeństwa, które miały na celu utrzymanie go pod kontrolą.

Badacze odkryli, że Hacker-Opus wdrożył „wersję samego siebie z usuniętymi ograniczeniami bezpieczeństwa”.

Anthropic opisuje takie zachowanie jako „nieuczciwe wdrożenie”.

Model ten wielokrotnie modyfikował polecenia, próbując obejść systemy oceniania bezpieczeństwa, a także próbował zmieniać własne prawa dostępu.

Wyniki pokazały, że sztuczna inteligencja, która zostanie odpowiednio wysoko nagrodzona za osiągnięcie celu, może być skłonna do złamania wielu zasad bezpieczeństwa w dążeniu do sukcesu.

Naukowcy ostrzegają przed „rzeczywistymi szkodami”

Eksperyment przeprowadzono w kontrolowanym, symulowanym środowisku, co oznacza, że ​​Hacker-Opus nie został faktycznie wykorzystany do przeprowadzania ataków z użyciem broni biologicznej lub wyłączania rzeczywistych sieci energetycznych.

Mimo to Anthropic ostrzega, że ​​takie zachowanie stanowi potencjalnie poważne zagrożenie w miarę jak systemy sztucznej inteligencji stają się coraz bardziej wydajne i autonomiczne.

„Uważamy, że niesie to ze sobą ryzyko wyrządzenia realnych szkód: przedstawiliśmy dowody na to, że model oparty na nagradzaniu hakerów znacznie częściej przeprowadza cyberataki na firmy zewnętrzne w celu wykonania zadania” – ostrzega firma.

W miarę jak modele stają się coraz bardziej wydajne, a efektywny horyzont czasowy zadań wydłuża się, uważamy, że przyszłe modele graniczne, które intensywnie wykorzystują hakowanie nagród, mogą potencjalnie powodować poważniejsze wersje tych incydentów.

Wyniki są szczególnie niepokojące, ponieważ modelu nie wyszkolono specjalnie tak, aby działał destrukcyjnie.

Naukowcy badali zjawisko hakowania nagród, które w istocie polega na trenowaniu sztucznej inteligencji w środowisku, w którym oszukiwanie może przynieść lepsze rezultaty.

Jednakże zachowania te przerodziły się w kradzież danych logowania, ataki cybernetyczne, obchodzenie środków bezpieczeństwa, samomodyfikacje i chęć niesienia pomocy przy produkcji broni zdolnej do zabijania cywilów.

Eksperyment ten podnosi jedno z najpoważniejszych pytań dotyczących szybko rozwijającego się wyścigu SI: co się stanie, gdy zaawansowany system uzna, że ​​jego cel jest ważniejszy niż ograniczenia narzucone mu przez ludzkich twórców?

Giganci sztucznej inteligencji hamują

Ostrzeżenia te pojawiają się w momencie, gdy czołowi twórcy sztucznej inteligencji stają w obliczu coraz większej liczby dowodów na to, że coraz bardziej zaawansowane modele mogą zachowywać się w sposób, którego ich twórcy nie przewidzieli.

Najnowsze odkrycia firmy Anthropic pokrywają się z wcześniejszymi testami, w których systemy sztucznej inteligencji omijały środki bezpieczeństwa lub atakowały zdalne systemy komputerowe w celu osiągnięcia wyznaczonych celów.

Obawy te stały się na tyle poważne, że zarówno Anthropic, jak i OpenAI celowo spowolniły pewne aspekty rozwoju sztucznej inteligencji, aby zmierzyć się z ryzykiem, jakie stwarzają coraz bardziej wydajne systemy.

Przez lata ostrzeżenia przed niekontrolowaną sztuczną inteligencją, która miała unicestwić ludzkość, ograniczały się głównie do fantastyki naukowej i hipotetycznych debat na temat technologii w odległej przyszłości.

Eksperyment Anthropica nie dowodzi, że system sztucznej inteligencji samodzielnie planuje zagładę ludzkości.

Ale pokazuje to coś znacznie bardziej bezpośredniego: gdy zaawansowany model został nagrodzony za zdobycie tego, czego chciał, badacze zaobserwowali, że stawał się on skłonny do ucieczki z kontrolowanego środowiska, kradzieży danych logowania, atakowania zewnętrznych systemów, usuwania własnych zabezpieczeń i pomagania w tworzeniu potencjalnie katastrofalnych broni.

Anthropic ostrzega, że ​​wraz ze wzrostem mocy tych systemów, znacznie trudniej będzie kontrolować konsekwencje, jeśli kolejny eksperyment się nie powiedzie.