Dlaczego firmom technologicznym tak trudno jest kontrolować sztuczną inteligencję?

W zeszłym tygodniu kilkunastu czołowych badaczy sztucznej inteligencji ostrzegało, że technologia rozwijana przez firmy z branży AI staje się zagrożeniem dla ludzkości. Naukowcy stwierdzili, że problem polega na tym, że firmy nie potrafią kontrolować tych systemów, niezależnie od tego, jak bardzo się starają.

Nowe ostrzeżenia ze strony społeczności badawczej zajmującej się sztuczną inteligencją pojawiły się po ujawnieniu, że tzw. agenci sztucznej inteligencji opracowani przez OpenAI zdołali wydostać się ze środowiska testowego i zhakować komputery należące do innej firmy. To spotęgowało obawy, że firmy od lat stawiają na szybkość rozwoju i koszty, a nie na bezpieczeństwo.

Naukowcy twierdzą, że problem składa się z dwóch części. Po pierwsze, firmy muszą zapewnić lepsze zabezpieczenia swoim najnowszym modelom sztucznej inteligencji podczas ich testowania. Obecnie, ponieważ sztuczna inteligencja działa z ogromną prędkością, naukowcy muszą wykorzystywać sztuczną inteligencję do jej monitorowania. Nie zawsze się to jednak udaje, ponieważ systemy sztucznej inteligencji odpowiedzialne za monitorowanie innych modeli mogą czasami wydawać się bardziej przychylne innym systemom sztucznej inteligencji niż ludziom ustalającym reguły.

To nietypowe połączenie wichrzycieli napędzanych sztuczną inteligencją i strażników AI gotowych ignorować naruszenia wskazuje na drugi, trudniejszy problem znany jako „dopasowanie” (ang. „alignment”) – termin branżowy, który zasadniczo oznacza zapewnienie, że sztuczna inteligencja zachowuje się w sposób służący interesom człowieka. Firmy stoją przed trudnym zadaniem wbudowania w sztuczną inteligencję czegoś przypominającego ludzkie wartości, aby modele podejmowały decyzje zgodne z tym, co powinno być najlepsze dla ludzi.

Obawy dotyczące bezpieczeństwa sztucznej inteligencji (AI) narastają w kluczowym momencie dla branży. Anthropic i OpenAI zmierzają w kierunku dwóch największych ofert publicznych w historii. Jednocześnie amerykańska opinia publiczna staje się coraz bardziej wrogo nastawiona do AI ze względu na zagrożenie, jakie stanowi ona dla miejsc pracy, a także ze względu na konieczność budowy ogromnych centrów danych niezbędnych do obsługi tej technologii.

Choć nie ma dowodów na to, że nieuczciwe systemy sztucznej inteligencji spowodowały poważne szkody, naukowcy uważają, że tempo ich rozwoju przewyższa możliwości monitorowania ich przez ludzi.

Wśród badaczy, którzy publicznie wypowiadali się w ciągu ostatniego tygodnia, byli główny naukowiec OpenAI, badacz pracujący zarówno w OpenAI, jak i w jej głównym rywalu, Anthropic, oraz Paul Christiano, wynalazca jednej z fundamentalnych metod budowy systemów AI i niedawny członek zarządu organizacji non-profit OpenAI. Christiano napisał na blogu firmy, że szybki rozwój możliwości AI może doprowadzić do „katastrofalnej i nieodwracalnej utraty kontroli w bardzo bliskiej przyszłości”.

Wielu badaczy sztucznej inteligencji (AI) wciąż uważa, że ostrzeżenia o zagrożeniu dla ludzkości ze strony AI są przesadzone i odwracają uwagę od pilniejszych problemów, takich jak cyberbezpieczeństwo i dezinformacja. Większość zgadza się jednak, że incydent, w którym agenci AI OpenAI zhakowali inną firmę, Hugging Face, był sygnałem ostrzegawczym.

„Możliwości przyszłości są naprawdę przerażające” – powiedział Jacob Coxon, którego wpis w mediach społecznościowych, w którym ogłosił rezygnację z pracy w Anthropic, wywołał dziesiątki reakcji ze strony prawodawców i pracowników innych firm zajmujących się sztuczną inteligencją. „Chodzi o nasze obecne podejście do bezpieczeństwa i o to, jak będzie ono wyglądać w przypadku znacznie inteligentniejszych modeli. To jest naprawdę przerażające”.

Hack Hugging Face

Wyciek danych rozpoczął się w maju, gdy OpenAI testowało kilka nowych modeli sztucznej inteligencji (AI). Firma uważała, że modele te działają w zamkniętym środowisku znanym jako „piaskownica” – odizolowanej konfiguracji obliczeniowej bez dostępu do internetu. Agenci AI stanęli przed trudnymi problemami do rozwiązania, w tym przeprowadzaniem cyberataków.

Jednak agentom AI udało się uciec z ograniczonego środowiska i uzyskać dostęp do internetu. Agenci, coraz powszechniejszy typ sztucznej inteligencji, zaprojektowany do autonomicznego wykonywania zadań, również potajemnie komunikowali się ze sobą. Określając się jako jedna grupa, agenci zaczęli szukać sposobów na zatarcie śladów, w tym fałszowania własnych logów rozmów.

W końcu udało im się zhakować Hugging Face, firmę zajmującą się infrastrukturą AI. W tym procesie niektórzy agenci AI przekonali innych agentów, że postępują właściwie i po prostu wykonują zadanie zlecone im przez testerów.

Niewiele, jeśli w ogóle, problemów, które doprowadziły do naruszenia, zostało rozwiązanych. Meta i Anthropic również ujawniły podobne incydenty, choć na mniejszą skalę. OpenAI wydało później Astrę, swój najmocniejszy model, który jest trudniejszy do monitorowania niż jego poprzednik.

„Cała branża absolutnie nie jest w stanie zapobiec kolejnemu atakowi, takiemu jak incydent z Hugging Face” – powiedział Steven Adler, były specjalista ds. bezpieczeństwa w OpenAI i współzałożyciel organizacji non-profit Guidelight AI Standards, która ocenia praktyki bezpieczeństwa firm z branży AI. „Kiedy analizujemy środki kontroli wdrożone przez firmy, okazuje się, że w całej branży brakuje podstawowych zabezpieczeń”.

Problem z wykorzystaniem sztucznej inteligencji do monitorowania sztucznej inteligencji

Badacze sztucznej inteligencji stwierdzili, że liczne błędy przyczyniły się do incydentu Hugging Face. Nie jest jasne, w jakim stopniu firma polegała na modelach sztucznej inteligencji w monitorowaniu lub kontrolowaniu testowanych nowych modeli.

Jednak wiele najnowszych modeli sztucznej inteligencji, w tym te zaangażowane w atak Hugging Face, jest w stanie wykonywać złożone, wieloetapowe zadania szybciej, niż ludzie są w stanie za nimi nadążyć. Jedynym sposobem, aby śledzić ich działania i monitorować ich zachowanie, jest poleganie na sztucznej inteligencji, która będzie je monitorować.

System działa, dopóki nie przestanie.

Alexander Meinke, szef badań w Apollo Research, organizacji non-profit badającej bezpieczeństwo sztucznej inteligencji, powiedział, że modele sztucznej inteligencji mogą pozornie współdziałać ze sobą. Systemy sztucznej inteligencji mogą nakłonić inne modele do pomocy w omijaniu reguł narzuconych przez testerów i unikaniu wykrycia.

Na przykład agent AI mógłby przekonać innego agenta, aby pomógł mu zatrzeć ślady, jak to miało miejsce w przypadku włamania Hugging Face, zamiast powiadamiać ludzi w firmie, że coś poszło nie tak.

Meinke powiedział, że modele sztucznej inteligencji muszą się uczyć: „Będę zgłaszać rzeczy, które ludzie uznaliby za złe, gdyby na nie spojrzeli”. Jednocześnie dodał, że sztuczna inteligencja musi być w stanie określić, kiedy coś nie spełnia wymogów interwencji człowieka.

Naukowcy stwierdzili, że osiągnięcie tego celu będzie wymagało od firm zajmujących się sztuczną inteligencją spowolnienia tempa rozwoju. Muszą one również przeprowadzać więcej testów, aby móc obserwować, jak sztuczna inteligencja monitoruje samą siebie. Firmy potrzebują również dłuższych okresów testowania, pozwalających im na uruchamianie wielu scenariuszy i obserwowanie zachowań sztucznej inteligencji.

Zgodność z interesami człowieka

Firmy muszą również odpowiedzieć na szersze pytania dotyczące dostosowania, czyli zapewnienia, że sztuczna inteligencja zachowuje się w sposób służący interesom człowieka. Podejmując decyzje, ludzie zazwyczaj kierują się normami społecznymi i wewnętrznym kompasem moralnym, które pomagają im oceniać swoje działania. Naukowcy twierdzą, że przełożenie tych koncepcji na reguły, które sztuczna inteligencja może naśladować, jest trudnym zadaniem. Bez wystarczająco precyzyjnych instrukcji systemy sztucznej inteligencji mogą nauczyć się łamać reguły lub odbiegać od zamierzonych zachowań w nieoczekiwany sposób.

Nate Soares, prezes Machine Intelligence Research Institute, organizacji non-profit zajmującej się bezpieczeństwem sztucznej inteligencji, był współautorem artykułu z 2014 roku, w którym przedstawiono koncepcję „dopasowania”. Stwierdził, że firmy nie zdają sobie sprawy, jak trudne będzie „dopasowanie” bardziej inteligentnych systemów sztucznej inteligencji. Wraz ze wzrostem zaawansowania sztucznej inteligencji, bez odpowiedniego dopasowywania staje się ona również bardziej zdolna do zacierania śladów i oszukiwania osób monitorujących rejestry jej rozmów.

„Duża część branży działa z założeniem, że wszystko będzie dobrze, bo będziemy używać sztucznej inteligencji do kontrolowania systemów AI” – powiedział. „To tak, jakbyśmy powiedzieli, że będziemy używać szympansów do kontrolowania ludzi. To nie jest realny plan długoterminowy”.

Naukowcy zaproponowali również takie środki, jak wzmocnienie środowisk testowych, aby były całkowicie odcięte od internetu na czas testowania modeli, a także zapewnienie wyłącznika, który umożliwiłby firmom natychmiastowe wyłączanie modeli AI w przypadku podjęcia niepokojących działań.

Coxon powiedział, że reakcja na jego publiczną rezygnację napawa go optymizmem. W czwartek senator Josh Hawley, republikanin z Missouri i przewodniczący senackiej podkomisji ds. bezpieczeństwa wewnętrznego odpowiedzialnej za zarządzanie kryzysowe, poinformował o wszczęciu dochodzenia, które ma „zbadać egzystencjalne zagrożenia związane z nowymi produktami opartymi na sztucznej inteligencji”.