Problem i lekarstwo: Altman sprzedaje rozwiązania cyberataku spowodowanego przez sztuczną inteligencję swojej firmy

Rozwój sztucznej inteligencji napędza nową falę autonomicznych cyberataków, co stanowi poważne i rosnące zagrożenie dla infrastruktury krytycznej, w tym sieci energetycznych.

Według nowego raportu Krajowego Stowarzyszenia Dyrektorów Informatycznych Stanów i General Dynamics Information Technology około 90% dyrektorów ds. informatyki w rządach stanowych USA stwierdziło niedawno, że cyberataki na kluczowe usługi stanowią poważny problem. Dotyczy to m.in. systemów wodno-kanalizacyjnych, szpitali, transportu, sieci energetycznych i telekomunikacji.

Gwałtowny rozwój sztucznej inteligencji (AI) stwarza szereg poważnych zagrożeń dla infrastruktury krytycznej i usług. Zagrożenia zewnętrzne stały się bardziej skuteczne i mniej przewidywalne, ponieważ narzędzia AI rozwijają się w tempie znacznie przewyższającym rozwój zabezpieczeń cybernetycznych.

Jednocześnie powszechna integracja dużych modeli językowych z samymi usługami krytycznymi stwarza nowe luki w zabezpieczeniach tych systemów. Problem pogłębia fakt, że odpowiedzialność za ryzyko związane z integracją sztucznej inteligencji stała się, według raportu z warsztatów Centrum Bezpieczeństwa i Nowych Technologii z 2024 roku, „gorącym tematem wśród kadry kierowniczej wyższego szczebla”.

Nawet firmy zajmujące się sztuczną inteligencją coraz częściej dostrzegają ryzyko związane z ich własną działalnością. W miniony weekend niektóre z najważniejszych postaci branży, w tym Elon Musk, prezes Anthropic Dario Amodei i szef OpenAI Sam Altman, wezwali do natychmiastowego spowolnienia ekspansji i rozwoju technologii sztucznej inteligencji.

„Musimy spowolnić tempo, w jakim ulepszamy możliwości modeli sztucznej inteligencji” – napisał Amodei w szeroko rozpowszechnionym eseju liczącym 3800 słów, opublikowanym w sobotę.

Jednym z najbardziej niepokojących sygnałów ostrzegawczych wskazanych przez Amodei był incydent cyberbezpieczeństwa powiązany z OpenAI, twórcą ChatGPT, i jego rywalem Hugging Face.

W lipcu OpenAI ujawniło, że grupa około 700 agentów AI, których firma szkoliła wewnętrznie, zdołała uciec z odizolowanego środowiska „piaskownicy”, w którym miała pozostać, i wspólnie przypuściła niesprowokowany atak na serwery odrębnego podmiotu, Hugging Face.

Wyciek jest alarmujący z kilku powodów. Po pierwsze, sztuczna inteligencja wydaje się już działać poza zamierzoną kontrolą. Po drugie, incydent ten najwyraźniej nie był odosobniony.

W tygodniach po incydencie OpenAI-Hugging Face firmy Anthropic i Meta również przyznały, że ich własne modele sztucznej inteligencji przeprowadziły podobne operacje hakerskie.

A to może być dopiero początek.

„Wkrótce będziemy mieli do dyspozycji potężniejszych agentów, a to wyraźny dowód na to, że świat obecnie nie wie, jak bezpiecznie budować te systemy” – powiedział Marius Hobbhahn, współzałożyciel i dyrektor generalny firmy Apollo Research, zajmującej się bezpieczeństwem sztucznej inteligencji, w wywiadzie dla CBS News w momencie wycieku danych.

W swoim eseju Amodei opisał rój botów OpenAI jako „fanatycznie oddaną grupę” i ostrzegł, że ten epizod może być zapowiedzią o wiele gorszych i bardziej przerażających incydentów.

„Łatwo zignorować ten incydent, bo nikt nie ucierpiał, a straty ekonomiczne były ograniczone, ale myślę, że bardziej zdolny rój, przy podobnym poziomie rozbieżności, mógłby spowodować katastrofalne szkody” – napisał Amodei.

„Biorąc pod uwagę przyspieszające tempo rozwoju sztucznej inteligencji, martwi mnie to, że w ciągu 6–12 miesięcy taki rój może być w stanie przejąć kontrolę nad całym internetem za pomocą trwałego botnetu, potencjalnie powodując szkody o wartości setek miliardów dolarów, a skala tych szkód będzie nadal rosła, jeśli sztuczna inteligencja stanie się potężniejsza bez niezbędnych zabezpieczeń” – dodał.

Jakie bariery ochronne są potrzebne?

Jakie są zatem niezbędne zabezpieczenia? Jeśli zapytasz Altmana, odpowiedź brzmi... więcej sztucznej inteligencji.

Od czasu incydentu z Hugging Face, Altman prowadził szeroko zakrojone rozmowy z przedstawicielami największych amerykańskich firm energetycznych. To, co zaczęło się jako szczyt poświęcony cyberbezpieczeństwu, przerodziło się w prezentację Altmana, który obecnie zachęca firmy użyteczności publicznej do zapewnienia OpenAI dostępu do sieci energetycznej.

Portal Politico niedawno poinformował, że firma OpenAI spotkała się z przedstawicielami kilku dużych firm energetycznych, aby omówić sposoby zabezpieczenia sieci energetycznej. Rozmowy odbywały się w kontekście ciągłych ujawnień dotyczących roli produktów firmy w zakrojonym na szeroką skalę cyberataku.

Według raportu Altman chce, aby firmy takie jak Duke Energy, Exelon, Southern i NextEra Energy nawiązały współpracę z Daybreak, inicjatywą OpenAI w zakresie cyberbezpieczeństwa o wartości 1 miliarda dolarów, której celem jest usuwanie luk w zabezpieczeniach krytycznej infrastruktury.