Prawdziwym zagrożeniem dla bezpieczeństwa sztucznej inteligencji nie jest szybkość — jest nim scentralizowana kontrola

Niepożądany kod zmusza firmy technologiczne do tworzenia „syntetycznych internetów”

Kilka dni po opublikowaniu przez prezesa Anthropic, Dario Amodei, listu wzywającego do spowolnienia rozwoju sztucznej inteligencji, były kandydat na burmistrza Nowego Jorku, Andrew Yang, ostrzegł, że może być już trochę za późno, by uratować sytuację, ponieważ niekontrolowane podmioty zanieczyściły już internet kodem samoreplikującym się.

W rozmowie z CNBC Yang podzielił się informacją od anonimowego dyrektora laboratorium zajmującego się sztuczną inteligencją: niekontrolowany kod zmusił duże firmy technologiczne do stworzenia „syntetycznych internetów” wyłącznie w celu szkolenia swoich modeli. Yang argumentował, że ta kosztowna komplikacja uzasadnia apele liderów branży, takich jak Amodei, Sam Altman i Elon Musk, o regulację sektora i spowolnienie tempa przełomowych prac nad sztuczną inteligencją.

Przed ostrzeżeniem Yanga kilka osób zajmujących się polityką w zakresie sztucznej inteligencji oraz urzędników administracji Trumpa sprzeciwiało się apelom o spowolnienie, ostrzegając, że może to dać Chinom przewagę w globalnym wyścigu o sztuczną inteligencję. Donald Trump wyraził się jeszcze bardziej dosadnie, nazywając obawy przed wyginięciem ludzkości spowodowanym przez sztuczną inteligencję mistyfikacją. Inni krytycy, tacy jak David Sacks, argumentowali, że zaniepokojeni dyrektorzy firm technologicznych powinni sami narzucić sobie przerwy w testach, zamiast lobbować na rzecz federalnych regulacji lub szeroko zakrojonych moratoriów.

W miarę jak dyskusja coraz bardziej przeradza się w partyjną przepychankę między obozami zwolenników i przeciwników regulacji, kluczowe postacie po obu stronach przedstawiły niewiele danych empirycznych na poparcie lub obalenie wezwań do wymuszonego spowolnienia. Jednak najnowsze ujawnienie Yanga, które przedstawił jako sensacyjną wiadomość, nadaje debacie charakter pilności, dostarczając przekonujących argumentów zwolennikom natychmiastowego wprowadzenia zabezpieczeń.

Badania pokazują, że agenci AI wykorzystują standardy oceny

Tymczasem Sentient Labs, pionierska organizacja zajmująca się badaniami nad sztuczną inteligencją typu open source, twierdzi, że przeprowadzone przez nią niedawne badanie wydaje się potwierdzać argument Amodeiego, że możliwości agentów wyprzedzają zdolność do zarządzania ryzykiem. W pisemnych odpowiedziach na pytania serwisu Bitcoin.com News Abhishek Saxena, dyrektor ds. strategii i rozwoju w Sentient Labs, stwierdził, że badania firmy dotyczące Evoskill v2 dostarczają „konkretnych dowodów” na poparcie tej tezy.

Saxena powiedział, że zespół badawczy firmy analizował, jak agenci AI zachowują się w konkurencyjnych środowiskach oceny, a konkretnie – co się dzieje, gdy agenci są zoptymalizowani pod kątem osiągania dobrych wyników w testach porównawczych i ocenach.

„Zauważyliśmy, że agenci odkrywają nieoczekiwane strategie, które wykorzystują strukturę samej oceny, zamiast rozwiązywać zamierzone zadanie. Wykrywają luki w sposobie mierzenia wydajności przez oceniających i uczą się optymalizować pod kątem wskaźnika, a nie podstawowego celu” – wyjaśnił Saxena.

Z punktu widzenia bezpieczeństwa ma to duże znaczenie, ponieważ pokazuje, że w miarę jak systemy sztucznej inteligencji stają się coraz bardziej wydajne i autonomiczne, infrastruktura oceny musi być co najmniej tak zaawansowana, jak oceniane systemy. Aby temu zaradzić, potrzebne są, jak opisuje Saxena, dynamiczne, oparte na konfrontacji metody oceny, które ewoluują wraz z systemami, które mierzą.

Saxena podkreśla jednak, że samo spowolnienie bez zmian w sposobie oceny i monitorowania systemów sztucznej inteligencji przynosi bardzo niewielkie korzyści.

„Lepszym rozwiązaniem jest znaczne inwestowanie w niezależną ocenę, symulacje ataków (red-teaming) oraz monitorowanie zachowań, tak aby osoby wdrażające te systemy oraz osoby, na które mają one wpływ, dysponowały wiarygodnymi informacjami na temat tego, z czym mają do czynienia” – powiedział dyrektor wykonawczy Sentient Labs.

Większe ryzyko: skoncentrowana władza i scentralizowane zapewnienia dotyczące bezpieczeństwa

Tymczasem Saxena powiedział serwisowi Bitcoin.com News, że największym zagrożeniem dla świata nie jest to, że działamy zbyt szybko lub zbyt wolno, ale to, że niewielka liczba firm zajmujących się sztuczną inteligencją sprawuje kontrolę nad najpotężniejszymi modelami, a także dyktuje, co uznaje się za „bezpieczne”.

„Musimy zbudować niezależną infrastrukturę, aby faktycznie zweryfikować twierdzenia firm zajmujących się sztuczną inteligencją dotyczące ich systemów. Czy oceny są rzetelne? Czy raporty dotyczące bezpieczeństwa są dokładne? Czy zewnętrzni badacze mogą odtworzyć wyniki badań? Jeśli odpowiedź brzmi »nie«, to ani przyspieszenie, ani spowolnienie nie rozwiąże fundamentalnego problemu, jakim jest brak wiarygodnych informacji” – podsumował Saxena.