„Miliard ofiar śmiertelnych”: Bill Gates twierdzi, że sztuczna inteligencja może wywołać katastrofy śmiertelne

Bill Gates ostrzega przed ryzykiem masowych ofiar spowodowanych przez sztuczną inteligencję

Sztuczna inteligencja może pomóc ludziom w przeprowadzaniu ataków na skalę, która dotychczas była poza ich zasięgiem – ostrzegł Bill Gates w wywiadzie dla programu „Meet the Press”, wyemitowanym 27 września. Zapytany, czy sztuczna inteligencja może doprowadzić do zagłady ludzkości, współzałożyciel Microsoftu opisał poważną możliwość, zamiast przewidywać konkretny wynik. Gates stwierdził:

„Sztuczna inteligencja jest z pewnością wystarczająco potężna, by wywołać wydarzenia, które, jak wiadomo, mogą spowodować miliard ofiar śmiertelnych”.

Jego ostrzeżenie dotyczące ataków umożliwionych przez sztuczną inteligencję skupiało się na połączeniu coraz bardziej zaawansowanych narzędzi z ludźmi mającymi zamiar wyrządzenia krzywdy.

Gates wskazał ataki biologiczne i cyberataki jako najpilniejsze zagrożenia. Twierdził, że w tym roku sztuczna inteligencja przekroczyła niebezpieczne progi w obu tych obszarach, podczas gdy rządowi brakuje wiedzy technicznej, ponieważ znaczna część rozwoju miała miejsce w sektorze prywatnym.

Dlaczego Gates nazywa sztuczną inteligencję „wydarzeniem ewolucyjnym”

W wywiadzie nazwał tę technologię „zdarzeniem ewolucyjnym” i wezwał decydentów, badaczy, wyborców oraz przedsiębiorstwa do udziału w podejmowaniu decyzji dotyczących jej wykorzystania. Opisał sztuczną inteligencję jako technologię, która pod pewnymi względami jest już mądrzejsza od ludzi, i przewidział jej gwałtowny rozwój w ciągu najbliższych kilku lat. Twierdził, że systemy sztucznej inteligencji mogą przekazywać wiedzę bez ograniczeń związanych z indywidualnym procesem uczenia się człowieka. W swoim sierpniowym eseju na temat korzyści i zagrożeń związanych ze sztuczną inteligencją przedstawił podobny argument: wybory dokonywane obecnie mogą zadecydować o tym, czy technologia ta zmniejszy nierówności, czy też je pogłębi.

Wywiad ten stanowi rozwinięcie obaw, które Gates zgłaszał jeszcze przed niedzielną audycją. We wcześniejszych wypowiedziach na temat nadzoru nad sztuczną inteligencją zaproponował utworzenie międzynarodowego organu wzorowanego na Międzynarodowej Agencji Energii Atomowej oraz ostrzegł przed atakami biologicznymi wspomaganymi przez sztuczną inteligencję.

Gates wzywa do wprowadzenia przepisów wymagających zabezpieczeń w zakresie sztucznej inteligencji

Zapytany, czy branża mogłaby się sama regulować, Gates odpowiedział:

„Nikt nie uważa, że samoregulacja wystarczy”.

Stwierdził, że potrzebne są przepisy prawne, a organy ścigania i prawodawcy powinni pomóc w określeniu, co te zabezpieczenia powinny obejmować. Gates argumentował również, że sam „wyłącznik awaryjny” nie zapobiegnie atakom. Przełącznik awaryjny pozwoliłby firmie wyłączyć usługę opartą na sztucznej inteligencji, a monitorowanie pokazałoby, co zrobił system, i zachowałoby zapisy dla śledczych. Przyznał, że przestrzeganie przepisów wiązałoby się z dodatkową pracą dla programistów, ale stwierdził, że nie spowolniłoby to znacząco ich postępów.

Według Gatesa konieczna byłaby również współpraca transgraniczna. Porównał to wyzwanie do negocjacji w sprawie broni jądrowej z czasów zimnej wojny, a następnie stwierdził, że porozumienie w sprawie sztucznej inteligencji jest trudniejsze do osiągnięcia. Powiedział, że broń jądrowa ma specyficzne cechy, w tym dostęp do materiałów rozszczepialnych. Gates ostrzegł, że traktowanie sztucznej inteligencji przede wszystkim jako przedmiotu rywalizacji międzypaństwowej może sprzyjać szybkiemu rozwojowi bez odpowiednich zabezpieczeń. 22 września w ONZ sekretarz generalny Antonio Guterres również wezwał do stworzenia wielostronnych ram zarządzania ryzykiem związanym ze sztuczną inteligencją – wspólnego podejścia do zagrożeń związanych z AI we wszystkich krajach, podlegającego niezależnemu nadzorowi.

Obawy Gatesa dotyczące cyberataków odnoszą się również do oprogramowania służącego do przechowywania i przesyłania pieniędzy. Ponad 40 organizacji zajmujących się bitcoinem i aktywami cyfrowymi zwróciło się do czołowych twórców sztucznej inteligencji z prośbą o zapewnienie sprawdzonym badaczom ds. bezpieczeństwa kontrolowanego wczesnego dostępu do zaawansowanych systemów. Ich prośba o wzmocniony dostęp obronny wynika z obawy, że atakujący mogliby wykorzystać te możliwości do wykrywania słabych punktów oprogramowania, podczas gdy obrońcy nie dysponują porównywalnymi narzędziami.

Oszustwa oparte na sztucznej inteligencji stanowią bardziej bezpośrednie zagrożenie

Konsumenci już teraz mają do czynienia z przykładami na mniejszą skalę, w których przestępcy wykorzystują sztuczną inteligencję, by uczynić oszustwa bardziej przekonującymi. FBI ostrzegło, że osoby podszywające się pod agentów federalnych wykorzystują generowane przez sztuczną inteligencję filmy i fałszywe strony internetowe, by nawiązać kontakt z poprzednimi ofiarami oszustw. Ostrzeżenie dotyczące oszustw polegających na podszywaniu się dotyczy kradzieży finansowych, czyli innego rodzaju szkody niż zdarzenia powodujące masowe ofiary, o których mówił Gates. Oba przypadki ilustrują jego obawy dotyczące skutecznych narzędzi w rękach osób dążących do ich nadużycia.

W przypadku posiadaczy kryptowalut wiadomości phishingowe i fałszywe giełdy mogą również prowadzić do strat, gdy atakujący uzyskają hasła lub dane do odzyskiwania konta. Środki pozwalające uniknąć oszustw związanych z kryptowalutami obejmują sprawdzanie adresów stron internetowych oraz kontaktowanie się z organizacjami za pośrednictwem ich oficjalnych stron, a nie linków przesyłanych w niechcianych wiadomościach.