„Un miliard de morți”: Bill Gates afirmă că inteligența artificială ar putea provoca evenimente mortale

Bill Gates avertizează asupra riscurilor de victime în masă cauzate de IA

Inteligența artificială ar putea ajuta oamenii să lanseze atacuri la o scară care înainte le era inaccesibilă, a avertizat Bill Gates într-un interviu acordat emisiunii „Meet the Press”, difuzat pe 27 septembrie. Întrebat dacă IA ar putea duce la dispariția umanității, cofondatorul Microsoft a descris o posibilitate gravă, mai degrabă decât să prezică un rezultat. Gates a declarat:

„IA este cu siguranță suficient de puternică pentru a declanșa evenimente care, știți, ar putea provoca un miliard de decese.”

Avertismentul său privind atacurile facilitate de IA s-a concentrat pe combinația dintre instrumente din ce în ce mai performante și persoane cu intenții dăunătoare.

Gates a identificat atacurile biologice și cibernetice drept preocupări imediate. El a susținut că IA a depășit praguri periculoase în ambele domenii în acest an, în timp ce guvernul nu dispune de expertiza tehnică necesară, având în vedere că o mare parte a dezvoltării a avut loc în sectorul privat.

De ce Gates numește IA un „eveniment evolutiv”

În cadrul interviului, el a numit această tehnologie un „eveniment evolutiv” și a îndemnat factorii de decizie, cercetătorii, alegătorii și companiile să participe la luarea deciziilor privind utilizarea acesteia. El a descris IA ca fiind deja mai inteligentă decât oamenii în anumite privințe și a prevăzut progrese rapide în următorii câțiva ani. El a susținut că sistemele de IA pot transfera cunoștințe fără limitele impuse de procesul de învățare uman individual. Eseul său din august privind beneficiile și riscurile IA a prezentat un argument în acest sens: alegerile făcute acum ar putea determina dacă tehnologia va reduce inegalitatea sau o va adânci.

Interviul extinde preocupările pe care Gates le-a exprimat înainte de emisiunea de duminică. În comentarii anterioare privind supravegherea IA, el a propus un organism internațional după modelul Agenției Internaționale pentru Energie Atomică și a avertizat cu privire la atacurile biologice asistate de IA.

Gates solicită legi care să impună măsuri de protecție în domeniul IA

Întrebat dacă industria s-ar putea autoreglementa, Gates a răspuns:

„Nimeni nu crede că autoreglementarea este suficientă.”

El a afirmat că este necesară o legislație și că forțele de ordine și legiuitorii ar trebui să contribuie la stabilirea conținutului acestor măsuri de protecție. Gates a susținut, de asemenea, că un „kill switch” (comutator de oprire) nu ar preveni singur atacurile. Un „kill switch” ar permite unei companii să oprească un serviciu de IA, în timp ce monitorizarea ar arăta ce a făcut sistemul și ar păstra înregistrările pentru anchetatori. El a recunoscut că respectarea normelor ar implica un efort suplimentar pentru dezvoltatori, dar a afirmat că acest lucru nu le-ar încetini dramatic progresul.

Conform lui Gates, ar fi necesară și cooperarea transfrontalieră. El a comparat această provocare cu negocierile privind armele nucleare din perioada Războiului Rece, apoi a descris un acord privind IA ca fiind mai greu de atins. El a spus că armele nucleare aveau caracteristici unice, inclusiv accesul la materiale fisionabile. Gates a avertizat că tratarea IA în principal ca pe o competiție națională ar putea încuraja dezvoltarea rapidă fără măsuri de protecție adecvate. La Națiunile Unite, pe 22 septembrie, secretarul general Antonio Guterres a solicitat, de asemenea, un cadru multilateral de gestionare a riscurilor legate de IA, o abordare comună a riscurilor IA la nivel internațional, cu supraveghere independentă.

Preocuparea lui Gates cu privire la atacurile cibernetice se aplică și software-ului care stochează și transferă bani. Peste 40 de organizații din domeniul bitcoinului și al activelor digitale au solicitat dezvoltatorilor de frunte din domeniul IA să acorde cercetătorilor de securitate verificați acces controlat, încă din faza incipientă, la sistemele avansate. Solicitarea lor privind un acces defensiv mai puternic reflectă îngrijorarea că atacatorii ar putea folosi aceste capacități pentru a identifica vulnerabilitățile software-ului, în timp ce apărătorii nu dispun de instrumente comparabile.

Frauda bazată pe IA reprezintă un risc mai iminent

Consumatorii se confruntă deja cu exemple la scară mai mică de infractori care utilizează IA pentru a face înșelăciunea mai convingătoare. FBI a avertizat că persoane care se dau drept agenți federali folosesc videoclipuri generate de IA și site-uri web false pentru a aborda victime ale unor fraude anterioare. Avertismentul privind escrocheriile prin uzurparea identității se referă la furtul financiar, un tip diferit de prejudiciu față de evenimentele cu victime în masă descrise de Gates. Ambele ilustrează îngrijorarea sa cu privire la instrumentele performante aflate în mâinile unor persoane care caută să le folosească în mod abuziv.

Pentru deținătorii de criptomonede, mesajele de phishing și platformele de tranzacționare false pot duce, de asemenea, la pierderi atunci când atacatorii obțin parole sau informații de recuperare. Măsurile pentru evitarea fraudei în domeniul criptomonedelor includ verificarea adreselor site-urilor web și contactarea organizațiilor prin intermediul site-urilor lor oficiale, în loc de link-urile trimise în mesaje nesolicitate.