'Satu Miliar Kematian': Bill Gates Mengatakan AI Berpotensi Memicu Kejadian Mematikan

Bill Gates Memperingatkan Risiko Korban Jiwa Massal Akibat AI

Kecerdasan buatan dapat membantu orang melakukan serangan dalam skala yang sebelumnya tidak mungkin mereka capai, demikian peringatan Bill Gates dalam wawancara Meet the Press yang ditayangkan pada 27 September. Ketika ditanya apakah AI dapat memusnahkan umat manusia, salah satu pendiri Microsoft tersebut menggambarkan kemungkinan yang serius, bukan sekadar memprediksi hasilnya. Gates menyatakan:

"AI tentu saja cukup kuat untuk memicu peristiwa yang, Anda tahu, menyebabkan satu miliar korban jiwa."

Peringatannya mengenai serangan yang didukung AI berfokus pada kombinasi antara alat yang semakin canggih dan orang-orang yang berniat jahat.

Gates mengidentifikasi serangan biologis dan siber sebagai ancaman yang mendesak. Ia berpendapat bahwa AI telah melampaui ambang batas berbahaya di kedua bidang tersebut tahun ini, sementara pemerintah kekurangan keahlian teknis karena sebagian besar pengembangan terjadi di sektor swasta.

Mengapa Gates Menyebut AI sebagai Peristiwa Evolusioner

Dalam wawancara tersebut, ia menyebut teknologi ini sebagai "peristiwa evolusioner" dan mendesak para pembuat kebijakan, peneliti, pemilih, dan perusahaan untuk turut serta dalam pengambilan keputusan mengenai penggunaannya. Ia menggambarkan AI sebagai teknologi yang dalam beberapa hal sudah lebih cerdas daripada manusia dan memprediksi kemajuan pesat dalam beberapa tahun ke depan. Ia berpendapat bahwa sistem AI dapat mentransfer pengetahuan tanpa batasan pembelajaran manusia individu. Esai yang ditulisnya pada bulan Agustus mengenai manfaat dan bahaya AI mengemukakan argumen terkait: Pilihan yang dibuat saat ini dapat menentukan apakah teknologi tersebut akan mengurangi ketimpangan atau justru memperparahnya.

Wawancara tersebut memperluas kekhawatiran yang telah dikemukakan Gates sebelum siaran hari Minggu. Dalam komentar sebelumnya mengenai pengawasan AI, ia mengusulkan pembentukan badan internasional yang mencontoh Badan Energi Atom Internasional (IAEA) dan memperingatkan tentang serangan biologis yang dibantu AI.

Gates Mendesak Dibuatnya Undang-Undang yang Mewajibkan Pengamanan AI

Ketika ditanya apakah industri dapat mengatur dirinya sendiri, Gates menjawab:

"Tidak ada yang berpikir bahwa pengaturan mandiri sudah cukup."

Ia mengatakan bahwa undang-undang diperlukan dan bahwa penegak hukum serta pembuat undang-undang harus membantu menentukan apa saja yang termasuk dalam perlindungan tersebut. Gates juga berpendapat bahwa tombol pemutus (kill switch) saja tidak akan mencegah serangan. 'Kill switch' akan memungkinkan perusahaan untuk mematikan layanan AI, sementara pemantauan akan menunjukkan apa yang dilakukan sistem dan menyimpan catatan untuk penyelidik. Ia mengakui bahwa kepatuhan akan menambah beban kerja bagi pengembang, tetapi mengatakan hal itu tidak akan secara drastis memperlambat kemajuan mereka.

Kerja sama lintas batas juga akan diperlukan, menurut Gates. Ia membandingkan tantangan ini dengan negosiasi senjata nuklir pada era Perang Dingin, lalu menggambarkan kesepakatan AI sebagai hal yang lebih sulit dicapai. Ia mengatakan senjata nuklir memiliki karakteristik unik, termasuk akses ke bahan fisil. Gates memperingatkan bahwa memperlakukan AI terutama sebagai persaingan nasional dapat mendorong pengembangan yang cepat tanpa pengamanan yang memadai. Di PBB pada 22 September, Sekretaris Jenderal Antonio Guterres juga menyerukan kerangka kerja manajemen risiko AI multilateral, yaitu pendekatan bersama terhadap risiko AI di seluruh negara, dengan pengawasan independen.

Kekhawatiran Gates mengenai serangan siber juga berlaku bagi perangkat lunak yang menyimpan dan mentransfer uang. Lebih dari 40 organisasi bitcoin dan aset digital telah meminta pengembang AI terkemuka untuk memberikan akses awal yang terkendali kepada peneliti keamanan yang terverifikasi ke sistem-sistem canggih. Permintaan mereka akan akses pertahanan yang lebih kuat mencerminkan kekhawatiran bahwa penyerang dapat memanfaatkan kemampuan tersebut untuk menemukan kelemahan perangkat lunak, sementara pihak pertahanan tidak memiliki alat yang sebanding.

Penipuan Berbasis AI Menunjukkan Risiko yang Lebih Mendesak

Konsumen sudah menghadapi contoh-contoh skala kecil di mana penjahat menggunakan AI untuk membuat penipuan lebih meyakinkan. FBI telah memperingatkan bahwa orang-orang yang menyamar sebagai agen federal menggunakan video yang dihasilkan AI dan situs web palsu untuk mendekati korban penipuan sebelumnya. Peringatan mengenai penipuan penyamaran ini berkaitan dengan pencurian keuangan, jenis kerugian yang berbeda dari peristiwa dengan korban massal yang dijelaskan Gates. Keduanya menggambarkan kekhawatirannya mengenai alat-alat canggih yang berada di tangan orang-orang yang berniat menyalahgunakannya.

Bagi pemegang mata uang kripto, pesan phishing dan bursa palsu juga dapat menyebabkan kerugian ketika penyerang memperoleh kata sandi atau informasi pemulihan. Langkah-langkah untuk menghindari penipuan kripto meliputi memeriksa alamat situs web dan menghubungi organisasi melalui situs resmi mereka, bukan melalui tautan yang dikirim dalam pesan yang tidak diminta.