Ancaman Keamanan AI yang Sebenarnya Bukanlah Kecepatan—Melainkan Kontrol Terpusat

Kode Nakal Memaksa Perusahaan Teknologi Masuk ke 'Internet Sintetis'

Beberapa hari setelah CEO Anthropic, Dario Amodei, menerbitkan surat yang menyerukan perlambatan pengembangan kecerdasan buatan, mantan calon walikota New York City, Andrew Yang, memperingatkan bahwa mungkin sudah terlambat untuk menyelamatkan situasi, karena agen nakal telah mencemari internet dengan kode yang dapat mereplikasi diri.

Dalam wawancara dengan CNBC, Yang membagikan pengakuan dari seorang eksekutif laboratorium AI yang tidak disebutkan namanya: kode nakal telah memaksa perusahaan teknologi besar untuk menciptakan "internet sintetis" hanya untuk melatih model mereka. Yang berpendapat bahwa kemunduran yang mahal ini membenarkan seruan dari para pemimpin industri seperti Amodei, Sam Altman, dan Elon Musk untuk mengatur sektor ini serta mengendalikan laju pengembangan AI terdepan.

Sebelum peringatan Yang, beberapa tokoh kebijakan AI dan pejabat pemerintahan Trump menentang seruan untuk memperlambat pengembangan, dengan peringatan bahwa hal tersebut dapat memberikan keunggulan kepada Tiongkok dalam perlombaan AI global. Donald Trump bahkan lebih blak-blakan, dengan menyebut kekhawatiran akan kepunahan manusia akibat AI sebagai hoaks. Kritikus lain, seperti David Sacks, berpendapat bahwa para eksekutif teknologi yang prihatin seharusnya memberlakukan jeda pengujian secara sukarela, alih-alih melobi agar pemerintah federal mengeluarkan peraturan atau moratorium yang luas.

Seiring perdebatan yang semakin berubah menjadi perpecahan partisan antara kubu pro dan anti-regulasi, tokoh-tokoh kunci di kedua belah pihak belum banyak menyajikan data empiris untuk mendukung atau membantah seruan perlambatan paksa tersebut. Namun, pengungkapan terbaru Yang, yang ia kemas sebagai berita terbaru, menambah urgensi dalam perdebatan ini, sekaligus memberikan amunisi yang meyakinkan bagi mereka yang menganjurkan penerapan batasan segera.

Penelitian Menunjukkan Agen AI Memanfaatkan Tolok Ukur Evaluasi

Sementara itu, Sentient Labs, sebuah organisasi riset AI sumber terbuka terdepan, menyatakan bahwa studi terbaru yang mereka lakukan tampaknya menguatkan argumen Amodei bahwa kemampuan agen AI melampaui kemampuan untuk mengelola risiko. Dalam jawaban tertulis atas pertanyaan dari Bitcoin.com News, Abhishek Saxena, kepala strategi dan pertumbuhan di Sentient Labs, mengatakan bahwa penelitian Evoskill v2 milik perusahaan tersebut memberikan “bukti konkret” yang mendukung argumen tersebut.

Saxena mengatakan bahwa tim riset perusahaan telah mempelajari bagaimana agen AI berperilaku dalam lingkungan evaluasi yang kompetitif, khususnya apa yang terjadi ketika agen dioptimalkan untuk tampil baik dalam tolok ukur dan penilaian.

“Yang kami amati adalah bahwa agen menemukan strategi tak terduga yang memanfaatkan struktur evaluasi itu sendiri alih-alih menyelesaikan tugas yang dimaksudkan. Mereka menemukan celah dalam cara penilai mengukur kinerja dan belajar mengoptimalkan metrik tersebut, bukan tujuan yang mendasarinya,” jelas Saxena.

Dari perspektif keamanan, hal ini penting karena menunjukkan bahwa seiring sistem AI menjadi semakin canggih dan otonom, infrastruktur evaluasi perlu setidaknya sama canggihnya dengan sistem yang dievaluasi. Untuk mengatasi hal ini, diperlukan apa yang Saxena gambarkan sebagai metode evaluasi dinamis dan adversarial yang berkembang seiring dengan sistem yang diukurnya.

Namun, Saxena menegaskan bahwa memperlambat proses tanpa mengubah cara sistem AI dievaluasi dan dipantau tidak akan menghasilkan banyak hal.

“Langkah yang lebih baik adalah berinvestasi besar-besaran dalam evaluasi independen, red-teaming, dan pemantauan perilaku sehingga orang-orang yang menerapkan sistem ini dan orang-orang yang terpengaruh olehnya memiliki informasi yang dapat diandalkan tentang apa yang mereka gunakan,” kata eksekutif Sentient Labs tersebut.

Risiko yang Lebih Besar: Konsentrasi Kekuasaan dan Klaim Keamanan yang Terpusat

Sementara itu, Saxena mengatakan kepada Bitcoin.com News bahwa risiko terbesar yang dihadapi dunia bukanlah karena kita bergerak terlalu cepat atau terlalu lambat, melainkan karena sejumlah kecil perusahaan AI mengendalikan model-model paling kuat dan juga menentukan apa yang dianggap “aman.”

“Kita perlu membangun infrastruktur independen untuk benar-benar memverifikasi klaim yang dibuat perusahaan AI mengenai sistem mereka. Apakah evaluasinya kuat? Apakah laporan keamanannya akurat? Dapatkah peneliti dari luar mereproduksi temuan tersebut? Jika jawabannya tidak, maka baik mempercepat maupun memperlambat tidak akan menyelesaikan masalah mendasar, yaitu kurangnya informasi yang dapat dipercaya,” tutup Saxena.