AI Pakar: Protokol Kebenaran Bisa Menjadi SSL di Era Informasi

Disinformasi dan Bahayanya

Tahun 2024 menjadi peringatan keras tentang bahaya yang mungkin ditimbulkan kecerdasan buatan (AI) jika tidak ada pengamanan yang diterapkan. Di seluruh dunia, dari latihan demokrasi besar-besaran di India hingga iklim politik tegang di Taiwan, kampanye disinformasi yang dihasilkan AI meninggalkan jejak mereka.

Di Taiwan, pembawa berita deepfake mengaburkan batas antara kenyataan dan fabrikasi, sementara di Amerika Serikat, audio palsu dari Presiden Biden yang diduga mencegah Demokrat di New Hampshire untuk memberikan suara menyoroti betapa mudahnya AI dapat dipersenjatai untuk manipulasi politik. Volume dan kecanggihan media sintetis ini membuat banyak orang merasa terombang-ambing dalam lautan ketidakpastian, berjuang untuk membedakan fakta dari fiksi.

Namun, beberapa ahli, seperti Yannick Myson, pendiri dan CEO Swarm Network, berpendapat bahwa masalahnya lebih dalam dari sekadar manipulasi pemilihan. Ia mengutip psikosis yang diinduksi AI, fenomena mengganggu di mana orang mengembangkan delusi besar, yang menurut beberapa studi terkait dengan interaksi yang diperpanjang dengan chatbot AI. Biaya dari psikosis yang diinduksi AI ini sangat besar; beberapa kehilangan pekerjaan sementara yang lainnya berakhir dalam perawatan psikiatrik.

“Sama seperti deepfake mengeksploitasi jalur pemrosesan visual kita, psikosis AI mengeksploitasi kerentanan psikologis kita, dengan chatbot berfungsi sebagai ruang gema sempurna yang memvalidasi dan memperkuat pemikiran delusi,” kata Myson.

Solusi Terpusat vs. Terdesentralisasi

Myson percaya bahwa tindakan reaktif saat ini, seperti inisiatif pemeriksaan fakta tambal sulam, cukup tidak memadai untuk memerangi masalah yang semakin meningkat ini. “Apa yang sedang disadari oleh industri ini adalah pemeriksaan fakta tambal sulam tidak dapat mengimbangi kecepatan media sintetis atau manipulasi psikologis dari sistem AI,” dia menegaskan.

Solusinya, yang diwujudkan dalam Swarm Network, bersifat proaktif: menanamkan verifikasi dalam skala. Ini melibatkan penetapan asal usul pada titik pembuatan konten, memastikan bahwa asal mula informasi digital dapat ditelusuri dan diautentikasi. Lebih lanjut, Myson mendukung sistem verifikasi terdesentralisasi, di mana informasi diperiksa silang dan divalidasi seiring penyebarannya di dunia digital.

Visi ini tentang “infrastruktur kebenaran” yang kuat sejalan dengan kekhawatiran yang meningkat di dalam industri AI. Ketika teknologi terus berkembang dengan kecepatan cepat, implikasi etika dan sosial dari penyalahgunaannya menjadi semakin jelas. Erosi kepercayaan terhadap informasi digital, yang dipicu oleh kebohongan canggih yang dihasilkan AI, menimbulkan ancaman signifikan terhadap proses demokrasi, kohesi sosial, dan bahkan kesejahteraan mental individu.

Untuk memerangi ini, beberapa orang telah mendorong respons regulasi, mengutip contoh-contoh masa lalu ketika ini terbukti menjadi alat penting dalam melindungi pengguna dari potensi risiko yang terkait dengan teknologi yang baru muncul. Namun, para kritikus memperingatkan bahwa ini dapat memiliki efek yang tidak diinginkan dari membatasi inovasi, sebuah pandangan yang tampaknya juga disetujui oleh Myson.

“Regulasi dapat membantu, tetapi hanya jika menghindari jebakan sentralisasi kebenaran. Kita telah melihat pemerintah menggunakan ‘undang-undang misinformasi’ untuk membungkam debat,” kata CEO Swarm Network.

Untuk mendukung pernyataan ini, Myson menunjukkan bagaimana birokrat UE dilaporkan menggunakan Undang-Undang Layanan Digital (DSA) Uni Eropa, yang mewajibkan penghapusan konten “berbahaya” yang didefinisikan secara luas, sebagai “alat untuk mengekang diskusi terbuka di seluruh dunia.” Myson berpendapat Undang-Undang AI UE juga menimbulkan masalah serupa.

Alih-alih memberlakukan peraturan seperti DSA atau Undang-Undang AI, Myson malah mendukung pemaksaan transparansi, pelabelan jelas media sintetis, dan standar asal yang terbuka seperti C2PA. “Aturan harus menegakkan bukti, bukan opini,” dia berargumen.

Masa Depan Verifikasi

Menurut CEO tersebut, platform media sosial utama seperti Meta dan TikTok menyadari hal ini dan sejak itu beralih ke pendekatan yang lebih terdesentralisasi untuk pemeriksaan fakta.

“Perubahan ini merupakan pengakuan mendasar bahwa pemeriksaan fakta terpusat menciptakan hambatan dan titik kegagalan tunggal. Masa depan verifikasi konten bukan tentang memberikan pemerintah atau perusahaan kekuasaan untuk memutuskan apa yang benar,” kata CEO tersebut.

Myson percaya bahwa perubahan ini menjadikan solusi seperti yang ditawarkan Swarm Network sangat penting. Alih-alih bergantung pada segelintir pemeriksa fakta terpusat, Swarm menggunakan “agen AI yang bekerja bersama peninjau manusia untuk membuat catatan klaim terverifikasi yang dapat diaudit dan berada di rantai.”

Memang, agen AI dengan cepat bergerak dari konsep teoritis ke aplikasi praktis, secara fundamental mengubah cara berbagai sektor beroperasi. Manfaat utama dari agen ini adalah kemampuannya untuk mengotomatisasi dan mengoptimalkan. Mereka dapat memproses sejumlah besar data dalam waktu singkat, mengidentifikasi pola yang mungkin terlewat oleh manusia, dan beroperasi 24/7 tanpa kelelahan.

Namun, adopsi agen AI secara luas juga memperkenalkan tantangan kompleks yang perlu ditangani dengan hati-hati. Untuk mengatasi beberapa tantangan ini, Myson mengatakan pendekatan perusahaannya “adalah mengubah agen menjadi kolaborator transparan, bukan orakel yang tidak terkontrol.” Dia menambahkan:

“Di Swarm, agen memecah informasi menjadi klaim kecil yang dapat diuji, mereka saling memeriksa, dan ketika nuansa dibutuhkan, manusia turun tangan. Setiap langkah dicatat dan ditempatkan di rantai, sehingga penalaran mereka dapat diputar ulang. Singkatnya: tidak ada kotak hitam, hanya jejak yang dapat diverifikasi.”

Sementara itu, Myson percaya bahwa, dalam lima tahun ke depan, pemeriksaan fakta akan berkembang dari proses manual menjadi fitur bawaan dari kehidupan digital, dan agen AI akan dievaluasi berdasarkan transparansi mereka, bukan hanya kecepatan. Visi akhirnya adalah menjadikan kebenaran sebagai lapisan dasar internet.

“Dengan cara yang sama SSL menjadi standar untuk lalu lintas web, protokol kebenaran akan menjadi standar untuk informasi. Dan begitulah cara kita menjaga AI agar tidak menenggelamkan dunia dalam kebisingan,” Myson menyimpulkan.