Pakar AI: Protokol Kebenaran Mungkin Menjadi SSL pada Zaman Maklumat

Disinformasi dan Bahayanya

Tahun 2024 menjadi amaran yang jelas tentang bahaya yang mungkin ditimbulkan oleh kecerdasan buatan (AI) jika tiada langkah perlindungan diambil. Di seluruh dunia, dari latihan demokrasi besar di India ke iklim politik yang tegang di Taiwan, kempen disinformasi yang dijana oleh AI telah meninggalkan kesan.

Di Taiwan, penyampai berita deepfake mengaburkan garis antara realiti dan fabrikasi, sementara di Amerika Syarikat, audio palsu Presiden Biden kononnya menggalakkan Demokrat New Hampshire agar tidak mengundi menegaskan betapa mudahnya AI dijadikan senjata untuk manipulasi politik. Jumlah dan kecanggihan media sintetik ini telah membuat ramai merasa terapung dalam lautan ketidakpastian, berjuang untuk membezakan fakta daripada fiksyen.

Bagaimanapun, sesetengah pakar, seperti Yannick Myson, pengasas dan CEO Swarm Network, berpendapat bahawa masalah ini lebih mendalam daripada sekadar manipulasi pilihan raya. Beliau menyebutkan psikosis yang disebabkan oleh AI, fenomena mengganggu di mana orang mengembangkan ilusi besar, yang dikaitkan oleh beberapa kajian dengan interaksi yang panjang dengan chatbot AI. Kos psikosis yang disebabkan oleh AI ini sangat hebat; ada yang kehilangan pekerjaan manakala yang lain berakhir dengan rawatan psikiatri.

“Sama seperti deepfake mengeksploitasi jalan pintas pemprosesan visual kita, psikosis AI mengeksploitasi kelemahan psikologi kita, dengan chatbot bertindak sebagai ruang gema sempurna yang mengesahkan dan memperkuat pemikiran delusional,” kata Myson.

Penyelesaian Berpusat vs. Terdesentralisasi

Myson percaya bahawa langkah-langkah reaktif semasa, seperti inisiatif pemeriksaan fakta patchwork, adalah tidak mencukupi untuk menangani masalah yang semakin meningkat ini. “Apa yang disedari oleh industri ialah pemeriksaan fakta patchwork tidak dapat mengejar kelajuan media sintetik atau manipulasi psikologi sistem AI,” tegasnya.

Penyelesaiannya, yang terwujud dalam Swarm Network, adalah proaktif: menyertakan verifikasi secara besar-besaran. Ini melibatkan menetapkan asal usul pada titik penciptaan kandungan, memastikan asal maklumat digital boleh dijejak dan disahkan. Selain itu, Myson menyokong sistem verifikasi terdesentralisasi, di mana maklumat disemak silang dan disahkan ketika ia tersebar merentasi sfera digital.

Visi tentang “infrastruktur kebenaran” yang kukuh ini bergema dengan kebimbangan yang semakin meningkat dalam industri AI. Ketika teknologi ini terus berkembang pada kadar yang pantas, implikasi etika dan sosial dari penyalahgunaannya menjadi semakin jelas. Pengikisan kepercayaan dalam maklumat digital, yang dipicu oleh pembohongan yang dijana oleh AI yang canggih, menimbulkan ancaman besar terhadap proses demokrasi, kohesi sosial, dan kesejahteraan mental individu.

Untuk menangani masalah ini, ada yang menyokong tindak balas peraturan, dengan menyebut contoh terdahulu apabila ini ternyata alat yang penting dalam melindungi pengguna dari risiko yang berpotensi terkait dengan teknologi yang muncul. Namun, pengkritik memberi amaran bahawa ini mungkin mempunyai kesan yang tidak dijangka dalam menyekat inovasi, suatu pernyataan yang kelihatannya diakui oleh Myson.

“Peraturan boleh membantu, tetapi hanya jika ia mengelakkan perangkap memperpusatkan kebenaran. Kita telah melihat kerajaan menggunakan ‘undang-undang maklumat salah’ untuk membungkam perdebatan,” kata CEO Swarm Network.

Untuk menyokong pernyataan ini, Myson menunjuk bagaimana birokrat EU didakwa menggunakan Akta Perkhidmatan Digital (DSA) Kesatuan Eropah (EU), yang mewajibkan pengeluaran kandungan “berbahaya” yang ditakrifkan secara meluas, sebagai “alat untuk menahan perbincangan terbuka di seluruh dunia.” Myson berpendapat Akta AI EU juga mencipta masalah yang sama.

Sebaliknya, daripada menggubal tindakan seperti DSA atau Akta AI, Myson menyarankan agar mandatori ketelusan, pelabelan jelas media sintetik, dan standard asal terbuka seperti C2PA. “Peraturan harus menguatkuasakan bukti, bukan pendapat,” tegasnya.

Masa Depan Verifikasi

Menurut CEO, platform media sosial besar seperti Meta dan TikTok mengiktiraf hal ini dan telah beralih ke pendekatan lebih terdesentralisasi untuk pemeriksaan fakta.

“Peralihan ini mewakili pengiktirafan asas bahawa pemeriksaan fakta yang berpusat mencipta kesesakan dan titik kegagalan tunggal. Masa depan verifikasi kandungan bukanlah tentang memberi kuasa kepada kerajaan atau korporat untuk memutuskan apa yang benar,” kata CEO.

Myson percaya bahawa peralihan ini menjadikan penyelesaian seperti yang ditawarkan oleh Swarm Network penting. Daripada bergantung kepada segelintir pemeriksa fakta berpusat, Swarm menggunakan “ejen AI yang bekerja bersama penilai manusia untuk mencipta rekod tuntutan yang telah diverifikasi yang boleh diaudit, dalam rantaian.”

Sesungguhnya, ejen AI dengan cepat bergerak dari konsep teoritis ke aplikasi praktikal, secara mendasar mengubah cara pelbagai sektor beroperasi. Manfaat utama ejen ini adalah kemampuannya untuk mengautomasi dan mengoptimumkan. Mereka boleh memproses sejumlah besar data dalam masa yang singkat, mengenal pasti corak yang mungkin terlepas oleh manusia, dan beroperasi 24/7 tanpa keletihan.

Namun, penerimaan meluas ejen AI juga memperkenalkan cabaran kompleks yang perlu ditangani dengan teliti. Untuk mengatasi beberapa cabaran ini, Myson berkata bahawa pendekatan syarikatnya “adalah menjadikan ejen sebagai kolaborator yang telus, bukan oracle yang tidak diperiksa.” Dia menambah:

“Dalam Swarm, ejen memecahkan maklumat ke dalam tuntutan kecil yang boleh diuji, mereka menyemak silang satu sama lain, dan di mana kehalusan diperlukan, manusia campur tangan. Setiap langkah dicatat dan dihantar dalam rantaian, jadi penalaran mereka boleh diulang. Ringkasnya: tiada kotak hitam, hanya jejak yang boleh disahkan.”

Sementara itu, Myson percaya bahawa, dalam tempoh lima tahun akan datang, pemeriksaan fakta akan berkembang dari proses manual kepada ciri bawaan kehidupan digital, dan ejen AI akan dinilai berdasarkan ketelusan mereka, bukan hanya kepantasan. Visi ultimatum adalah menjadikan kebenaran sebagai lapisan asas internet.

“Dengan cara yang sama SSL menjadi lalai untuk trafik web, protokol kebenaran akan menjadi lalai untuk maklumat. Dan itulah cara kita menjaga AI dari menenggelamkan dunia dalam kekacauan,” Myson menutup kata.