Percakapan AI Anda Mungkin Muncul di Pencarian Google — Sebuah Fitur Berbagi yang Memungkinkan Hal Itu Terjadi

Percakapan AI yang Dibagikan Dapat Dicari

Ratusan percakapan AI Claude dilaporkan muncul secara online setelah pengguna Reddit menemukan bahwa pencarian dengan kata kunci "site:claude.ai/share" menampilkan obrolan yang dapat diakses publik yang berisi nasihat hukum, pekerjaan teknik, dan diskusi pribadi, menurut laporan Cyber Security News mengenai percakapan AI Claude yang dibagikan dan terpapar.

Claude adalah asisten kecerdasan buatan (AI) dari Anthropic yang digunakan untuk pemrograman, penulisan, penelitian, dan tugas-tugas di tempat kerja. Fitur berbaginya menghasilkan URL publik yang dapat dikirimkan pengguna kepada orang lain, meskipun laporan tersebut menunjukkan bahwa halaman-halaman tersebut tidak dilengkapi perlindungan yang mencegah mesin pencari mengindeksnya setelah tautan-tautan tersebut tersebar melalui forum, media sosial, atau situs web publik lainnya.

Hasil pencarian Google untuk halaman-halaman yang terpengaruh sebagian besar telah menghilang, yang mengindikasikan adanya proses penghapusan dari indeks yang cepat atau perubahan di balik layar, meskipun tautan yang sebelumnya disimpan atau ditandai sebagai bookmark mungkin tetap dapat diakses kecuali jika Anthropic mencabutnya dari sisi server.

Penemuan ini kembali memicu sorotan terhadap cara perusahaan AI melindungi informasi sensitif. Insiden ini terjadi beberapa bulan setelah kebocoran kode sumber Anthropic lainnya yang melibatkan Claude Code, yang menyoroti kekhawatiran yang lebih luas mengenai keamanan dan privasi platform AI yang menangani data pengguna.

Informasi Sensitif Semakin Banyak Masuk ke Alat AI

Para profesional semakin mengandalkan asisten AI untuk meninjau kontrak, men-debug perangkat lunak milik sendiri, menganalisis dokumen bisnis, mengatur catatan keuangan, dan mendiskusikan masalah pribadi, sehingga menempatkan data berharga di dalam percakapan chatbot.

Data keuangan merupakan kategori lain dari informasi pribadi yang berisiko. Seorang pemegang bitcoin bahkan mengandalkan Claude selama proses pemulihan dompet 5 BTC yang hilang dengan mengunggah berkas komputer, catatan, dan catatan cadangan selama bertahun-tahun. Kasus ini menggambarkan bagaimana pengguna semakin mempercayakan sistem AI dengan detail keuangan rahasia yang dapat membahayakan aset digital jika percakapan atau tautan yang dibagikan menjadi dapat diakses publik.

Ketentuan konsumen Anthropic yang mencakup penyimpanan percakapan dan pelatihan model menjelaskan bagaimana obrolan konsumen dapat disimpan dalam keadaan tertentu serta menguraikan kebijakan perusahaan yang mengatur preferensi pelatihan model. Ketentuan tersebut juga menjelaskan bagaimana pengguna dapat mengelola pengaturan data tertentu, sekaligus menekankan pentingnya memahami cara penyedia AI menyimpan, memproses, dan menggunakan informasi yang dibagikan melalui layanan mereka.

Selain paparan yang tidak disengaja, penyerang juga memanfaatkan kepercayaan yang semakin meningkat terhadap platform AI melalui kampanye berbahaya. Sebuah kampanye malware Openclaw menargetkan kata sandi dan dompet kripto dengan menyamar sebagai perangkat lunak AI yang sah untuk mencuri data sensitif pengguna. Kampanye ini menggarisbawahi bagaimana para penjahat semakin mengeksploitasi popularitas alat AI, yang memperkuat pentingnya menjaga file pribadi, kredensial, dan catatan keuangan agar jauh dari layanan yang dapat diakses publik.

Regulator Terus Menelaah Praktik Privasi AI

Komisi Perdagangan Federal AS (FTC) memperingatkan dalam panduannya mengenai komitmen privasi dan kerahasiaan AI bahwa perusahaan yang mengembangkan produk AI generatif harus menepati janji yang mengatur cara pengumpulan, penyimpanan, dan penggunaan informasi konsumen serta bisnis.

Badan tersebut kemudian meluncurkan penyelidikan terhadap praktik data chatbot AI, meneliti bagaimana beberapa penyedia mengumpulkan, menyimpan, mengungkapkan, dan memonetisasi informasi yang diperoleh melalui percakapan chatbot. Regulator meminta rincian mengenai kebijakan penyimpanan data, perlindungan pengguna, dan pengamanan internal saat para pejabat menilai apakah undang-undang privasi konsumen yang ada sudah cukup menangani adopsi layanan AI generatif yang pesat.

Risikonya bisa semakin besar seiring dengan bertambahnya kemampuan on-chain yang dimiliki Claude dan ChatGPT, yang memperluas sistem AI melampaui sekadar pembuatan teks ke layanan keuangan terhubung dan pengelolaan aset digital. Seiring dengan mulai berinteraksinya chatbot dengan dompet kripto, aplikasi keuangan terdesentralisasi, dan akun online lainnya, kekhawatiran terkait privasi dan keamanan meluas dari riwayat percakapan ke aset, transaksi, dan izin akun.

Meninjau Percakapan yang Dibagikan

Siapa pun yang telah membuat tautan berbagi Claude disarankan untuk meninjau percakapan aktif di dalam pengaturan privasi platform, menghapus tautan yang tidak lagi diperlukan, dan menghindari memposting URL publik yang berisi materi rahasia.

Hasil pencarian Google mungkin menghilang dengan cepat, meskipun tautan yang disalin, halaman yang diarsipkan, tangkapan layar, dan bookmark yang disimpan dapat tetap tersedia setelah mesin pencari menghapus hasil yang diindeks.

Para peneliti juga telah mendokumentasikan teknik serangan agen AI yang mampu mengeksploitasi sistem yang terhubung, menunjukkan bagaimana pelaku jahat dapat memanipulasi alat AI yang memiliki akses ke peramban, akun email, penyimpanan awan, dan layanan keuangan. Temuan ini menekankan pentingnya membatasi akses chatbot ke berkas sensitif, kredensial, dan akun keuangan, sekaligus secara rutin meninjau izin yang diberikan kepada aplikasi AI yang terintegrasi dengan data pribadi atau bisnis.