AI Uzmanı: Gerçeklik Protokolleri Bilgi Çağının SSL'i Olabilir

Dezenformasyon ve Tehlikeleri

2024 yılı, gerekli önlemler alınmazsa yapay zekânın (AI) oluşturabileceği tehlikeler hakkında çarpıcı bir uyarı görevi gördü. Dünyanın dört bir yanında, Hindistan’ın büyük demokratik egzersizinden Tayvan’ın gergin siyasi iklimine kadar, yapay zeka tarafından oluşturulan dezenformasyon kampanyaları iz bıraktı.

Tayvan’da, derin sahte haber sunucuları gerçek ve kurgu arasındaki çizgileri bulanıklaştırırken, ABD’de Başkan Biden’ın New Hampshire Demokratlarını oy kullanmaktan vazgeçirdiğini iddia eden sahte ses kaydı, yapay zekanın ne kadar kolay siyasi manipülasyon için silah haline getirilebileceğini vurguladı. Bu sentetik medyanın hacmi ve sofistikasyonu, birçok kişiyi gerçek ile kurguyu ayırt etmekte zorlanan bir belirsizlik denizine sürükledi.

Bununla birlikte, Swarm Network’un kurucusu ve CEO’su Yannick Myson gibi bazı uzmanlar, sorunun seçim manipülasyonundan daha derinlere indiğini savunuyor. O, yapay zeka kaynaklı psikozu, insanların büyüklük sanrıları geliştirmesiyle sonuçlanan rahatsız edici bir fenomen olarak alıntılıyor ve bazı çalışmaların bunu AI sohbet botlarıyla uzun süreli etkileşimlere bağladığını belirtiyor. Bu yapay zeka kaynaklı psikozun maliyeti muazzam olmuştur; bazıları işlerini kaybetmiş, diğerleri ise psikiyatrik tedavi altına girmiştir.

“Derin sahtecilikler nasıl görsel işlem kısayollarımızı kullanıyorsa, yapay zeka psikozu da psikolojik zayıflıklarımızı kullanır, sohbet botları sanrılı düşünceleri doğrulayan ve pekiştiren mükemmel yankı odaları olarak işlev görür,” dedi Myson.

Merkezi ve Merkezi Olmayan Çözümler

Myson, halihazırdaki tepkisel önlemlerin, yama şeklindeki doğruluk kontrol girişimlerinin bu büyüyen sorunu çözmeye yeterli olmadığını düşünüyor. “Endüstri, yama şeklindeki doğruluk kontrolünün sentetik medya hızına ya da yapay zeka sistemlerinin psikolojik manipülasyonuna ayak uyduramayacağını fark ediyor,” diyor.

Swarm Network’te somutlaşan çözümü ise ölçekli doğrulamayı gömme şeklinde. Bu, dijital bilginin kökeninin izlenebilir ve doğrulanabilir olmasını sağlayarak, içeriğin oluşturma noktasında orijinini belirlemeyi kapsar. Ayrıca, Myson, dijital küre üzerinde dağılan bilginin çapraz kontrol edilip doğrulandığı merkezi olmayan doğrulama sistemlerini savunuyor.

Bu güçlü “doğruluk altyapısı” vizyonu, yapay zeka endüstrisindeki büyüyen bir endişe ile yankılanıyor. Teknoloji hızla ilerlemeye devam ederken, onun kötüye kullanımının etik ve sosyal etkileri giderek daha belirgin hale geliyor. Gelişmiş yapay zeka tarafından oluşturulan yanlış bilgilerin beslediği dijital bilgiye olan güvenin aşınması, demokratik süreçler, sosyal dayanışma ve hatta bireysel zihinsel sağlık için büyük bir tehdit oluşturuyor.

Bunu önlemek için, bazıları, kullanıcıları ortaya çıkan teknolojilerle ilgili potansiyel risklerden korumanın önemli bir aracı olduğu kanıtlanmış önceki örnekleri gerekçe göstererek düzenleyici bir yanıt talep etti. Ancak, eleştirmenler bu durumun yeniliği engelleme gibi istenmeyen bir etki yaratabileceği konusunda uyarıyor ve Myson da bu görüşe katılıyor gibi görünüyor.

“Düzenleme yardımcı olabilir, ancak sadece gerçeğin merkezileştirilmesi tuzağından kaçınabilirse. Hükümetlerin tartışmayı susturmak için ‘yanlış bilgi yasalarını’ silah haline getirdiğini gördük,” dedi Swarm Network CEO’su.

Bu iddiayı desteklemek için Myson, Avrupa Birliği’nin (AB) geniş bir şekilde tanımlanmış “zararlı” içeriği kaldırmayı zorunlu kılan Dijital Hizmetler Yasası’nı (DSA) dünya genelinde açık tartışmayı dizginlemek için bir araç olarak nasıl kullandığını iddia ederek AB bürokratlarına işaret etti. Myson, AB AI Yasası’nın da benzer sorunlar yarattığını savunuyor.

DSA ya da AI Yasası gibi uygulamalar yerine, Myson, şeffaflığı, sentetik medyanın net bir şekilde etiketlenmesini ve C2PA gibi açık orijin standartlarının zorunlu hale getirilmesini savunuyor. “Kurallar kanıtı, görüşü değil, zorunlu kılmalıdır,” diye savundu.

Doğrulamanın Geleceği

CEO’ya göre, Meta ve TikTok gibi büyük sosyal medya platformları bunu fark etti ve o zamandan beri daha merkezi olmayan doğrulama yaklaşımlarına yöneldi.

“Bu değişim, merkezileşmiş doğruluk kontrolünün darboğazlar ve tek hata noktaları yarattığını temel bir kabulü temsil ediyor. İçerik doğrulamanın geleceği, hükümetlere veya şirketlere neyin doğru olduğuna karar verme gücü vermekle ilgili değil,” dedi CEO.

Myson, bu değişimin Swarm Network tarafından sunulan çözümleri hayati hale getirdiğine inanıyor. Sadece bir avuç merkezileşmiş doğruluk kontrolcüsüne güvenmek yerine, Swarm, “hamperlerin yanında çalışan AI ajanlarını kullanarak doğrulanmış iddiaların denetlenebilir bir, zincir üzerinde kayıt oluşturuyor.”

Gerçekten de, AI ajanları teorik kavramlardan pratik uygulamalara hızla geçiyor ve çeşitli sektörlerin nasıl işlediğini temelden değiştiriyor. Bu ajanların asıl yararı, otomatikleştirme ve optimize etme yetenekleridir. Kısa sürede büyük veri yığınlarını işleyebilir, insanların gözden kaçırabileceği desenleri tanımlayabilir ve yorgunluk olmadan 24/7 çalışabilirler.

Bununla birlikte, AI ajanlarının yaygın olarak benimsenmesi, dikkatle ele alınması gereken karmaşık zorlukları da beraberinde getiriyor. Bu zorluklardan bazılarını aşmak için, Myson şirketinin yaklaşımının “ajanları şeffaf işbirlikçiler haline getirmek, kontrolsüz kahinler değil” olduğunu söyledi. Ekledi:

“Swarm’da, ajanlar bilgiyi küçük, test edilebilir iddialara dekompoze eder, birbirlerini çapraz kontrol eder ve nüans gerektiğinde insanlara yol verir. Her adım kaydedilir ve zincire sabitlenir, böylece onların akıl yürütmeleri yeniden oynanabilir. Kısaca: kara kutu yok, sadece doğrulanabilir izler.”

Bu arada, Myson’a göre, önümüzdeki beş yılda doğruluk kontrolü manuel bir süreçten dijital hayatın yerleşik bir özelliğine evrilecek ve AI ajanları sadece hızlarına değil, şeffaflıklarına göre değerlendirilecek. Nihai vizyon, internetin temel bir katmanı olarak gerçeği oluşturmak.

“SSL nasıl web trafiği için varsayılan hale geldiyse, bir doğruluk protokolü de bilgi için varsayılan hale gelecek. Ve işte bu şekilde, yapay zekanın dünyayı gürültüye boğmasını önleriz,” diye sonlandırdı Myson.