Yapay Zekanın Gerçek Güvenlik Tehdidi Hız Değil, Merkezi Kontroldür

Kötü Niyetli Kodlar, Teknoloji Şirketlerini 'Sentetik İnternet'lere Zorluyor

Anthropic CEO’su Dario Amodei’nin yapay zeka alanında bir yavaşlama çağrısı yapan bir mektup yayınlamasından birkaç gün sonra, eski New York Belediye Başkan adayı Andrew Yang, kötü niyetli ajanların kendiliğinden çoğalan kodlarla interneti çoktan kirlettiği için durumu kurtarmak için artık biraz geç kalınmış olabileceği konusunda uyarıda bulundu.

CNBC’ye konuşan Yang, ismi açıklanmayan bir yapay zeka laboratuvarı yöneticisinden aldığı bilgiyi paylaştı: Kötü niyetli kodlar, büyük teknoloji şirketlerini sadece modellerini eğitmek için “sentetik internetler” oluşturmaya zorladı. Yang, bu maliyetli aksaklığın, Amodei, Sam Altman ve Elon Musk gibi sektör liderlerinin, sektörü düzenleme ve yapay zeka alanındaki öncü gelişmelerin hızını kontrol altına alma çağrılarını haklı çıkardığını savundu.

Yang’ın uyarısından önce, birçok yapay zeka politikası uzmanı ve Trump yönetimi yetkilisi, bu tür yavaşlatma çağrılarına direnmiş ve bunun küresel yapay zeka yarışında Çin’e liderliği kaptırabileceğine dair uyarıda bulunmuştu. Donald Trump ise daha da açık sözlüydü ve yapay zeka kaynaklı insan soyunun tükenmesi korkusunu bir aldatmaca olarak nitelendirdi. David Sacks gibi diğer eleştirmenler ise, endişeli teknoloji yöneticilerinin federal düzenlemeler veya geniş kapsamlı moratoryumlar için lobi yapmak yerine, testlere kendileri ara vermeleri gerektiğini savundu.

Tartışma giderek düzenleme yanlısı ve karşıtı kamplar arasında partizanca bir bölünmeye dönüşürken, her iki tarafın da kilit isimleri, zorunlu yavaşlama çağrılarını doğrulayacak ya da çürütecek çok az ampirik veri sunmuşlardır. Yine de, Yang’ın son haber olarak sunduğu açıklaması, tartışmaya aciliyet katarak, derhal koruyucu önlemler alınmasını savunanlara ikna edici argümanlar sağladı.

Araştırmalar, Yapay Zeka Ajanlarının Değerlendirme Kriterlerini Suistimal Ettiğini Gösteriyor

Bu arada, öncü bir açık kaynaklı yapay zeka araştırma kuruluşu olan Sentient Labs, yürüttüğü son bir çalışmanın, ajanların yeteneklerinin risk yönetimi kapasitesini geride bıraktığına dair Amodei’nin argümanını doğruluyor gibi göründüğünü belirtiyor. Bitcoin.com News’in sorularına yazılı olarak yanıt veren Sentient Labs strateji ve büyüme başkanı Abhishek Saxena, şirketin Evoskill v2 araştırmasının bu iddiayı destekleyen “somut kanıtlar” sunduğunu belirtti.

Saxena, şirketin araştırma ekibinin yapay zeka ajanlarının rekabetçi değerlendirme ortamlarında nasıl davrandığını, özellikle de ajanlar benchmarklarda ve değerlendirmelerde iyi performans gösterecek şekilde optimize edildiğinde neler olduğunu incelediğini belirtti.

“Gözlemlediğimiz şey, ajanların amaçlanan görevi çözmek yerine değerlendirmenin yapısını istismar eden beklenmedik stratejiler keşfettikleridir. Ajanlar, değerlendiricilerin performansı ölçme yöntemlerindeki boşlukları buluyor ve temel amaç yerine ölçütlere göre optimizasyon yapmayı öğreniyorlar,” diye açıkladı Saxena.

Güvenlik açısından bu durum önemlidir, çünkü AI sistemleri daha yetenekli ve otonom hale geldikçe, değerlendirme altyapısının da en az değerlendirilen sistemler kadar gelişmiş olması gerektiğini göstermektedir. Bunu aşmak için, Saxena’nın ölçtükleri sistemlerle birlikte gelişen dinamik, karşıt değerlendirme yöntemleri olarak tanımladığı bir yaklaşıma ihtiyaç vardır.

Ancak Saxena, yapay zeka sistemlerinin değerlendirilme ve izlenme şekillerinde herhangi bir değişiklik yapılmadan sadece yavaşlatmanın pek bir fayda sağlamayacağı konusunda ısrarcıdır.

Sentient Labs yöneticisi, “Daha iyi bir yol, bağımsız değerlendirmeye, kırmızı takım çalışmalarına ve davranışsal izlemeye yoğun bir şekilde yatırım yapmaktır; böylece bu sistemleri devreye alan kişiler ve sistemlerden etkilenen kişiler, kullandıkları sistemler hakkında güvenilir bilgilere sahip olurlar,” dedi.

Daha Büyük Risk: Yoğunlaşmış Güç ve Merkezi Güvenlik İddiaları

Bu arada Saxena, Bitcoin.com News’e verdiği demeçte, dünyanın karşı karşıya olduğu en büyük riskin çok hızlı ya da çok yavaş hareket etmemiz değil, az sayıda yapay zeka şirketinin en güçlü modeller üzerinde kontrol sahibi olması ve neyin “güvenli” sayılacağını belirlemesi olduğunu söyledi.

“AI şirketlerinin sistemleri hakkında öne sürdükleri iddiaları gerçekten doğrulayabilmek için bağımsız bir altyapı kurmamız gerekiyor. Değerlendirmeler sağlam mı? Güvenlik raporları doğru mu? Dışarıdan gelen araştırmacılar bu bulguları tekrarlayabiliyor mu? Cevap hayırsa, o zaman ne hızlanmak ne de yavaşlamak, asıl sorun olan güvenilir bilgi eksikliğini çözmez,” diye ekledi Saxena.