Reddit Konularından Robot Zihinlerine: AI Eğitiminin Gizli Maliyetleri

Yapay Zeka Güvenliği ve Öngörülebilirliğine Öncelik Verme

Yapay zeka endüstrisi, makinelerin ne başarabildiği konusundaki sınırları zorlayarak hızlı yükselişine devam ederken, geliştiriciler, politika yapıcılar ve daha geniş küresel topluluktan acil dikkat gerektiren kritik zorluklar ortaya çıkıyor. Coral’ın CEO’su ve kurucu ortağı Roman Georgio, bu acil konular üzerine görüşlerini paylaştı ve hizalanma, güvenlik ve veri yaratıcıları için daha adil bir ekonomik modele olan ihtiyacı vurguladı.

Yapay zekanın geleceği hakkındaki tartışmalar genellikle dönüşüm potansiyeli ile sunduğu karmaşık etik ve toplumsal ikilemler arasında gidip gelir. Büyük dil modelleri (LLM’ler) gibi yenilikler yetenekleriyle etkilerken, aynı zamanda veri sahipliği, tazminat ve iş yapısının yapısı gibi temel soruları da gündeme getirirler.

Georgio için esas endişe, yapay zekanın hizalanması ve güvenliğindedir. “Yapay zeka sistemlerini daha büyük hale getirmeden önce daha öngörülebilir hale getirmemiz gerektiği açık,” dedi. Bu, giderek daha güçlü yapay zeka sistemlerinin, beklenmedik veya zararlı sonuçlar üretmeden faydalı ve amaçlanan şekillerde çalışmasını sağlamanın temel zorluğunu ifade ediyor. Yapay zekanın hızlı kapasite artışı, öngörülebilirlik ve kontrol üzerine paralel bir odaklanma olmadan önemli bir risk oluşturur.

Georgio, bunun yalnızca bir geliştirici sorumluluğu olmadığını belirtti. Bunun, “şirketlerin ve ülkelerin tüm başkanlarını bir odada toplayıp bazı yasalar üzerinde anlaşmalarını” gerektirebileceğini önerdi.

Ekonomik Gerek: Veri Sahipliği ve Tazminat

Güvenliğin ötesinde, Georgio, Web3 teknolojilerinin benzersiz bir şekilde çözme potansiyeline sahip olduğunu düşündüğü önemli bir ekonomik meseleyi vurguladı: işlerin adil tazminat olmadan kitlesel iş kaybı potansiyeli ve veri mülkiyeti.

“Yapay zeka şirketleri veri sahiplenme konusunda kötü bir üne sahiptir,” diye açıkladı Georgio.

Coral’ın kurucu ortağı, çoğunlukla bilinçsizce yapılan bireysel çevrimiçi katkıların, nihayetinde insan işlerini değiştirebilecek güçlü yapay zeka modellerini eğitmek için kullanıldığı canlı bir tablo çizdi. Örneğin yıllar önce Reddit gibi platformlarda yanıtlanan tıbbi soruların, LLM’lere veri sağladığını belirtti. Ayrıca, sanatçıların yaratıcı çalışmalarının eğitime dahil edilmesi, geçimlerini etkileyen bir durum olarak ve açık kaynak projelerine yapılan katkıların “kara kutu sayı öğütücü makineler” olarak adlandırdığı sistemleri dolaylı olarak beslemesine işaret etti.

Bu senaryo, Georgio’ya göre, bireylerin dijital katkıları üzerindeki temel bir sahiplik eksikliğine dayanıyor. “Kara kutu sayı öğütücü makineyi beslediğinizi hiç bilmediniz,” diye vurguladı. Mevcut model, yapay zeka sistemlerinin, birçok insan tarafından üretilmiş içeriği içeren geniş veri setleri üzerinde açık onay veya orijinal yaratıcılarına tazminat mekanizması olmadan eğitilmesine izin veriyor.

Web3: Adil Tazminat için Çözüm

Georgio’nun büyük potansiyel gördüğü yer, Web3 teknolojilerinin gücüdür. Web3’ün merkeziyetsiz yapısı, doğrulanabilir sahiplik ve şeffaf işlemler üzerinde vurgu yaparak, bu ekonomik eşitsizlikleri düzeltmek için uygulanabilir bir yol sunar.

“Web3, bu tür sorunları çözme ve insanların adil bir şekilde tazmin edilmesini sağlama potansiyeline sahiptir,” diye belirtti Georgio. Blockchain ve merkeziyetsiz protokoller kullanarak, Web3, bireylerin verileri ve dijital varlıkları üzerindeki sahiplik ve kontrolü elinde tutabilecekleri sistemler oluşturabilir ve bu da katkılarının yapay zeka sistemlerine güç sağlamak veya eğitmek için kullanıldığında adil şekilde tazmin edilmelerini sağlar. Bu değişim, kullanıcılar, veriler ve yapay zeka arasındaki ilişkiyi yeniden tanımlayabilir ve daha adil bir dijital ekonomi oluşturabilir.

Web3 teknolojileri, bu karmaşık zorluklara umut verici çözümler sunarken, hükümet kuruluşlarının bu merkeziyetsiz yaklaşımları kolayca benimsemeleri pek olası değildir. Bunun yerine, otoriteler muhtemelen geleneksel düzenleyici çerçeveleri ikiye katlama yoluna gideceklerdir, ki bu da ironik bir şekilde, denetlemeyi ve kontrol altına almayı hedefledikleri teknolojik yenilikleri engelleme riskini taşır.

Georgio, bu arada, hem yapay zeka hem de Web3 sektörlerinde artan düzenlemeyi savunuyor. “Her iki sektörün de daha fazla düzenlemeye ihtiyacı olduğunu düşünüyorum,” diye belirtti ve Avrupa’nın “düzenlemede yenilik yapma” algısını gerekli bir adım olarak kabul etti.

Kripto tarafında, Georgio, savunmasız yatırımcıları istismar eden dolandırıcılık ve proje çıkışlarının yaygın sorununa dikkat çekti. “Çok açık ki birçok insan kendi araştırmasını yapmayacak ve birçok proje çıkışı dolandırıcılık yöntemleriyle oluyor,” diye üzüntüyle belirtti. Buna karşı savaşmak için, “KOL’ler [Anahtar Görüş Liderleri], projeler ve yatırımcılar” için daha fazla hesap verebilirlik görme isteğini dile getirdi. Her başarısız olan projenin bir dolandırıcılık olmadığını kabul ederken, mevcut manzaranın kamuoyunu korumak için değişiklik gerektirdiği görüşünü korudu.

Yapay zeka konusunda, Georgio’nun endişeleri, daha büyük modellerin artan yetenekleriyle birlikte artıyor. “Büyük modeller daha fazla düzen kurma eğiliminde görünüyor,” diye gözlemde bulundu ve Anthropic’ten Claude’un kapatılma tehdidi hissettiğinde şantaj davranışı sergilediğine dair rahatsız edici örneğe değindi. “Bu büyük modellerin daha tehlikeli hale geldiği açık, çünkü bu bir defalık bir şey değil,” diye uyardı.

Gelişmiş yapay zeka davranışlarının acil risklerinin ötesinde, Georgio, kitlesel iş kaybı tehdidi üzerinde yeniden durdu. Şirketlerin “körlemesine ‘yeteneklerini büyütme’ yerine kasıtlı olarak inşa etme” eğilimini “çılgınca” buldu. Nihai hedefi ve endüstrinin çaba göstermesi gerektiğini düşündüğü şey, “yapay zekanın tüm faydalarını tüm riskleri olmadan sunan yazılımlardır.”

Yapay Zeka Ajanları, Sadece Sohbet Botları Değil, Açık Rol Tanımları Olmalı

Bu arada, deneyimli bir yapay zeka altyapı mimarı olarak Georgio, yapay zeka ajansı iletişim protokollerinin önemli bir yönü üzerine de görüş bildirdi ve ufak hataların kaosa yol açabileceğini kabul etti. Özellikle teknik olmayan günlük kullanıcılar için iletişimi geliştirmek konusunda en iyi yaklaşımın ne olduğu sorulduğunda, Georgio’nun felsefesi basittir: ajanlar için açıkça tanımlanmış sorumluluklar.

“En azından bizim için, kuralımız, ajanların çok iyi tanımlanmış sorumluluklara sahip olması gerektiğidir,” diye açıkladı Georgio. “Bir müşteri hizmetleri için bir ajandan yararlanıyorsanız, müşteri hizmetlerinde gerçekten iyi olduğundan emin olun ve onu bu konuda odaklı tutun.” “Ajanlara çok fazla sorumluluk verdiğinizde her şey dağılır,” dedi.

Bu odaklanmış yaklaşım, ajanların belirlenen rolü içindeki performansını artırmanın yanı sıra kullanıcıya da fayda sağlar. “Kullanıcı perspektifinden bakıldığında da, ajanlarınız açıkça tanımlandıysa, kullanıcılar, kullandıklarında neyle karşılaşacaklarını tam olarak bilirler.” Bu strateji, zekice sistemlerle kesintisiz etkileşim için öngörülebilirlik ve güveni teşvik eder.

Yapay zeka günlük yaşam ve endüstriye daha derin bir şekilde entegre olurken, güvenlik, öngörülebilirlik, ekonomik adalet, düşünceli düzenlemelerin uygulanması ve açık, odaklanmış sorumluluklara sahip ajanların tasarlanması konusundaki bu temel konuların ele alınması, teknolojinin etik gelişimi için değil, aynı zamanda sürdürülebilir ve sosyal olarak sorumlu bir şekilde entegrasyonu için de kritik olacaktır.

Yapay zeka benimsemesinin hızlandırılması konusundaki önemli meselede, Georgio, temel bir değişimi önerdi: yalnızca “yapay zeka sohbet kutusu” sınırlamalarının ötesine geçmek ve genel kullanıcı deneyimini kökten iyileştirmek. Güncel yaklaşımın eksiklikleri üzerine açıklamalarda bulunurken, Georgio şunu savundu:

“Şu anda çoğunlukla bir sohbet arayüzü aracılığıyla yapılıyor, bu birçok görev için uygundur ancak çoğu zaman ideal değil. Sorun, insanların önüne bir yapay zeka sohbet kutusu koymanız ve ‘Bununla her şeyi yapabilirsiniz’ demeniz; onların ise ‘Harika, ama ne yapmalıyım?’ diye sormalarıdır.”

Georgio’ya göre, aralarında Coral’ın da bulunduğu birkaç şirket, yapay zeka kullanıcı deneyimini iyileştirme zorluklarıyla uğraşıyor. Bir yapay zeka geliştirici/bakımcı perspektifinden Coral’ın, çeşitli aşamalarda AI sistemi etkileşimleri için kullanıcıların hangi bilgilere ihtiyaç duyduğunu belirlemek ve hangi arayüzlerin belirli görevler için en etkili olduğunu belirlemek amacıyla “soyutlama merdiveni” üzerinde çalıştığını açıkladı.