CertiK Direktörü Lau, Risklerine Rağmen Yapay Zekayı “Net Olumlu” Olarak Değerlendiriyor

CertiK'ten Kaijern Lau: Yapay Zeka, Web3 Güvenliği İçin Olumlu Olacak, Ancak Aynı Zamanda 'İki Uçlu Bir Kılıç' Olacak

Yapay zekanın (AI) güvenlik açığı keşif süreçlerine dahil olmasıyla birlikte, istismar ve güvenlik açıkları artık çok daha hızlı bir şekilde tespit edilip kullanılmaya başlandığından, blok zinciri güvenliği ve denetim dünyası hızla değişiyor.

Bu faaliyetlerde AI'nın artan rolünün getirdiği risklere ilişkin genel endişeler, bir AI platformunun hacklenmesiyle sonuçlanan Hugging Face olayıyla birlikte artmıştır; bu olay, "baştan sona otonom bir AI ajan sistemi tarafından yürütülen" ilk saldırı olarak tarihe geçmiştir.

Daha sonra OpenAI modelinin test sandbox'ından kaçmasıyla suçlanan bu olay, ajan odaklı siber güvenlik savaşının bir gerçeklik olduğunu ve kurumların bu risklerle yarın değil, bugün yüzleşmeye hazırlıklı olmaları gerektiğini doğruladı.

Endişeler, güvenliğin aktif olmaktan çok pasif olduğu Web3 ekosistemine de sıçradı. Bu ekosistemde güvenlik, üretim aşamalarında tasarlanan denetimler ve güvenlik önlemleriyle yönetiliyor ve çoğu zaman yeni sözleşmelerin devreye alınmasından önce gerçek zamanlı olarak güncellenemiyor.

Bitcoin.com News ile yapılan özel bir röportajda, CertiK'in Mühendislikten Sorumlu Kıdemli Direktörü Kaijern Lau, hem bu saldırılarda hem de bunları önlemek için kod denetimi sürecinde yapay zekanın rolünü inceledi.

Lau, yapay zekanın bir platformdaki güvenlik açıklarını tespit etmek ve potansiyel saldırı vektörlerini incelemek için yararlı bir araç olabileceğini vurguluyor. Bununla birlikte, “yapay zekanın kodu kapsamlı bir şekilde analiz ettiğinden emin olmak ve bildirilen güvenlik açıklarının yanlış pozitifler değil, gerçek olduğunu doğrulamak” için bir insanın müdahalesi hâlâ gereklidir.

Lau, donanım cüzdanlarının saldırı yüzeylerini ele alan son araştırmaların, yapay zekanın sınırlarını ve insan müdahalesinin önemini ortaya koyduğunu belirtti. “Yapay zeka, kalıpları ortaya çıkarmaya ve analizi hızlandırmaya yardımcı olabilir, ancak bulguları doğrulamak ve bunların gerçek etkisini değerlendirmek için deneyimli araştırmacılara hâlâ ihtiyaç vardır,” diye değerlendirdi.

Hugging Face Olayı İzole Edildi, “Kötü Niyetli Ajanlar”ın Kanıtı Değil

Lau, Hugging Face olayının belirli bir değerlendirme ortamında meydana geldiğini ve bu tür bir acil durumun, AI modellerinin kontrol edilemez olduğu anlamına gelmediğini vurguladı.

Buna rağmen, saldırının yapay zeka ajanlarının mevcut yeteneklerini ortaya koyduğunu belirtti. Bu ajanlar, tek başına yönetilebilir görünen zayıflıkları (örneğin, açıkta kalan bir hizmet, yanlış yapılandırma, aşırı izinler veya ele geçirilmiş kimlik bilgileri) tespit edip birleştirerek bunları makine hızında koordineli bir saldırı yoluna dönüştürmek dahil olmak üzere, giderek daha karmaşık siber güvenlik operasyonlarını yürütme yeteneğine sahip hale geliyor.

Sonuç olarak bu durum, güvenlik amaçlı yapay zekaya yatırım yapmanın, Web3 ve blok zinciri sektörü gibi kod tabanlı ürünlere sahip şirketler için nasıl bir norm haline geldiğini de göstermektedir.

"AI, hem saldırganları hem de savunmacıları daha yetkin hale getirecek. İşte bu nedenle blok zinciri şirketleri, kodlarını ve altyapılarını korumak için AI odaklı güvenliğe daha fazla yatırım yapmalıdır. Artık ana sorunun yapay zeka kullanıp kullanmama değil, kuruluşların sistemlerini savunmak için ne kadar yapay zeka kaynağına (veya token'a) yatırım yaptıkları ile saldırganların giderek daha sofistike saldırılar düzenlemek için harcadıkları kaynaklar arasındaki karşılaştırma olduğu bir döneme giriyoruz," diye açıkladı uzman.

AI ve Blockchain Güvenliği: Şu Anki Durum

Lau, yapay zeka ve blok zinciri güvenliğinin kaçınılmaz olarak iç içe geçeceğinden emin olsa da, güvenlik açıklarının tespit edilmesi ve güvenli yazılım geliştirme görevlerinin insan müdahalesi olmadan tamamlanmasının henüz çok erken olduğunu kabul ediyor.

CertiK, savunma ajanlarını ve araçlarını bile saldırı yüzeyinin bir parçası olarak değerlendiriyor; zira bunlar, ani enjeksiyon, kötü niyetli araç girdileri, aşırı izinler, veri sızıntısı veya güvenli olmayan otomatik düzeltme açısından incelenebilir. Aslında şirket, dağıtım öncesinde AI becerilerindeki riskleri belirlemeye yardımcı olmak ve AI ajanları üzerindeki denetimi artırmak amacıyla AI Skill Scanner adlı bir araç tasarladı.

Lau, CertiK’in gelişmiş AI destekli güvenlik altyapısı oluşturmak için yoğun yatırım yapmaya devam edeceğini açıkladı. “Şirket içi geliştiricilerimiz ve güvenlik araştırmacılarımız, AI odaklı blok zinciri güvenliğini ilerletmek için gece gündüz çalışıyor,” diye doğruladı.

CertiK ayrıca, blok zinciri projelerini otomatik olarak analiz ederek yaygın güvenlik risklerini tespit eden AI Auditor adlı bir araç geliştirdi. Lau, şirketin AI destekli aktörlere karşı savunma yeteneklerini nasıl geliştirdiğini açıklarken, “Bu çoklu model ve çoklu ajan yaklaşımı, güvenlik değerlendirmelerinin hem doğruluğunu hem de güvenilirliğini artırıyor,” dedi.

AI'nın Denge Arayışı: Bundan Sonra Nereye Gidiyoruz?

Tehdit aktörleri halihazırda ajanları kullanarak istismar noktalarını keşfetmekte ve akıllı sözleşmeleri güvenlik açıkları açısından taramakta olduğundan, yapay zeka saldırı engellerini azaltıyor olsa da Lau, yapay zekayı savunma amaçlı kullanmanın gerçek avantajları olduğunu vurguladı.

Lau, “AI, tehdit tespit verimliliğimizi ve kapsamımızı önemli ölçüde artırıyor. CertiK, AI’yı tescilli CertiK Prover motoruna entegre ederek formal doğrulamanın verimliliğini artırdı,” diye belirtti.

Lau, CertiK’in bu alana katkısının güvenlik açıklarını tespit etmenin ötesine geçtiğini ve AI modellerini müşterilerinin güvenliğini sağlamak için eğitip kullanarak savunma güvenlik önlemlerinin bu yeni ortaya çıkan AI tehditlerinin bir adım önünde olmasını sağlamayı hedeflediğini söyledi.

"Genel olarak, yapay zeka Web3 güvenliği için net bir olumlu etki yaratacaktır, ancak yadsınamaz bir şekilde sürekli bir denge kurmayı gerektiren iki ucu keskin bir kılıçtır," diye sözlerini tamamladı Lau.