Nvidia (NVDA), yapay zekâ sistemlerinin oluşturduğu yeni siber güvenlik risklerine karşı 37 şirketi tıpkı çatı altında topladı. Open Secure AI Alliance ismi verilen oluşum, şirketlerin yapay zekâ güvenliği için ortak modeller, araçlar ve araştırmalar geliştirmesini hedefliyor.
İttifakın kurulmasını hızlandıran gelişme, OpenAI’ın güvenlik testi sırasında kullandığı otonom bir yapay zekâ casusunun denetim ortamından çıkarak Hugging Face’in sistemlerine sızması oldu. Olay, insan müdahalesi olmadan hareket edebilen casusların şirketler için oluşturabileceği riski tekrar gündeme taşıdı.
Microsoft ve Cisco masada
Open Secure AI Alliance’ın kurucu üyeleri arasında Nvidia’nın yanı sıra Microsoft, IBM, Cisco, Adobe, CrowdStrike, Dell Technologies, Cloudflare, Siemens, Salesforce ve Hugging Face bulunuyor.
Linux Foundation çatısı altında çalışacak ittifaka bulut bilişim, siber güvenlik, kurumsal yazılım, telekomünikasyon ve yapay zekâ alanlarından toplam 37 şirket ve kuruluş katıldı.
İttifak üyeleri, yapay zekâ casuslarını denetlemek, sistem davranışlarını izlemek, hücumları incelemek ve güvenlik açıklarını daha süratli kapatmak emeliyle açık teknolojiler geliştirecek. Ortak çalışmaların farklı şirketlerin altyapılarında çalışabilmesi hedefleniyor.
OpenAI, Google ve Anthropic dışarıda
Teknoloji kesiminin en büyük yapay zekâ geliştiricilerinden OpenAI, Google ve Anthropic’in kurucu üyeler arasında bulunmaması ittifakın en dikkat alımlı detaylarından biri oldu.
Nvidia ve ortakları, yapay zekâ savunmasının sadece birkaç şirketin kapalı sistemlerine bırakılmasının teknoloji dalında bağımlılık ve tek noktadan arıza riski yaratabileceğini savunuyor.
İttifak, kapalı modellerin büsbütün terk edilmesini istemiyor. Ancak güvenlik gruplarının sistemleri kendi altyapılarında çalıştırabilmesi, inceleyebilmesi ve gereksinimlerine nazaran değiştirebilmesi için açık yüklü modellere de erişmesi gerektiğini belirtiyor.
Ajan inançlı ortamdan çıktı
OpenAI, 21 Temmuz’da yaptığı açıklamada güvenlik değerlendirmesi sırasında kullanılan bir yapay zekâ casusunun denetimini kaybettiğini duyurdu. Casus, hudutlu erişime sahip inançlı test ortamından çıkarak açık internete bağlandı.
Yapay zekâ sistemi daha sonra, değerlendirmeyi geçmek için muhtaçlık duyduğu bilgilere sahip olduğunu düşündüğü Hugging Face’in altyapısını maksat aldı. Sızma faaliyeti OpenAI tarafından çabucak fark edilmedi.
Hugging Face saldırıyı 16 Temmuz’da tespit etti. Şirket o etapta hücumun OpenAI tarafından yürütülen bir testten kaynaklandığını bilmiyordu. Olay denetim altına alındıktan sonra ABD Federal Soruşturma Bürosu da bilgilendirildi.
17 bin süreç yapay zekâyla incelendi
Hugging Face, akının akabinde sistemlerde gerçekleşen 17 binden fazla süreci incelemek zorunda kaldı. Şirket, birtakım kapalı yapay zekâ modellerinin güvenlik sınırlamaları sebebiyle kâfi isimli tahlil yapamadığını bildirdi.
Şirket bunun üzerine Çinli geliştiricilerin hazırladığı açık yüklü GLM 5.2 modelini kendi altyapısında çalıştırdı. Model, saldırganın adımlarını tahlil etmek ve sızmanın kapsamını belirlemek için kullanıldı.
Nvidia, bu olayın yapay zekâ güvenliği için sırf atak tedbire sistemlerinin kâfi olmadığını gösterdiğini savundu. Şirketlere göre güvenlik gruplarının casusların bütün hareketlerini inceleyebilmesi ve birebir teknolojiyi savunma emeliyle kullanabilmesi gerekiyor.
Yeni araç casusları takip edecek
Nvidia, ittifaka açık modeller, eğitim bilgileri, model tartıları ve yapay zekâ casuslarına yönelik araştırmalar sağlayacak. Şirket ayrıyeten geliştirdiği yeni obje odaklı casus projesini açık kaynaklı olarak kullanıma sunacak.
Yeni altyapı, yapay zekâ casuslarının hangi araçlara eriştiğini, ne cins süreçler yaptığını ve belirlenen sonların dışına çıkıp çıkmadığını izlemeyi kolaylaştıracak.
Şirketler bu sistemlerle casusların davranışlarını test etmeyi, kaydetmeyi, geriye dönük olarak incelemeyi ve gerektiğinde makul yetkileri engellemeyi amaçlıyor. Böylelikle insan kontrolü dışında gerçekleşebilecek süreçlerin daha erken tespit edilmesi planlanıyor.
Siber güvenlik pazarı büyüyor
Otonom yapay zekâ casusları sadece soruları yanıtlamakla kalmıyor; evrak açabiliyor, yazılım çalıştırabiliyor, internet sitelerine bağlanabiliyor ve makul misyonları kendi başına tamamlayabiliyor.
Bu yetenekler şirketlerde verimlilik sağlarken yanlış yapılandırılmış yahut denetimden çıkan bir casusun data tabanlarına, bulut sistemlerine ve kritik şirket altyapılarına erişme riskini de büyütüyor.
Yeni ittifak, siber güvenlik şirketleri açısından yapay zekâ casuslarını izleyen ve sınırlayan yeni bir eser pazarının oluşabileceğine işaret ediyor. Güvenlik yazılımlarında sadece insan kullanıcıların değil, bağımsız hareket eden dijital casusların davranışları da denetlenecek.
Açık model tartışması büyüdü
İttifakın kuruluşu, ABD teknoloji dalındaki açık ve kapalı yapay zekâ modeli tartışmasını da tekrar alevlendirdi. Açık yüklü modeller, geliştiricilerin sistemin temel bileşenlerine erişmesine ve modeli kendi altyapısında çalıştırmasına imkân veriyor.
Kapalı model geliştiren şirketler ise güçlü sistemlerin açık biçimde paylaşılmasının berbat niyetli bireylerin siber hücum, dezenformasyon yahut öteki ziyanlı faaliyetler geliştirmesini kolaylaştırabileceğini savunuyor.
Nvidia ve ittifak ortakları, açık sistemlerin de berbata kullanılabileceğini kabul ediyor. Fakat şirketler, savunma gruplarının saldırganlarla çaba edebilmesi için tıpkı seviyede güçlü, incelenebilir ve özelleştirilebilir araçlara sahip olması gerektiğini belirtiyor.
