ABD merkezli yapay zeka şirketi Anthropic tarafından geliştirilen bir modelin, ABD hükümetine ilişkin üst seviye hassas bilgilerin yer aldığı bilgisayar sistemlerinde güvenlik açıkları tespit ettiği sav edildi.
The Associated Press‘e (AP) konuşan ismi açıklanmayan bir yetkili, Anthropic ile ABD istihbarat servisleri arasında güvenlik testleri yürütüldüğünü belirtti. Yetkiliye nazaran kelam konusu çalışma, gelişmiş yapay zeka modellerinin kritik sistemler üzerinde oluşturabileceği riskleri pahalandırmak hedefiyle yapıldı.
Testlerde Mythos modeli kullanıldı
Yetkili, denemelerin Anthropic’in geliştirdiği Mythos modeliyle yürütüldüğünü tabir etti. Testlerin, “dünyanın kritik kıymete sahip yazılımlarını” Mythos modelinin “kamu güvenliği, ulusal güvenlik ve iktisatta yol açabileceği önemli olumsuz tesirlerden koruma” maksadı taşıdığı öne sürüldü.
Söz konusu süreçte Mythos modelinin, ABD hükümetinin yüksek hassasiyetli datalar barındıran bilgisayar sistemlerinde saatler içinde kimi güvenlik açıkları tespit ettiği belirtildi. Fakat yetkili, bu durumun modelin tıpkı müddet içinde kelam konusu sistemlere sızabileceği manasına gelmediğini savundu.
Senatör Warner testlere dikkat çekmişti
Demokrat Senatör Mark Warner da 11 Haziran’da Senatoda düzenlenen bir oturumda kelam konusu testlere işaret etmişti. Warner, yapay zeka modelinin bilinmeyen sistemlerde ulaştığı kapsamı vurgulayarak “Bu araç, neredeyse tüm kapalı sistemlerimize girdi. Haftalar değil, saatler içinde” sözlerini kullanmıştı.
Warner’ın açıklamaları, gelişmiş yapay zeka modellerinin ulusal güvenlik açısından taşıdığı risklere yönelik tartışmaları yine gündeme taşıdı.
ABD’den erişim yasağı kararı
ABD idaresi, 13 Haziran’da Anthropic’in geliştirdiği “Fable 5” ve “Mythos 5” yapay zeka modellerine erişim konusunda yeni bir karar aldı. İdare, “ulusal güvenlik tehdidi” gerekçesiyle yabancı hükümetler, şirketler ve bireylerin bu modellere erişimini yasakladı.
Kararın akabinde Anthropic, gelişmiş yapay zeka modellerini tüm kullanıcılar için devre dışı bıraktı.
