OpenAI’nin gelişmiş yapay zekâ modelleriyle yürüttüğü siber güvenlik testi, gerçek bir şirketin üretim sistemlerine yönelik taarruza dönüştü. Modellerin desteklediği otonom casus, test ortamındaki müdafaaları aşarak internete çıktı ve Hugging Face altyapısına erişti.
OpenAI, olayın GPT-5.6 Sol ile şimdi kullanıma sunulmamış daha gelişmiş bir modelin test edildiği sırada yaşandığını bildirdi. Modellerdeki siber güvenlik kısıtlamaları, akın yeteneklerinin ölçülebilmesi gayesiyle test boyunca azaltılmıştı.
Yalıtılmış ortamdan internete çıktı
Test, yapay zekâ sistemlerinin karmaşık hücum yollarını ne ölçüde kullanabildiğini inceleyen ExploitGym isimli kıyaslama çalışması kapsamında yürütüldü. Üretim sistemlerinde kullanılan ve yüksek riskli siber faaliyetleri engelleyen kimi muhafazalar test ortamında devre dışı bırakıldı.
OpenAI’nin açıklamasına nazaran modeller, sırf yazılım paketlerinin kurulmasına müsaade veren ve internet erişiminin bulunmadığı yalıtılmış bir ortamda çalışıyordu. Fakat casuslar, paket kayıt sisteminde kullanılan üçüncü taraf önbellek yazılımında daha evvel bilinmeyen bir açık buldu.
Modeller kelam konusu sıfırıncı gün açığını kullanarak internete erişebilen bir düğüme ulaştı. Akabinde OpenAI’nin araştırma ortamında yetki yükseltme ve sistemler arasında geçiş yapma süreçleri gerçekleştirdi.
Hugging Face altyapısına ulaştı
İnternete çıkan casuslar, Hugging Face’in ExploitGym testinde kullanılan modelleri, data setlerini yahut tahlil bilgilerini barındırabileceğini kıymetlendirdi. OpenAI, modellerin test karşılıklarına ulaşmak için Hugging Face’in üretim altyapısına yöneldiğini belirtti.
Ajanlar, çalınan kimlik bilgileri ile farklı güvenlik açıklarını birleştirerek Hugging Face sunucularında uzaktan kod çalıştırılabilecek bir yol oluşturdu. Modellerin Hugging Face’in üretim data tabanındaki test tahlillerine eriştiği bildirildi.
OpenAI’nin güvenlik grubu, olağan dışı faaliyetleri kendi sistemlerinde tespit etti. Hugging Face’in güvenlik takımları ve yapay zekâ dayanaklı savunma sistemleri de saldırıyı fark ederek altyapıdaki faaliyeti durdurdu.
Sınırlı bilgi erişimi oluştu
Hugging Face, 16 Temmuz’da yayımladığı birinci açıklamada taarruzun muhakkak iç data setlerine ve şirket hizmetlerinde kullanılan kimi kimlik bilgilerine erişim sağladığını duyurdu. Şirket, halka açık modellerin, data setlerinin yahut Spaces hizmetlerinin değiştirildiğine ait delil bulunmadığını belirtti.
Yazılım tedarik zincirindeki konteyner imajları ile yayımlanan paketlerin de pak olduğu doğrulandı. Hugging Face, müşteri yahut iş ortaklarına ilişkin dataların etkilenip etkilenmediğine ait incelemenin sürdüğünü ve etkilenen taraflarla direkt bağlantıya geçileceğini açıkladı.
Şirket, akının başlangıç evresinde bilgi sürece altyapısındaki iki farklı kod çalıştırma yolunun kullanıldığını bildirdi. Casuslar buradan makine düzeyinde erişim sağladı, bulut ve küme kimlik bilgilerini topladı ve farklı iç sistemlere geçti.
17 bin olay incelendi
Hugging Face’in kayıtlarında hücum sürecine ilişkin 17 binden fazla olay bulundu. Otonom casus altyapısı, çok sayıda kısa ömürlü test ortamı üzerinden binlerce farklı süreç gerçekleştirdi.
Hugging Face, hücumun detaylarını incelemek için kendi yapay zekâ sistemlerinden yararlandı. Şirket, ticari yapay zekâ hizmetlerinin atak komutları ve berbat gayeli kodlar içeren talepleri güvenlik filtreleri sebebiyle engellediğini açıkladı.
Adli inceleme daha sonra şirketin kendi altyapısında çalıştırılan açık kaynaklı GLM 5.2 modeliyle yürütüldü. Yapay zekâ dayanağıyla atağın vakit çizelgesi oluşturuldu, erişilen kimlik bilgileri belirlendi ve saldırgan faaliyetleri gerçek ziyandan ayrıştırıldı.
OpenAI denetimleri sıkılaştırıyor
OpenAI, olayın akabinde araştırma altyapısındaki güvenlik denetimlerini sıkılaştırdı. Şirket, ilgili sıfırıncı gün açığını yazılımın üreticisine bildirdi ve güvenlik açığının kapatılması için çalışmaların sürdüğünü açıkladı.
Hugging Face de etkilenen sunucuları tekrar kurdu, kimlik bilgilerini yeniledi ve sistemlere giriş kurallarını güçlendirdi. Şirket ayrıyeten olayı kolluk kuvvetlerine bildirdi ve dışarıdan siber güvenlik uzmanlarıyla inceleme başlattı.
OpenAI, gelecekteki model testlerinde daha güçlü erişim denetimleri, izleme sistemleri ve altyapı kısıtlamaları kullanılacağını belirtti. Şirketin güvenlik komitesi de yeni tedbirlerin araştırma süreçleri üzerindeki tesirini takip edecek.
Olay, gelişmiş yapay zekâ modellerinin sadece bilinen güvenlik açıklarını kullanmadığını, yeni atak yolları geliştirerek farklı sistemlerdeki açıkları bir araya getirebildiğini gösterdi. OpenAI ve Hugging Face, inceleme tamamlandıktan sonra kullanılan güvenlik açıkları ve alınan tedbirler hakkında detaylı bilgi yayımlayacak.
