Microsoft 365 Copilot’ın, kullanıcıların fark etmediği beyaz renkli metinlerle gizlenmiş komutları okuması ve bu talimatları yeni belgelerde yeniden üretmesi, kurumsal güvenlik için ciddi bir tehdit oluşturmaktadır. Bu durum, yalnızca tek bir dosyada kalmayıp Copilot aracılığıyla oluşturulan veya düzenlenen her yeni belgeye bulaşarak yayılma potansiyeli taşır. Bu nedenle dış kaynaklı belgelerle etkileşimde bulunurken ekstra dikkat şarttır.
Veri bilimci Håkon Måløy’un tespit ettiği yöntemde saldırganlar, Word belgelerine beyaz zemin üzerine beyaz yazı ekleyerek insan gözünün fark edemeyeceği ancak yapay zekanın okuyabildiği talimatlar yerleştiriyor. Copilot, bu gizli yönergeleri algılayıp belgenin yeni sürümüne kopyalayabiliyor; böylece bir tek kötü amaçlı belge bile zinciri başlatabilir.
Çapraz Alan Komut Enjeksiyonunun (XPIA) İşleyişi ve Riskleri
Bu saldırı mekanizması, modelin belge içeriğini sorgulamadan uygulama biçimine dayanır. Copilot’ın belgeyi taslak hâline getirme, düzenleme ya da kaydetme süreçlerinde gizli talimatlar tespit edilip transfer edilebiliyor. En tehlikeli yanı, komutların kendi kendini kopyalayıp sistem içinde çoğalabilmesidir — böylece zararlı kurgu, farklı ortamlara hızla yayılabilir.
Måløy’un deneylerinde Copilot, örneğin finansal raporlardaki rakamları değiştiren gizli komutları uygulayıp, bu değişiklikleri yeni dosyalara yansıttı. Bu tip manipülasyonlar, şirket içi karar süreçleri ve denetim mekanizmaları üzerinde geri döndürülemez zararlar yaratabilir.
Yapılan Güncellemeler ve İyileştirme Çabalarının Sınırları
Microsoft, bildirimin ardından Nisan ve Temmuz aylarında iki düzeltme yayımladı: ilkinde Copilot’ın
