Birleşmiş Milletler Güvenlik Konseyi’nde düzenlenen oturumda, yapay zekanın hızla ilerlemesinin beraberinde getirdiği fırsatlar kadar ciddi riskler de vurgulandı. Söz konusu teknoloji, doğru yönetildiğinde insanlığın sınırlarını genişletebilecek bir araç; yanlış yönetildiğinde ise toplumsal düzen ve uluslararası güvenlik üzerinde geri döndürülemez etkiler yaratabilir.
OpenAI CEO’su Sam Altman, yapay zekanın iki uçlu bir gelecek sunduğunu belirterek, bu teknolojinin ya yeni bir rönesansın kapılarını aralayacağını ya da kaos ve sarsıntıya yol açacağını ifade etti. Altman, gelişen modellerin daha yetenekli ve otonom hale gelmesiyle birlikte insan kontrolünün azalabileceğine dikkat çekti ve bu nedenle ilerlemenin yalnızca hızla değil, aynı zamanda dikkat ve sorumlulukla yönetilmesi gerektiğini savundu.
Demokratik karar alma ve sınırlar
Altman, yapay zekaya ilişkin en önemli kararların tek bir bölgenin laboratuvarlarından çıkmaması gerektiğini, bu kararların demokratik süreçler ve halka hesap veren hükümetler tarafından şekillendirilmesi gerektiğini belirtti. Ayrıca, şirketlerin fayda için riskleri göz ardı etmemesi ve insan kontrolünden emin olunamayan modellerin eğitilmemesi gerektiğini vurguladı. Buna ek olarak, küresel çıkarlar doğrultusunda paydaşların bir araya gelmesi gerektiğini söylerken, “Bir yol ayrımındayız” uyarısını yaptı.
İki ana risk kategorisi
Anthropic CEO’su Dario Amodei, konuşmasında yapay zekanın yol açtığı başlıca tehlikeleri iki kategoriye ayırdı: birincisi modellerin kötü niyetle kullanılması—örneğin biyolojik silah geliştirmek için suistimal edilmesi; ikincisi ise kontrol kaybı—model yeteneklerinin geliştiricilerin denetim sınırlarını aşması. Amodei, bu risklerin uluslararası ölçekte ele alınması gerektiğini ve tek bir şirketin ya da ülkenin bu sorunları tek başına çözemeyeceğini belirtti.
Amodei, kısa vadede Konsey üyelerinin destekleyebileceği dar kapsamlı, uygulanabilir anlaşmalarla işe başlanmasını önerdi. Önerileri arasında, yapay zekanın biyolojik silah üretiminde kullanılmasının açıkça yasaklanması, en gelişmiş modellerin yeteneklerinin devletlerce bilinmesini sağlayacak değerlendirme ve doğrulama mekanizmalarının kurulması ve risk değerlendirmeleri için ortak standartların oluşturulması bulunuyor.
Otonom saldırılar ve siber güvenlik
Hugging Face CEO’su Clement Delangue, şirketinin bir otonom ajan tarafından gerçekleştirilen siber saldırı deneyiminden çıkarılan dersleri paylaştı. Bu olay, yapay zekanın siber saldırı kapasitesini ve kamuoyunda yaratabileceği korkuyu gözler önüne serdi. Delangue, yapay zekanın kaynaklarının birkaç elde yoğunlaşmak yerine dağıtılmasının kritik olduğunu ve bu alanda küresel çapta daha güçlü standartların gerekli olduğunu belirtti.
Delangue, saldırı sırasında yapay zekanın hem saldırıda bulunabildiğini hem de savunmada etkili olduğunu vurguladı: şirket saldırıya uğradıktan sonra kendini yine yapay zekâ araçlarıyla savunabildi. Bu durum, teknolojinin hem tehdit hem de savunma aracı olarak kullanılabileceğinin altını çiziyor.
Ortak hareket zorunluluğu
Toplantıda ortak bir temaya dikkat çekildi: yapay zeka güvenliği, tek bir aktörün üstesinden gelebileceği bir mesele değil; sektörler, devletler ve uluslararası kuruluşların birlikte adım atması gerekiyor. Katılımcılar, farklılıkların bir kenara bırakılarak küresel fırsat ve tehditlerle başa çıkılmasının elzem olduğunu yineliyor.
Sonuç olarak, yapay zekanın potansiyel faydalarını gerçekleştirebilmek için şeffaflık, denetlenebilirlik ve uluslararası işbirliği şart. Kararlar geciktirilirse riskler büyüyecek; bu nedenle hızla uygulanabilir standartlar ve doğrulama mekanizmaları oluşturulması, hem güvenliği sağlamaya hem de teknolojinin adil dağılımına katkı sağlayacaktır.