Olah, Vatikan Devlet Başkanı Papa 14. Leo’nun, yapay zeka ve gelişen teknolojiler karşısında insanın, insanlık onurunun korunmasına yönelik prensipler içeren ve Katolik Kilisesinin bu bahisteki yaklaşımını ortaya koyan “Magnifica Humanitas (Muhteşem İnsanlık)” isimli papalık evrakını yayınlamasının akabinde değerlendirmelerde bulundu.
Genelgenin sunumuna katılan yapay zeka şirketi Anthropic’in kurucu ortağı Olah, yapay zekaya ait gelişmelerin sadece bilgisayar mühendisleri ve uzmanlar tarafından ele alınmasının kâfi olmayacağını vurguladı.
Olah, “Birçok kişi, yapay zekaya dair problemlerin yalnızca mühendisler tarafından değerlendirilmesinin en hakikat yaklaşım olduğunu düşünebilir fakat bu yanlış. Yapay zekanın ortaya çıkardığı sorular, araştırma topluluğunun hudutlarını aşıyor.” tabirlerini kullandı.
Yapay zeka sistemlerinin bir köprü ya da uçak üzere büsbütün insan denetiminde tasarlanmış yapılar olmadığını belirten Olah, yapay zekanın mühendislerin hudutlarını aştığını kaydetti.
Bu sistemlerin insan sözleri ve niyetlerinden beslendiğini lisana getiren Olah, yapay zekanın onu geliştirenler için bile gizemini koruduğunu söyledi.
Olah, bu durumun bilgisayar mühendislerinin sonlarını aşan etik ve toplumsal soruları beraberinde getirdiğine dikkati çekti.
Yapay zeka çalışmalarının büyük ölçüde birkaç varlıklı ülkede ağırlaştığını kaydeden Olah, “Bu teknolojinin kazanımlarının tüm dünyayla adil biçimde paylaşılmasını sağlayacak bir düzeneğimiz şimdi yok.” dedi.
Olah, dini topluluklar, akademisyenler, hükümetler, sivil toplum kuruluşları ve tüm insanların yapay zekayı daha yakından incelemesi gerektiğini belirtti.
Papa 14. Leo yapay zeka genelgesi yayınlamıştı
Papa 14. Leo, daha evvel sıkça ikazlarda bulunduğu yapay zeka ve gelişen teknolojiler üzerine yazdığı papalık devrindeki birinci genelgesini merasimle kamuoyuna duyurmuştu. Papa, genelgenin sunumuna katılan yapay zeka şirketi Anthropic’in kurucu ortağı Christopher Olah’a özel olarak teşekkür etmişti.
Genelgede, yapay zeka düzeneklerinin birkaç kişinin elinde toplanmaması gerektiğinin altı çizilirken, yapay zeka üzerine çalışan büyük teknoloji şirketlerinin rekabetlerini yavaşlatması davetinde bulunulmuştu.
Papa, “Yapay zeka artık hayatımızın birçok alanına dokunuyor ve insan topluluklarının birlikte ömrünü şekillendiren kararları etkiliyor. Tıpkı vakitte savaşların yürütülme biçimini de dramatik formda değiştiriyor.” diye konuştu. Papa, insan denetiminin ötesine geçen otonom silah sistemleriyle algoritmalara önyargılı ve temelsiz bilgilerin sızdırılmasının ve de insanların bilgiye erişiminin engellenmesinin tasa verici olduğunu belirtti.
Yapay zekanın dünyayı bitmek bilmeyen bir savaşa sürükleme riski olduğuna işaret edilen genelgede, devletlerin ve milletlerarası kuruluşların, insan ömürlerini etkileyen yapay zeka konusundaki gelişmelerle ilgili adil kurallar ve tesirli muhafazalar sağlamakla yükümlü olduğu söz edilmişti. Genelgede, yapay zekanın insanlık onurunun sorumluluğuna emanet edilen bir araç olduğu, silahsızlandırılması gerektiği vurgulanmıştı.
“Güvenli yapay zeka” yaklaşımıyla öne çıkan yapay zeka şirketi Anthropic, farklı tartışmaların odağında bulunuyor.
ABD Savunma Bakanlığı (Pentagon), Anthropic şirketinin bir yapay zeka modeli olan “Claude”u askeri tam otonom silah sistemleri ve kitlesel iç nezarette sınırsız olarak kullanmak istemesine şirketin müsaade vermemesi üzerine, bağlantıyı feshetme tehdidinde bulunmuştu.
Yargıya taşınan tartışmada Claude’u sınırsız bir formda kullanmak isteyen Pentagon, Anthropic’i “ulusal güvenlik riski” ilan edip federal kurumlarda yasaklamıştı.
