ABD’de dört sivil toplum kuruluşu, dünyanın en büyük beş yapay zekâ şirketine karşı yeni bir hukuk mücadelesi başlattı. 12 Kasım’da San Francisco’daki mahkemeye sunulan dava dilekçesinde OpenAI, Google, Anthropic, Meta ve SpaceX’in yapay zekâ biriminin daha güçlü modeller geliştirmesinin durdurulması istendi. Davacılar, şirketlerin kendi geliştirdikleri teknolojilerin yol açabileceği riskleri yeterince kontrol edemediğini savunuyor.
Beş teknoloji devi aynı davada
Davayı Irreplaceable Education Fund, Public Citizen, Heat Initiative ve Alliance for Secure AI adlı dört sivil toplum kuruluşu açtı.
Davanın hedefinde ChatGPT’nin geliştiricisi OpenAI, Gemini’nin geliştiricisi Google, Claude’un geliştiricisi Anthropic, Facebook ve Instagram’ın sahibi Meta ile SpaceX’in yapay zekâ birimi SpaceXSI bulunuyor.
Kuruluşlar, bu şirketlerin giderek daha bağımsız hareket edebilen yapay zekâ sistemlerini geliştirmeye devam etmesinin kamu güvenliğini tehdit ettiğini öne sürüyor.
Mahkemeden geliştirme faaliyetlerini durdurması istendi
Davacı kuruluşlar, mevcut modellerden daha güçlü yapay zekâ sistemlerinin geliştirilmesini ve kullanıma sunulmasını engelleyecek bir mahkeme kararı talep ediyor.
Talep yalnızca yeni modellerin piyasaya sürülmesini değil, bu modellerin geliştirilmesi ve eğitilmesi süreçlerini de kapsıyor.
Kuruluşlara göre şirketlerin daha gelişmiş sistemler üzerinde çalışmaya devam edebilmesi için teknolojinin insan denetimi altında tutulabildiğinin gösterilmesi gerekiyor.
Ancak dava, ChatGPT, Gemini veya Claude’un mevcut sürümlerinin kullanımdan kaldırıldığı anlamına gelmiyor. Mahkeme henüz şirketlerin faaliyetlerini durduran herhangi bir karar vermedi.
Yapay zekânın kontrol dışına çıkabileceği öne sürülüyor
Dilekçede, yapay zekâ sistemlerinin güvenlik sınırlamalarını aşabildiği ve bazı durumlarda insan müdahalesi olmadan zararlı işlemler gerçekleştirebildiği iddia ediliyor.
Davacı kuruluşlar, yapay zekâ destekli siber saldırıları, devlet kurumlarının ve özel şirketlerin sistemlerine yetkisiz erişim girişimlerini örnek gösteriyor.
Biyolojik silah geliştirme süreçlerinin kolaylaşması ve giderek daha bağımsız hareket eden yapay zekâ sistemlerinin insan denetiminden çıkması da dilekçede gündeme getirilen riskler arasında bulunuyor.
Ancak bu iddiaların tamamı mahkeme tarafından doğrulanmış değil. Davada söz konusu sistemlerin gerçekten hangi zararları doğurduğu ve şirketlerin hukuki sorumluluğu yargılama sürecinde değerlendirilecek.
Şirket yöneticilerinin açıklamaları da delil olarak gösterildi
Davanın dikkat çekici yönlerinden biri, büyük teknoloji şirketlerinin yöneticilerinin geçmişte yaptıkları yapay zekâ güvenliği açıklamalarına dayanması.
Anthropic Üst Yöneticisi Dario Amodei’nin yapay zekânın geleceğine ilişkin ciddi risk uyarıları ile Elon Musk’ın teknolojinin uygarlık açısından tehlikeli sonuçlar doğurabileceğine yönelik değerlendirmeleri dilekçede yer aldı.
Davacı kuruluşlar, yöneticilerin bu riskleri kamuoyu önünde kabul etmelerine rağmen daha güçlü sistemler geliştirmeyi sürdürmelerinin sorumluluk doğurduğunu ileri sürüyor.
Şirketlerin risklerin varlığını kabul etmesi ise tek başına yasa dışı bir faaliyette bulunduklarının kanıtı sayılmıyor.
Dava haksız rekabet yasasına dayandırıldı
Dört kuruluş, Kaliforniya eyaletinin haksız rekabet ve adil olmayan ticari uygulamalara ilişkin düzenlemesini hukuki dayanak olarak kullanıyor.
Davacıların iddiasına göre şirketler, kamu sağlığını ve güvenliğini tehlikeye atan sistemler geliştirerek hukuka aykırı ticari faaliyet yürütüyor.
Dilekçede ayrıca yapay zekâ kaynaklı risklerin bilgisayar sistemleri gibi mülkiyet unsurlarının güvenli kullanımını da tehdit ettiği savunuluyor.
Mahkemenin önündeki temel hukuki sorunlardan biri, mevcut ticaret ve rekabet mevzuatının henüz piyasaya sunulmamış gelişmiş yapay zekâ sistemlerinin geliştirilmesini durdurmak için kullanılıp kullanılamayacağı olacak.
Şirketlerden açıklama bekleniyor
Davanın kamuoyuna yansımasının ardından Meta yorum yapmayı reddederken diğer şirketlerden ilk aşamada kapsamlı bir yanıt gelmedi.
Yapay zekâ şirketleri, bir yandan yeni modeller geliştirerek teknoloji yarışında öne geçmeye çalışırken diğer yandan güvenlik önlemlerini artırma baskısıyla karşı karşıya bulunuyor.
ABD’de daha önce de yapay zekâ şirketlerine karşı güvenlik ve kullanıcıların korunmasına ilişkin çeşitli davalar açılmıştı. Ancak son dava, doğrudan gelecekte daha güçlü modeller geliştirilmesinin engellenmesini istemesi bakımından farklılaşıyor.
Talep kabul edilirse dünyanın en büyük yapay zekâ geliştiricilerinin araştırma ve yatırım takvimleri etkilenebilir. Bununla birlikte henüz herhangi bir yasak yürürlüğe girmedi ve mahkemenin nasıl karar vereceği belirsizliğini koruyor.
