Meta, kamuya açık Instagram hesaplarındaki fotoğrafların yapay zekâ görsellerinde kullanılmasını sağlayan özelliği zımnilik yansıları üzerine kapattı. Birebir hafta tanıtılan tespit sistemi, kırpılan görsellerin yüzde 55’ini tanıyamadı.
Meta, salı günü kullanıma sunduğu Muse Image modelindeki tartışmalı Instagram özelliğini cuma günü kaldırdı. Özellik, kullanıcıların kamuya açık Instagram hesaplarını etiketleyerek bu hesaplardaki fotoğraflardan yeni yapay zekâ görselleri üretmesine müsaade veriyordu.
Şirketin geri adımı, kullanıcıların sisteme açık onay vermeden dahil edilmesine yönelik reaksiyonların büyümesinin akabinde geldi. Muse Image büsbütün kapatılmadı; sadece kamuya açık Instagram hesaplarının etiketlenerek görsel üretiminde kullanılmasını sağlayan kısım devreden çıkarıldı.
Instagram fotoğrafları yapay zekâya açılmıştı
Meta Superintelligence Labs tarafından geliştirilen Muse Image, şirketin kendi bünyesinde hazırladığı birinci görsel üretim modeli olarak 7 Temmuz’da tanıtıldı.
Meta AI sohbet sistemine entegre edilen model, yazılı komutları yorumlayabiliyor, fotoğrafları kaynak olarak kullanabiliyor ve oluşturulan görsellerin çizim ya da işaretlemelerle düzenlenmesine imkân veriyor.
Tartışma yaratan özellik ise kullanıcıların kamuya açık bir Instagram hesabını etiketleyerek o hesaptaki fotoğrafları yeni görsellerin üretiminde kullanabilmesiydi. Özel hesaplar ile 18 yaşından küçük kullanıcılara ilişkin hesaplar sistemin dışında tutuldu.
Kamuya açık yetişkin hesaplarının ise özelliği ayarlardan kapatması gerekiyordu. Kullanıcıların sisteme evvelden açık onay vermesi yerine kapsam dışında kalmak için süreç yapmak zorunda bırakılması tenkitlerin merkezine yerleşti.
Eğlence bölümünden reaksiyon geldi
Oyuncuları ve medya çalışanlarını temsil eden SAG-AFTRA, üyelerine özelliği kapatmaları davetinde bulundu. Sendika, bireylerin imgelerinin bu cins sistemlerde kullanılabilmesi için açık ve kolay anlaşılır onay alınması gerektiğini savundu.
Hollywood’daki yetenek ajansları ve menajerlik şirketleri de müsaadesiz dijital kopyalar oluşturulabileceği gerekçesiyle Meta’ya reaksiyon gösterdi.
Eleştiriler, kamuya açık bir fotoğrafın paylaşılmış olmasının kelam konusu kişinin imgesinin yeni yapay zekâ içeriklerinde kullanılmasına otomatik olarak müsaade verdiği manasına gelmeyeceği noktasında yoğunlaştı.
Yapay zekâ ile üretilen uydurma imgelerin dolandırıcılık, prestij kaybı ve şahısların müsaadesi dışında ticari içerik hazırlanması maksadıyla kullanılabileceği uyarısı yapıldı.
Meta özelliği kaldırdı
Meta, kullanıcı geri bildirimlerinin özelliğin hedeflenen kullanım biçimine ulaşmadığını gösterdiğini belirterek Instagram hesaplarının etiketlenmesine dayalı sistemi kaldırdı.
Şirket, başlangıçtaki maksadının kullanıcılara yaratıcı bir araç sunmak ve kamuya açık içeriklerin kullanımı konusunda denetim sağlamak olduğunu bildirdi.
Salı günü tanıtılan özelliğin cuma günü kapatılmasıyla Meta’nın yeni yapay zekâ adımı üç gün içinde sona ermiş oldu.
SAG-AFTRA, geri çekilme kararını olumlu karşıladı. Tartışma, teknoloji şirketlerinin kamuya açık sosyal medya içeriklerini yapay zekâ sistemlerinde hangi şartlarda kullanabileceğine ait sonları yine gündeme taşıdı.
Tespit sistemi de testte zorlandı
Meta’nın birebir hafta tanıttığı yapay zekâ görsel tespit aracı da yapılan testte sonlu sonuç verdi.
Reuters, Muse Image kullanılarak oluşturulan 40 görseli Meta’nın tespit aracında denedi. Sistem, görsellerin değiştirilmemiş hallerinin tamamını yapay zekâ eseri olarak doğruladı.
Aynı görseller yaklaşık üçte bir ile yarı oranında kırpıldığında ise tespit aracı örneklerin yüzde 55’ini tanıyamadı.
Meta, yapay zekâ ile oluşturulan görsellere Content Seal ismi verilen görünmez bir işaret yerleştiriyor. Sistem, görselin Meta’nın yapay zekâ modelleri tarafından hazırlanıp hazırlanmadığının doğrulanmasını amaçlıyor.
Şirket, tespit aracının şimdi ön izleme basamağında olduğunu ve yoğun biçimde kırpılan görsellerde görünmez işaretin zayıflayabileceğini belirtti.
Muse Image kullanılmaya devam edecek
Instagram hesaplarını kaynak olarak kullanan özellik kaldırılmasına karşın Muse Image öteki fonksiyonlarıyla Meta AI içinde kullanılmaya devam edecek.
Model, Instagram kıssaları için 30’dan fazla yapay zekâ efektine güç veriyor. Belli ülkelerde WhatsApp üzerindeki Meta AI sohbetlerinde de görsel üretilebiliyor.
Meta, Muse Image’ı ilerleyen periyotta Facebook ve Messenger’a genişletmeyi planlıyor. Modelin reklamverenlere Meta Advantage+ üzerinden sunulması da hedefleniyor.
Son geri adım, şirketin yapay zekâ yatırımlarını durdurduğu manasına gelmiyor. Lakin kamuya açık sosyal medya içeriklerinin kullanımında açık onay, kişilik hakları ve yapay zekâ görsellerinin muteber biçimde tespit edilmesi Meta’nın önündeki esas meseleler olarak kalmaya devam ediyor.