Bing, Google ve DuckDuckGo arama motorları isteğe bağlı değildir ve yapay zekayla oluşturulmuş deepfake pornografi Bazı makul arama sonuçlarının en üstüne yerleştirdiği için ağır eleştirilere maruz kaldı. Bu eleştiriler, NBC News’in yapay zeka destekli pornografinin erişilebilirliğiyle ilgili bazı endişeleri vurgulayan bir rapor yayınlamasının ardından geldi.
Müstehcen deepfake görüntüler, orijinal pornografik materyal kullanılarak ve aktörün (çoğunlukla aktris) yüzünün makul, gerçek bir kişiyle (örneğin bir ünlü) değiştirilmesiyle oluşturulur. Bu değiştirme yapay zeka tarafından otomatik olarak yapılıyor ve sahte görselleri oluşturan kullanıcı, yapay zekayı sadece kurbanın fotoğraflarıyla besliyor.
NBC News’in 36 kadın ünlüden oluşan bir örneklem üzerinde aktörün adı ve “deepfake” kelimesinin birleşimi kullanılarak gerçekleştirdiği testlere göre, Bing ve Google neredeyse tüm durumlarda arama sonuçlarının en üstünde deepfake görseller ve görseller gösterdi. Google üst sıralarda bu şekilde 34 sonuç verirken, Bing 35 sonuç verdi. NBC News, DuckDuckGo’nun da akran sorunları yaşadığını belirtirken sorunun boyutunu belirtmedi.
Ayrıca NBC Haberleri Rıza dışı deepfake pornografi sorunuylaAyrıca “sahte çıplaklar” terimi arandığında ilgili makale ve haberlerin uygunsuz içerikten daha düşük gösterildiğinden şikayetçi oldu.
Yine de NBC News’in, aramaları Bing ve Google’ın müstehcen içeriğin kullanıcıya gösterilmesini engelleyen güvenlik özelliklerini kapatmasının ardından gerçekleştirdiğini kabul ettiğini belirtmekte fayda var.
Bu küçük ayrıntıya rağmen yapay zeka destekli pornografiye kolay erişimin önemli bir sorun olduğu ve bu tür içerik arayan herkesin muhtemelen yerleşik koruma özelliklerini kapatacağı rahatlıkla söylenebilir. Kasıtsız olarak açık bir şekilde yapılan derin sahte içerik doğası gereği yasa dışıdır ve bu nedenle Microsoft, Google ve diğerlerinin ele alması gereken içerik türleri arasındadır.
Deepfake’e karşı ne yapılabilir?
Daha gelişmiş teknolojik önlemleri uygulamanın en kolay yolu veya muhtemelen ilk geçici adımı, bu tür içerik yayınladığı bilinen web sitelerini arama sonuçlarından kaldırmak veya tamamen yasaklamak olacaktır. Testlerindeki en iyi sonuçların yarısından fazlası NBC News tarafından bildirildi. popüler bir deepfake web sitesineveya bir rakiple ilişkilerden oluştuğu için böyle bir adım, arama sonuçlarının halihazırda zararlı olan kalitesini önemli ölçüde azaltabilir.
NBC News’in yorum talebine yanıt vermeyen tek şirket Microsoft oldu. DuckDuckGo sözcüsü, web etkileşimi ve görsel sonuçları için ana kaynağının Bing olduğunu söyledi. DuckDuckGo ayrıca, örneğin makul içeriğin aramadan silinmesini talep etmek gibi bir gizlilik talebi göndermenin yollarını da sunar.
Google, deepfake mağdurları için de benzer bir seçenek sunuyor ancak NBC News, uzmanlara ve aktivistlere atıfta bulunarak bunun yeterli olmadığını savunuyor. Ayrıca hassas içeriğe sahip URL’leri incelenmek üzere göndermeleri istenen mağdurlar bu süreçten daha fazla zarar görebilir.
