Taylor Swift’in yapay zeka tarafından üretilen pornografik görselleri, yapay zeka tarafından üretilen sahte pornografinin çoğalmasını ve yayılmasını önlemenin zorluğunu hepimize gösterdi.
X’te yayınlanan bu tür Swift görsellerini paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan önce 45 milyondan fazla görüntüleme, 24.000 yeniden paylaşım ve yüz binlerce beğeni aldı. Üstelik paylaşım kaldırılmadan önce yaklaşık 17 saat boyunca platformda yayında kaldı.
Kullanıcılar viral gönderi hakkında konuşmaya başlayınca görüntüler yayılmaya ve başka hesaplarda yeniden paylaşılmaya başlandı. Üstelik birçoğu hala çevrimiçi durumda ve o zamandan bu yana yenileri ortaya çıktı. Bazı bölgelerde” Taylor Swift AI” tabiri trend konu haline geldi ve görsellerin daha geniş bir kitleye ulaşmasını sağladı.
X’in yapay ve manipüle edilmiş medya ve rıza dışı çıplaklığa ilişkin politikaları, bu tür içeriklerin platformda görünmesini açıkça yasaklamaktadır.
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024
Swift’in hayran kitlesi, birçok gönderinin bu kadar uzun süre yayında kalmasına izin verdiği için X’e savaş ilan etti. Hayranlar, görüntüleri dağıtmak için kullanılan hashtag’leri Swift’in gerçek kliplerini tanıtan bildirimlerle doldurarak geçersiz gözlemleri gizlemeye çalıştı.
Bu olay, derin sahte porno gerçek kişilerin yapay zeka tarafından oluşturulan görüntülerini engellemenin ne kadar zor olduğunu ortaya koyuyor. Bazı AI görüntü oluşturucuların ünlülerin çıplak, pornografik ve fotogerçekçi görüntülerinin üretilmesini engelleyen kısıtlamaları vardır, ancak bazıları açıkça böyle bir hizmet sunmaktadır. Aldatmacaların yayılmasını önleme sorumluluğu büyük ölçüde sosyal platformlara düşüyor; bu, en iyi koşullar altında yapılması zor olabilecek bir şey ve hatta X gibi denetleme yeteneklerini kaybetmiş bir şirket için daha da zor.
X, platformda İsrail-Hamas savaşıyla ilgili yanlış bilgilerin yayıldığının tespit edilmesinin ardından, “yasa dışı içerik ve dezenformasyon” amacıyla kullanıldığı iddiasıyla AB tarafından soruşturuluyor ve kriz protokolleri sorgulanıyor.
