ABD'de Megastar Taylor Swift'in müstehcen ve pornografik resimlerinin bu hafta dolaşımı, yapay zekanın inandırıcı derecede gerçek, zarar verici ve sahte görüntüler yaratma becerisine ışık tuttu. Yapay zeka araçlarına erişimin artmasıyla birlikte uzmanlar, okul çağındaki çocuklardan yetişkinlere kadar herkes için durumun çok daha kötü hale gelmek üzere olduğunu söylüyor.
Şimdiden New Jersey'den İspanya'ya kadar dünyanın dört bir yanındaki bazı lise öğrencileri , yüzlerinin yapay zeka tarafından manipüle edildiğini ve sınıf arkadaşları tarafından çevrimiçi olarak paylaşıldığını bildirdi. Bu arada, tanınmış genç bir Twitch yayıncısı, oyun camiasında hızla yayılan sahte, müstehcen bir pornografik videoda kendi benzerliğinin kullanıldığını keşfetti.
CNN'den Samantha Murphy Kelly 'nin haberine göre, Virginia Üniversitesi Hukuk Fakültesi'nden profesör Danielle Citron, "Hedef alınanlar yalnızca ünlüler değil. Bunlar sıradan insanlar. Hemşireler, sanat ve hukuk öğrencileri, öğretmenler ve gazeteciler var. Bunun lise öğrencilerini ve ordudaki insanları nasıl etkilediğine dair hikayeler gördük. Herkesi etkiliyor." dedi.
Ancak uygulama yeni olmasa da megastar Swift'in hedef alınması, yapay zeka tarafından oluşturulan görüntülerle ilgili büyüyen sorunlara daha fazla dikkat çekebilir. Onun sadık hayranlarından oluşan devasa grubu, bu hafta sosyal medyada öfkelerini dile getirerek konuyu ön plana çıkardı.
Citron, "Bu ilginç bir an çünkü Taylor Swift çok seviliyor. Kültürel güce sahip olan kişi genel olarak hayranlık duyulan biri olduğu için insanlar daha fazla dikkat ediyor olabilir… Bu bir hesaplaşma anı.” ifadelerini kullandı.
Taylor Swift'in sahte görselleri ağırlıklı olarak daha önce Twitter olarak bilinen sosyal medya sitesi X'te yayıldı. Şarkıcıyı müstehcen ve müstehcen pozisyonlarda gösteren fotoğraflar, sosyal platformlardan kaldırılmadan önce on milyonlarca kez görüntülendi. Ancak internetteki hiçbir şey sonsuza kadar ortadan kaybolmaz ve şüphesiz bunlar daha az düzenlemeye tabi diğer kanallarda da paylaşılmaya devam edecek.
Seçimleri nasıl etkiler?
Yapay zeka tarafından oluşturulan yanıltıcı görsel ve videoların başkanlık seçimlerini raydan çıkarmak ve dezenformasyon çbalarını hızlandırmak için nasıl kullanılabileceğine dair sert uyarılar ortalıkta dolaşsa da, kadınların yüzlerinin kendi rızaları olmadan nasıl agresif pornografik videolara dönüştürüldüğüne dair kamuoyunda daha az söylem var.
Büyüyen trend, "intikam pornosu" olarak bilinen bir uygulamanın yapay zeka eşdeğeri. Fotoğraf ve videoların gerçek olup olmadığını belirlemek giderek zorlaşıyor.
Ancak bu sefer farklı olan şey, Swift'in sadık hayran kitlesinin, gönderileri etkili bir şekilde kaldırmak için raporlama araçlarını kullanmak üzere bir araya gelmesiydi. Citron, "Bu çabaya pek çok insan katıldı, ancak çoğu kurbanın yalnızca kendisi var" dedi.
"Sosyal medya şirketlerinin içeriği zorunlu olarak izlemek için gerçekten etkili planları yok"
X'in fotoğrafları kaldırmasının 17 saat sürdüği bildirilse de , pek çok manipüle edilmiş fotoğraf sosyal medya sitelerinde yayınlanmaya devam ediyor. Dijital araştırma ajansı Memetica'yı yöneten Ben Decker'a göre, sosyal medya şirketlerinin "içeriği zorunlu olarak izlemek için gerçekten etkili planları yok."
Çoğu büyük sosyal medya platformu gibi, X'in politikaları da "insanları aldatabilecek, kafalarını karıştırabilecek ve zarara yol açabilecek kurgulanmış, manipüle edilmiş veya bağlam dışı medyanın" paylaşılmasını yasaklıyor. Ancak aynı zamanda X, içerik denetleme ekibinin büyük ölçüde içini boşaltmış durumda ve otomatik sistemlere ve kullanıcı raporlamasına güveniyor. (AB'de X şu anda içerik denetleme uygulamaları nedeniyle araştırılıyor).
Diğer sosyal medya şirketleri de içerik denetleme ekiplerini azalttı. Örneğin Meta'nın dezenformasyonla mücadele eden ekiplerinde kesintiler yaptığı ve platformlarında trol ve taciz kampanyalarını koordine ettiği, durumla ilgili doğrudan bilgisi olan kişilerin CNN'e verdiği bilgiye göre, ABD ve dünya genelinde 2024'te yapılacak önemli seçimler öncesinde endişeler arttı.
Decker, Swift'in başına gelenlerin "kamusal meydanı korumaya yetecek kadar kontrol olmadan yapay zekanın birçok kötü nedenden dolayı serbest bırakıldığının en iyi örneği" olduğunu söyledi.
Beyaz Saray: Raporlar bizi alarma geçirdi
Cuma günü görüntülerle ilgili soru sorulduğunda Beyaz Saray basın sözcüsü Karine Jean-Pierre şunları söyledi:
“Bu endişe verici. Az önce ortaya koyduğunuz görüntülerin, daha doğrusu sahte görüntülerin dolaşımına ilişkin raporlar bizi alarma geçirdi ve bu endişe verici.”
Büyüyen bir trend
Bu teknoloji bir süredir mevcut olmasına rağmen Swift'in rahatsız edici fotoğrafları nedeniyle artık yeniden ilgi görüyor. Geçen yıl, New Jersey'li bir lise öğrencisi, kendisinin ve diğer 30 kız sınıf arkadaşının fotoğraflarının manipüle edildiğini ve muhtemelen çevrimiçi olarak paylaşıldığını söyledikten sonra, yapay zeka tarafından oluşturulan pornografik görüntülere yönelik federal yasa için bir kampanya başlattı.
Westfield Lisesi öğrencisi Francesca Mani, yapay zeka tarafından üretilen pornografi mağdurlarını korumaya yönelik yasal başvurunun bulunmamasından duyduğu hayal kırıklığını dile getirdi. Annesi topluluktaki "bir erkek ya da birkaç erkek çocuğun" bu görüntüleri kızların izni olmadan oluşturduğunun ortaya çıktığını söyledi.
Westfield Müfettişi Dr. Raymond González o dönemdeyaptığı açıklamada, "Tüm okul bölgeleri, öğrencilerin her zaman ve her yerde erişebileceği yapay zeka ve diğer teknolojilerin zorlukları ve etkileriyle boğuşuyor" dedi.
Yapay zeka tarafından oluşturulan araçların yükselişi ve bunlara erişim, herkesin bu tür görselleri ve videoları oluşturmasını da kolaylaştırdı. Ayrıca Decker'a göre, açık kaynak platformlarında denetlenmeyen, iş için güvenli olmayan yapay zeka modellerinden oluşan çok daha geniş bir dünya da mevcut.
Bunu kırmak hala zor. ABD'nin dokuz eyaletinde şu anda rıza dışı deepfake fotoğrafların (kişinin benzerliğini taklit etmek için oluşturulan sentetik görüntüler) oluşturulmasına veya paylaşılmasına karşı yasalar var, ancak bunların hiçbiri federal düzeyde mevcut değil.
"Sosyal itibarınız açısından son derece yıkıcı"
Citron, "Çocuk pornografisi yasalarına göre bunu cezalandıramazsınız... ve bu, çocuklara yönelik cinsel istismarın olmaması açısından farklı. Fakat aşağılanma ve bir nesneye dönüştürülme hissi, diğer insanların sizi bir seks objesi olarak görmesi ve bu duyguyu nasıl içselleştirdiğiniz... sosyal itibarınız açısından son derece yıkıcı." yorumunu yaptı.
Resimlerinizi nasıl korursunuz?
İnsanlar, rıza dışı görüntülerde kullanılan benzerliklerden kendilerini korumaya yardımcı olmak için birkaç küçük adım atabilirler. BT hizmetleri şirketi Firewall Teknik'ten bilgisayar güvenliği uzmanı David Jones, insanların profillerini gizli tutmayı ve fotoğrafları yalnızca güvenilir kişilerle paylaşmayı düşünmeleri gerektiğini çünkü "profilinize kimin bakabileceğini asla bilemezsiniz" tavsiyesinde bulunuyor. Yine de “intikam pornosuna” katılan pek çok kişi hedeflerini kişisel olarak biliyor, dolayısıyla genel olarak paylaşılanları sınırlamak en güvenli yol olarak görülüyor.
Buna ek olarak, açık görseller oluşturmak için kullanılan araçlar aynı zamanda çok sayıda ham veri ve yüzleri farklı açılardan gösteren görseller gerektiriyor. Dolayısıyla birisinin üzerinde ne kadar az çalışması gerekiyorsa o kadar iyi. Ancak Jones, yapay zeka sistemlerinin daha verimli hale gelmesi nedeniyle gelecekte başka bir kişinin deepfake versiyonunu oluşturmak için yalnızca tek bir fotoğrafa ihtiyaç duyulabileceği konusunda uyardı.
Bilgisayar korsanlarının kurbanlarının fotoğraflarına erişim sağlayarak onları istismar etmeye çalışabileceğine de dikkati çeken Jones, "Bilgisayar korsanları kararlı oldukları takdirde hesaplarınızda paylaştığınız fotoğraf ve videolarınıza ulaşabilmek için şifrelerinizi kırmaya çalışabilirler. Asla tahmin edilmesi kolay bir şifre kullanmayın ve asla bir yere yazmayın.” dedi.
