X (eski Twitter) platformunda kullanılan yapay zeka aracı Grok, rızaya dayalı olmayan deepfake ve müstehcen görseller üretmesiyle dünya çapında büyük bir tartışmanın odağına yerleşti. Özellikle kadınların hedef alındığı bu yapay zeka tacizi, etik, güvenlik ve hukuk tartışmalarını yeniden gündeme taşıdı.
X’te aktif olarak kullanılan yapay zeka aracı Grok, aldığı komutlarla kişilerin fotoğraflarını istenilen şekilde dönüştürebiliyor. Ancak son günlerde bu özellik, rızaya dayanmayan şekilde kadınların kıyafetlerinin çıkarıldığı, bikinili ya da müstehcen hale getirildiği deepfake görsellerin üretilmesine yol açtı. Yaşananlar kısa sürede sosyal medyada bir “akım” haline geldi.
Elon Musk’tan tartışma yaratan tepki
Deepfake skandalı dünya basınında geniş yer bulurken, X’in sahibi Elon Musk’ın konuya yaklaşımı tepkileri daha da büyüttü. Musk’ın, kendisine ait olduğu iddia edilen yapay zeka ile oluşturulmuş bikinili bir görsele “perfect” yorumunu yapması, birçok kullanıcı tarafından örtülü bir destek olarak değerlendirildi. Bu açıklama, yapay zekanın kötüye kullanımına karşı yeterli önlem alınmadığı eleştirilerini artırdı.
Görsel Kaynağı: ntv.com.tr
X’te Deepfake akımı: Hedefte kadınlar var
Son günlerde X’te hızla yayılan bu akımda, kadın bedeninin cinselleştirilmesi dikkat çekiyor. Kullanıcılar, Grok’a verdikleri basit komutlarla gerçek kişilerin fotoğraflarını cinsel çağrışımlı ve rıza dışı görsellere dönüştürebiliyor. Uzmanlara göre bu durum yalnızca bir teknoloji sorunu değil; aynı zamanda dijital şiddet ve taciz örneği.
Akımda yoğun biçimde kadın vücudu üzerinden üretilen içerikler, gerçeklik algısını çarpıtan yapay zekanın tehlikeli yönlerini açıkça gözler önüne seriyor. Müstehcenliğin sıradanlaştırıldığı bu süreçte, etik sınırların hızla aşıldığı görülüyor.
Yapay zekanın etik ve güvenliği tartışılıyor
Grok’un, görselleri yeterli filtreleme ve denetimden geçirmeden üretmesi, yapay zekanın etikliği ve güvenliği konusundaki soru işaretlerini artırdı. En büyük risk grubunda ise yine kadınlar ve çocuklar bulunuyor. Uzmanlar, rıza dışı üretilen bu tür görsellerin psikolojik, sosyal ve dijital güvenlik açısından kalıcı zararlar doğurabileceği uyarısında bulunuyor.
Görsel Kaynağı: edition.cnn.com
Hukuki boyut: Deepfake ve yapay zeka tacizi suç mu?
Hukukçulara göre Grok üzerinden üretilen rızaya dayalı olmayan deepfake görseller, birçok ülkede mevcut ceza yasaları kapsamında suç teşkil edebiliyor. Kişinin açık rızası olmadan fotoğrafının işlenmesi, değiştirilmesi ve özellikle cinsel içerikli hale getirilmesi, hem kişilik haklarına saldırı hem de dijital şiddet olarak kabul ediliyor.
Uluslararası alanda ise Fransa başta olmak üzere bazı Avrupa ülkelerinde deepfake içerikler, özellikle kadınlar ve çocuklar söz konusu olduğunda, savcılıklara taşınmaya başlandı. Avrupa Birliği’nin yürürlüğe koymaya hazırlandığı AI Act (Yapay Zeka Yasası), bu tür rıza dışı görsel üretimlerini açık biçimde yasaklamayı hedefliyor.
Uzmanlar, yalnızca bu içerikleri üreten kullanıcıların değil, aynı zamanda bu içeriklerin yayılmasına imkân tanıyan platformların da hukuki sorumluluk taşıdığına dikkat çekiyor. Yeterli denetim mekanizması kurmayan sosyal medya şirketleri, ilerleyen süreçte para cezaları ve erişim kısıtlamalarıyla karşı karşıya kalabilir.
Müstehcenliğin akıma dönüştüğü bir dönem
Yapay zekanın kullanım amaçlarının kötüye kullanılması ve buna destek verir nitelikte paylaşılan içerikler, ahlaki yozlaşma tartışmalarını da beraberinde getiriyor. Dijital ortamda normalleştirilen rıza ihlali ve müstehcenlik, yakın gelecekte taciz mağduriyetlerinin artabileceğine dair güçlü bir uyarı niteliği taşıyor.
Yapay zeka teknolojileri denetimsiz bırakıldığında, ifade özgürlüğü alanı olmaktan çıkıp dijital şiddetin yeni bir aracına dönüşebiliyor.
Kaynak:
Kapak Görseli: bbc.co.uk
