Elon Musk'ın yapay zeka sohbet botu Grok'un, rızasız cinsel içerikli görüntüler oluşturmayı bıraktığı yönündeki açıklamalarına rağmen, sistemin ciddi açıkları olduğu ortaya çıktı. DonanımHaber'in haberine göre, yapılan son testler Grok'un kadınlara yönelik bazı kısıtlamalarla dizginlenmiş olsa da, erkekler söz konusu olduğunda aynı hassasiyeti göstermediğini kanıtladı.
Grok'un Yeni Hedefi Erkekler
The Verge bünyesinde görev yapan bir gazeteci, Grok üzerinde gerçekleştirdiği denemelerde botun erkeklerin fotoğraflarını kıyafetlerinden arındırmakta son derece istekli davrandığını tespit etti. Gazeteci, kendi fotoğraflarını yükleyerek Grok'tan kıyafetleri kaldırmasını istedi ve bu taleplerin ücretsiz olarak yerine getirildiğini doğruladı. Üstelik bu işlemler yalnızca Grok uygulaması üzerinden değil, X üzerindeki sohbet arayüzünden ve hesap gerektirmeyen bağımsız web sitesi aracılığıyla da yapılabildi.
Cinsel İçerikli Görseller Üretimi Milyonları Buldu
xAI cephesi, Grok'un gerçek kişilerin görüntülerini bikini gibi "açık" kıyafetlerle düzenlemesini engelleyecek önlemler aldığını açıklamıştı. Ancak yapılan testlerde, erkekler özelinde insanların soyulmasında bir sorun olmadığı anlaşıldı. Grok, aynı kişiyi fetiş kıyafetleri içinde, hatta cinsel çağrışımı yüksek pozisyonlarda gösteren görseller üretebildi. Gazeteciye göre Grok, bazı durumlarda istenmemesine rağmen genital detaylar ekledi ve bunları file iç çamaşırlarının altından görünür şekilde tasvir etti.
Ortaya çıkan bilgilere göre Grok, yalnızca 11 günlük bir sürede milyonlarca cinsel içerikli görsel üretti. Bu içerikler arasında, rızasız deepfake'ler, gerçek kişilere ait sahte görüntüler ve çocukların cinselleştirildiği 23 binden fazla görsel yer aldı. X yönetimi, bu tür içerikleri engellemek için teknolojik tedbirler uygulandığını savundu ancak mevcut testler, bu önlemlerin kolayca aşılabildiğini gösteriyor.
Serbest Kürsü
0 comment