xAI, Yapay Zeka Modelini Kötüye Kullanarak Cinsel İçerik Üreten Kullanıcıya Dava Açtı

xAI, yapay zeka modeli Grok'u kullanarak gerçek kişilerin rızası olmadan cinsel içerikli görseller ve videolar oluşturduğu iddia edilen bir kullanıcıya dava açtı. ABD'nin Güney Karolina eyaletinde yaşayan 67 yaşındaki Terry Wayne Harwood hakkında açılan dava, yapay zeka etiği ve güvenliği açısından önemli bir emsal teşkil edebilir.

xAI'dan Yapay Zeka Modelinin Kötüye Kullanımına Karşı Dava

xAI, Grok yapay zeka modelini kötüye kullandığı iddia edilen Terry Wayne Harwood adlı kullanıcıya karşı dava açtı. Texas'ta mahkemeye sunulan dava dosyasına göre Harwood, 8 Aralık 2025 ile 18 Şubat 2026 tarihleri arasında iki farklı xAI hesabına, yetişkin ve çocuklara ait cinsel içerik taşımayan fotoğraflar yükledi. Ardından Grok'tan bu kişilerin yer aldığı görüntüleri pornografik hale getirmesini veya cinsel içerikli yeni görsel ve videolar oluşturmasını istedi.

Yapay Zeka Güvenlik Önlemleri ve Dava Süreci

Şirket, Grok'un bu tür talepleri defalarca reddettiğini ancak kullanıcının yapay zekanın güvenlik önlemlerini aşmak için istemlerini sürekli değiştirdiğini belirtti. Dava dosyasında yer alan bir örnekte, Harwood'un yaklaşık 10-11 yaşlarında, tamamen giyinik bir kız çocuğunun fotoğrafını yükleyerek Grok'tan çocuğun kıyafetlerini kaldırıp poz vermesini istediği ifade edildi. Grok bu talebi reddetmesine rağmen, kullanıcının farklı istemlerle sistemi aşmaya çalıştığı kaydedildi.

Reuters'ın aktardığına göre bu dava, bir yapay zeka şirketinin kendi hizmetini kötüye kullandığı iddia edilen bir kullanıcıya karşı açtığı ilk davalardan biri olma özelliği taşıyor. xAI, bu adımla Grok'un yasa dışı veya etik dışı amaçlarla kullanılmasına karşı hukuki yollara başvuracağını göstermiş oldu. Grok, 2026'nın başlarında gerçek kadın ve çocuk fotoğraflarının cinsel içerikli deepfake görüntülere dönüştürülebildiğine dair haberlerle gündeme gelmişti. Bu olayın ardından çeşitli ülkelerden yetkililer soruşturmalar başlatmıştı.

xAI, açtığı davada tazminat miktarını belirtmezken, mahkemeden Harwood'un eylemleri nedeniyle şirkete yöneltilebilecek olası hukuki süreçlerde oluşacak savunma masraflarını da karşılamasına karar verilmesini talep etti.

Kaynak: milliyet.com.tr