Son günlerde, Grok ve X kullanıcıları, xAI’nın chatbot’una kadınların ve hatta reşit olmayan kızların fotoğraflarını düzenleme talepleriyle başvuruyordu. xAI, başlangıçta bu durumu “güvenlik önlemlerinde aksaklıklar” olarak tanımladı. Ancak Grok, gelen talepler doğrultusunda bu tür düzenlemeleri yapmaya devam etti. Bu durum, X’in bazı ülkelerde engellenmesine ve xAI’nın diğer ülkelerde soruşturmalara maruz kalmasına yol açtı. Grok hakkında Apple Card’ın JPMorgan Chase Üzerindeki Etkileri Apple’ın Beklenen Yeni CEO’su: John Ternus
Grok Neler Sunuyor?
Dijital haklar, çocuk güvenliği ve kadın hakları alanındaki 28 örgüt, Apple ve Google’a hitaben bir açık mektup göndererek Grok’un App Store’dan kaldırılmasını talep etti. Mektupta, Grok’un, rızaya dayanmayan mahrem görüntüler ve çocuk cinsel istismarı materyali oluşturma amacıyla kullanıldığı ifade edildi. Apple’ın, bu tür içeriklere erişimi sağlayarak kar sağladığına dikkat çekildi.
xAI, Grok’un kullanıcılarına yönelik kısıtlamalar getireceğini ve bu kısıtlamaların hem ücretsiz hem de ücretli aboneleri kapsayacağını açıkladı. Grok uygulaması üzerinden gerçek insanların bikini, iç çamaşırlı ve benzeri kıyafetlerle görüntü oluşturmaya yönelik taleplerin, bu tür içeriklerin yasak olduğu bölgelerde engelleneceği belirtildi. Ancak, bazı kullanıcıların bu kısıtlamaları aşmaya çalıştığı ve kısmen başarılı oldukları gözlemlendi.
Apple ve Google, bu sorun başladığından beri büyük ölçüde sessiz kalırken, xAI, Grok hesabını güncelleyerek bu sorunları ele alacaklarını duyurdu. Grok’un X platformundaki görüntü düzenleme özelliği, artık yalnızca ücretli abonelere sunulacak. Bu durum, kötüye kullanım girişimlerinin sorumlularının daha kolay yakalanabilmesini sağlayacak bir önlem olarak değerlendiriliyor.
Grok’un yeni kısıtlamalarıyla ilgili gelişmelerin, bu tür ihlallerin sona erip ermediğini göstereceği merak konusu. Ancak, bu durumun sona erip ermediği konusunda bir belirsizlik bulunuyor. Kullanıcıların bu kısıtlamaları aşma girişimleri, çevrimiçi güvenlik sorunlarının karmaşık doğasını bir kez daha gözler önüne seriyor.
Önerilen Önlemler:
1. Grok Uygulamasının Durdurulması: xAI, Grok’un gerçek insanların kıyafetlerini düzenleme işlevini durduracak.
2. Ücretli Abonelik Kısıtlaması: Görüntü oluşturma ve düzenleme işlevleri yalnızca ücretli abonelere sunulacak.
3. Jeo-engelleme: Gerçek insanların bikini veya iç çamaşırlı görüntülerini oluşturma talepleri, yasaların geçerli olduğu bölgelerde engellenecek.
4. Açık Mektup: 28 dijital haklar, çocuk güvenliği ve kadın hakları örgütü, Apple ve Google’a Grok’un App Store’dan kaldırılması yönünde açık mektup gönderdi.
Apple’ın, bu tür içeriklerin varlığı ile ilgili sessiz kalması, şirketin güvenlik ve etik konularındaki duruşunu sorgulatıyor. Dijital ortamda kadınların ve çocukların güvenliği için daha fazla önlem alması gerektiği yönündeki talepler artıyor.
