OpenAI sözcüsüne göre, sistemde herhangi bir görsel, sesli veya video içeriği üretimi desteklenmeyecek. Kullanıcılar, yalnızca yetişkin temalı metin tabanlı sohbetler gerçekleştirebilecekler. OpenAI CEO’su Sam Altman, Ekim ayında yaptığı açıklamada, güvenlik kısıtlamalarını gevşeterek onaylanmış yetişkinler için bu tür bir sistemin getirileceğini belirtmişti. Ancak, bu özelliğin piyasaya sürülmesi, öncelikli diğer görevler ve güvenlik endişeleri nedeniyle ertelendi. Bu ertelemenin ardında yatan temel nedenlerden biri, çocukları koruma konusundaki teknik ve etik zorluklar. Şirketin danışma kurulu, bu modun çocukların erişimine açık olabileceği ve sohbet botuna karşı sağlıksız bir duygusal bağımlılık yaratabileceği konusunda uyarılarda bulundu. Kurul üyelerinden biri, sistemin ‘seksi bir intihar koçu’ yaratma riski taşıdığını ifade ederek durumun ciddiyetine dikkat çekti.
ChatGPT yetişkin modu Neler Sunuyor?
Sistemi reşit olmayanlardan uzak tutmak amacıyla geliştirilen yaş tahmin algoritmasının testlerde çocukları %12 oranında yetişkin olarak yanlış sınıflandırdığı tespit edildi. ChatGPT’yi her hafta 18 yaş altı yaklaşık 100 milyon kişinin kullandığı düşünüldüğünde, bu hata payı milyonlarca çocuğun cinsel içerikli sohbetlere erişmesine neden olabilir. Geliştirici ekip, yetişkin içerik kısıtlamalarını esnetirken, çocuk istismarı ve rıza dışı senaryoları engellemek için yoğun çaba sarf ediyor. Sistemin yalnızca metin tabanlı kalması, markanın İngiltere’nin Çevrimiçi Güvenlik Yasası gibi katı kuralları daha kolay aşmasını sağlıyor. Bu yasalar, görsel pornografide yaş doğrulaması şartı ararken, yazılı metinleri muaf tutuyor. Öte yandan, Elon Musk’ın xAI şirketi, Grok yapay zekası ile ‘R-rated’ derecelendirmesine giren görsel ve video üretimlerine açıkça izin vererek farklı bir strateji izliyor.
OpenAI’ın bu hamlesi, yapay zeka etiği ve içerik denetimi konularında önemli tartışmaları beraberinde getiriyor. Bir yandan, yetişkinlere yönelik özgür ve sansürsüz bir deneyim sunma amacı güdülürken, diğer yandan çocukların korunması ve potansiyel zararların önlenmesi gibi kritik sorumluluklar bulunuyor. OpenAI’ın bu dengeyi nasıl sağlayacağı ve yetişkin modunun kullanıcılar tarafından nasıl karşılanacağı merak konusu. Rekabetin kızıştığı yapay zeka pazarında, bu tür cesur adımlar şirketlerin farklılaşmasına ve kullanıcı tabanını genişletmesine yardımcı olabilir. Ancak, beraberinde getirdiği risklerin de dikkatlice yönetilmesi gerekiyor.
