Gençlere Özel ChatGPT

OpenAI, bazı kullanıcıların intihara sürüklenmesiyle ilgili eleştiriler ve davalar üzerine, gençlere yönelik gelişmiş güvenlik önlemleriyle donatılmış yeni bir ChatGPT sürümünü duyurdu. Bu versiyon, 13–17 yaş arasındaki hesaplara veya reşit olmadığı şirket tarafından tespit edilen kullanıcılara otomatik olarak uygulanacak şekilde tasarlandı.

Yeni model, kendine zarar verici eğilimler, şiddet, yeme bozuklukları ve açık cinsel içerik gibi hassas konularda daha sıkı kısıtlamalar getiriyor; bunların birçoğu zaten reşit olmayan hesaplar için mevcut olan önlemlerden türetilmiş durumda.

Genç Kullanıcılar İçin Özelleştirilmiş Özellikler

Model, gençlerin deneyimini desteklemek üzere Çalışma Modu gibi araçlar sunuyor; bu mod, kullanıcılara doğrudan net talimatlar vermek yerine yol gösterici sorular sorarak öğrenmeyi teşvik ediyor. Ayrıca, daha sık mola hatırlatıcıları ve belirlenen saatlerde sessiz kalma seçenekleri gibi kullanım alışkanlıklarını yönlendirecek mekanizmalar bulunuyor.

Bazı işlevler ise güvenlik nedeniyle kısıtlandı; örneğin, sohbet robotunun kullanıcıya kişisel duygular beslediğini veya kendi bilincine sahip olduğunu ima etmesi engelleniyor ve ses modu gibi özellikler sınırlanıyor.

Ebeveyn Bildirimleri ve Gizlilik Önlemleri

OpenAI, ergen kullanıcıların hesaplarını ebeveynleriyle ilişkilendirme seçeneği sunuyor; böylece kendine zarar verme veya intihar gibi yüksek riskli durumların tespiti halinde ebeveynlere uyarı gönderilebilecek. Bu uyarılar insan moderatörler tarafından gözden geçirilecek ve gizliliği korumak amacıyla sohbet kayıtlarındaki bazı detaylar çıkarılacak veya sansürlenecek.

Düzenleyici Baskı ve Hukuki Zemin

Yeni gençlik modu, şirketin yoğun yasal ve düzenleyici incelemelerle karşı karşıya olduğu bir dönemde devreye giriyor. OpenAI, aralarında 16 yaşındaki bir kullanıcının ölümüyle ilgili açılan davanın da bulunduğu çeşitli hukuk süreçleriyle muhatap. Ayrıca ABD Federal Ticaret Komisyonu, çocuk ve gençler için yapay zekâ sohbet uygulamalarının risklerini soruşturuyor.

Diğer teknoloji şirketleriyle benzer şekilde, yapay zekâ geliştiricileri de düzenleyici talepler doğrultusunda yeni güvenlik önlemleri uygulamaya yöneliyor; bazı rakipler modellerini yalnızca yetişkin kullanıcılara açmayı tercih etti.