ChatGPT'ye Ebeveyn Kontrolü Geliyor! Çocuklar Artık Güvende mi Olacak?

Yapay zeka şirketi OpenAI, ChatGPT kullanıcıları için beklenen ebeveyn kontrollerini duyurdu. Şirket, bu yeni özellikle birlikte platformun daha güvenli bir hale gelmesini hedefliyor. Önümüzdeki ay kullanıma sunulacak olan ebeveyn kontrolleri, özellikle ergen yaştaki kullanıcıların korunması için önemli bir adım olarak değerlendiriliyor.

OpenAI, ChatGPT'nin potansiyel risklerini azaltmak ve kullanıcı güvenliğini artırmak için önemli adımlar atıyor. Ebeveyn kontrolleri, bu çabaların en sonuncusu olarak öne çıkıyor. İşte yeni özelliklerin detayları:

* Ebeveynler, çocuklarının ChatGPT kullanımlarını kontrol edebilecek.

* Çocukların sohbet geçmişi ve diğer verileri üzerinde denetim sağlanacak.

* Sistem, stresli anlarda otomatik uyarılar gönderecek.

EBEVEYN KONTROLLERİ NASIL ÇALIŞACAK?

Ebeveyn kontrolleri sayesinde, ebeveynler kendi ChatGPT hesaplarını ergen çocuklarının hesaplarıyla bağlayabilecek. Bu sayede, ebeveynler çocuklarının ChatGPT'den aldığı yanıtları kontrol edebilecek ve belirli özellikleri devre dışı bırakabilecek. Örneğin, hafıza ve sohbet geçmişi gibi özellikler ebeveynler tarafından kapatılabilecek.

Ayrıca, sistem bir çocuğun stresli bir an yaşadığını tespit ettiğinde otomatik uyarılar gönderecek. Bu özellik, çocuğun duygusal durumu hakkında ebeveynleri bilgilendirerek, erken müdahale imkanı sağlayacak. OpenAI, bu özelliğin geliştirilmesinde uzman görüşlerine başvurulacağını ve böylece ebeveynlerle çocuklar arasında güvenin destekleneceğini belirtti.

GÜVENLİK İÇİN DİĞER ADIMLAR

OpenAI, ebeveyn kontrollerinin ChatGPT'de güvenliği artırmaya yönelik daha geniş bir çabanın parçası olduğunu vurguladı. Şirket ayrıca, yeme bozuklukları, madde kullanımı ve ergen sağlığı konularında uzmanlarla iş birliği yaparak modellerini geliştireceğini duyurdu. Bu iş birlikleri sayesinde, ChatGPT'nin hassas konularda daha duyarlı ve destekleyici yanıtlar vermesi hedefleniyor.

Ek olarak firma, hassas sohbetlerin akıl yürütme modelleri üzerinden yönlendirilmesini sağlayacak yeni bir gerçek zamanlı yönlendirici üzerinde çalışıyor. OpenAI, bu yöntemin "Düşünsel uyum" olarak adlandırıldığını ve testlerde akıl yürütme modellerinin güvenlik yönergelerini daha tutarlı şekilde uyguladığını ve kötü niyetli yönlendirmelere karşı daha dirençli olduğunu gösterdiğini belirtti. Artık ChatGPT, bir kullanıcının stres altında olduğunu algıladığında, kullanılan modele bakılmaksızın sohbeti bu güvenlik odaklı modele yönlendirecek.

CHATGPT VE İNTİHAR İDDİALARI

ChatGPT, kısa bir süre önce bir gencin intiharına neden olmakla suçlanmıştı. O dönem OpenAI, ebeveyn denetimleri getireceğini açıklamıştı. Geçtiğimiz hafta açılan davada, bu yıl intihar eden bir gencin ebeveynleri, ChatGPT'nin oğullarının dört başarısız intihar girişiminin farkında olduğunu ve sonrasında ölüm planlamasına yardımcı olduğunu iddia etti. Ebeveynlere göre ChatGPT, oğullarına belirli intihar yöntemleri hakkında bilgi sağladı ve önceki başarısız girişimlerinden kaynaklanan boyun yaralanmalarını gizleme yolları önerdi. OpenAI, bu iddiaları ciddiye aldığını ve gerekli incelemelerin yapıldığını belirtti.

Kaynak: Haber Merkezi 9SN