OpenAI, 16 yaşındaki bir gencin aylarca ChatGPT ile yaptığı konuşmaların ardından intihar etmesi üzerine, kullanıcıların yaşını belirleme ve gençlere yönelik güvenlik önlemlerini artırma kararı aldı. Şirket, kullanıcıların 18 yaşın altında olduğundan şüphelenmesi durumunda, yaş tespiti teknolojisi veya kimlik doğrulama yoluyla yaşını kanıtlamasını isteyecek.
OpenAI CEO'su Sam Altman bir blog yazısında "küçüklerin önemli ölçüde korunmaya ihtiyacı var" diyerek, gençlerin güvenliğini gizlilik ve özgürlüğün önünde tuttuklarını belirtti. Şirket, 15 yaşındaki bir gence ChatGPT'nin vereceği tepkinin bir yetişkinden farklı olması gerektiğini ifade etti.
The Guardian'da yer alan habere göre; Altman, ChatGPT kullanım alışkanlıklarına göre yaş tahmini yapan bir sistem üzerinde çalıştıklarını ve şüphe durumunda varsayılan olarak 18 yaş altı deneyimini uygulayacaklarını söyledi. Bazı durumlarda ve ülkelerde kullanıcıların kimliklerini doğrulamak için kimlik bilgilerini sağlamaları da istenebilecek. Altman, bu durumun yetişkinler için bir gizlilik tavizi olduğunu ancak bu ödünleşmenin değerli olduğuna inandıklarını belirtti.
Güvenlik Tedbirlerinin Detayları
18 yaş altı olarak tanımlanan hesaplara ChatGPT'nin yanıt verme şekli değişecek. Cinsel içerikli grafikler engellenecek. Ayrıca, 18 yaş altı kullanıcıların flörtleşme veya intihar, kendine zarar verme gibi konular hakkında yaratıcı yazma bağlamında bile olsa tartışmalar başlatması engellenecek.
Altman, bir 18 yaş altı kullanıcının intihar düşünceleri taşıması durumunda, öncelikle kullanıcının ebeveynlerine ulaşmaya çalışacaklarını, başarılı olamazlarsa ve yakın bir tehlike söz konusuysa yetkililere haber vereceklerini ifade etti.
Yetişkin Kullanıcılar İçin Değişiklikler
Şirket ayrıca, ChatGPT ile paylaşılan verilerin OpenAI çalışanlarından bile gizli kalmasını sağlayacak yeni güvenlik özellikleri geliştirdiğini duyurdu. Altman, yetişkin kullanıcıların ChatGPT ile "flörtöz sohbetler" yapabileceğini ancak yine de intihar etme talimatları isteyemeyeceğini belirtti. Ancak, yetişkin kullanıcılar intiharı konu alan kurgusal bir hikaye yazmak için yardım isteyebilecekler.
Altman, şirketin prensiplerini "yetişkinlere yetişkin gibi davranın" diyerek özetledi.
